El Consejo Asesor de Contenido de Meta (Oversight Board) publicó su decisión sobre la moderación excesiva del término “shaheed” y su relación con la figura de “personas designadas como peligrosas”, que es parte de sus normas comunitarias.
Meta había desplegado un sistema de remoción y bloqueo de contenidos que incluían esta palabra, prácticamente en cualquier situación y contexto. El Consejo determinó que la moderación de contenidos de Meta era desproporcionada y afectaba el derecho a la libertad de expresión.
En los hechos, Meta eliminaba todas las expresiones que incorporaran el término “shaheed”, por asociarlo a reivindicaciones de contenido terrorista (glorificación o exaltación de personas que mueren realizando estos actos), lo que configuraba la infracción de la norma comunitaria y justificaba su remoción.
La disputa sobre la excesiva moderación se dio en el contexto de los ataques terroristas de Hamás a Israel, y de la posterior campaña militar de Israel a Gaza, que resultó en la muerte de más de 30 mil personas palestinas (en su gran mayoría mujeres y niños) como parte de una política genocida que fue condenada a nivel internacional. Sin embargo, el Consejo Asesor consideró que la política de moderación era general y rebasaba dicho conflicto para alcanzar un problema de restricción a la libertad de expresión en general.
El término “shaheed” es utilizado en distintos países de idioma árabe para referir a situaciones tan amplias como la muerte de una persona de manera inesperada o de manera honorable, con usos del habla positivos no relacionados con el terrorismo. Sin embargo, Meta moderaba el término con una prohibición absoluta, al tomarlo como directamente relacionado con actos de violencia terrorista sin importar el contexto de la expresión. Dado que Meta identificó, desde el año 2020, el problema de esta moderación, solicitó su opinión al Consejo Asesor para reevaluar sus políticas de moderación de contenidos.
El Consejo Asesor reconoció que “shaheed” es un término utilizado en contextos neutros, noticias, debates académicos, contextos de derechos humanos y en expresiones de modo positivo (muertes honorables relacionadas con defender una causa, una tragedia natural o ser víctimas de violencia sociopolítica).
Por lo tanto, la eliminación automática ignoraba la complejidad lingüística y los usos del lenguaje del término, violando el derecho a la libertad de expresión y de prensa, y limitando el discurso público con medidas de control que eran discriminatorias e incompatibles con el principio de igualdad.
El Consejo recomendó a Meta, entre otras medidas, actualizar sus normas internas para aclarar que el término “shaheed” no las infringe salvo cuando va acompañado de indicios de violencia, en cuyos casos aún puede funcionar una excepción al bloqueo por tratarse de reportes neutrales de hechos de violencia.
Así mismo, Meta debería explicar sus métodos de evaluación de moderación humana y automatizada sobre esta política, además de transparentar cómo se usan los clasificadores de infracciones de políticas y sus alcances para entender cuándo se decide no tomar medidas y cuándo se decide derivar el contenido a revisión manual o eliminarlo.
En el pasado, el Consejo Asesor de Meta también se ha pronunciado sobre otros temas vinculados con la moderación excesiva de contenidos, como revertir la decisión de Facebook de remover una publicación contra el gobierno iraní, solicitar que se reformen las normas comunitarias sobre desnudez o atender la remoción desproporcionada de contenidos que denuncian la violencia de género.
En su momento, R3D: Red en Defensa de los Derechos Digitales presentó comentarios que sostenían que la moderación de contenidos de Meta era incompatible con el derecho a la libertad de expresión en Internet por tratarse de una política discriminatoria que era ejecutada de manera desproporcional y prejuiciosa.
Celebramos la decisión del Consejo Asesor por tratarse de una medida que apunta a mejorar el respeto de los derechos humanos por parte de Meta, la transparencia de sus sistemas y medidas concretas, y la moderación de contenidos de manera compatible con dichos principios.
