Facebook empleó un trato diferenciado en moderación de contenidos para usuarios VIP

El diario The Wall Street Journal reveló que Facebook creó un programa reservado para un grupo de usuarios privilegiados, a quienes dio un trato diferenciado que consiste en no ser sancionados por infracciones de normas comunitarias, así como acceso a canales exclusivos de comunicación para atender sus casos antes que el resto de los usuarios de la plataforma.

La investigación, realizada a raíz de una filtración de informes y documentos internos de la empresa, apunta que el programa XCheck (cross check) eximían a sus integrantes de cumplir con las normas y reglas de moderación de contenidos de esta red social.

Este grupo de usuarios VIP se compone de celebridades, figuras políticas y otros usuarios de “perfil alto” que contaban con un número importante de seguidores y tenían un alcance mediático e influencia altas.

A través de XCheck, Facebook creó una lista especial para exentar a estos usuarios de alto perfil de cumplir con las reglas de la plataforma. La investigación señala que en muchos casos (cerca del 90%), los equipos de moderación de contenidos de Facebook decidían simplemente no aplicar sanciones a las personas incluídas en este programa.

Dentro de los casos más notorios, el diario señala que el futbolista brasileño Neymar Jr. exhibió fotos y videos sin consentimiento de una mujer que lo acusó de haberla violado, Este material fue difundido a millones de personas por más de 24 horas, desactivando el sistema de detección automática de contenidos violatorios.

La revelación pone en cuestionamiento las políticas de neutralidad o de trato igualitario que supuestamente se aplican a todas las personas usuarias de la plataforma. En los hechos, esto significa impunidad para los usuarios VIP, aún en casos de hostigamiento, incitación a la violencia o incluso en posibles hechos constitutivos de delitos.

Además, Facebook ocultó información sobre este programa al Consejo Asesor de Contenido, a quien se le reportó en junio de 2021 que XCheck era usado como un programa de prueba para un número pequeño de decisiones, cuando en realidad el número de usuarios privilegiados asciende a más de 5 millones. La reacción del Consejo fue contundente, al señalar la profunda falta de transparencia por parte de la empresa como uno de sus principales problemas y deudas con el público en general.

Los documentos filtrados al diario (ahora también en poder del Congreso estadounidense) incluyen el testimonio de empleados y exempleados de la empresa, quienes señalan el conocimiento pleno de este programa por los cargos más altos de la compañía, incluído su fundador.

Este hecho es importante por las declaraciones públicas de Mark Zuckerberg frente al Congreso, en las que proporcionó información incompleta sobre el manejo interno de la moderación de contenidos y el trato preferencial a ciertos usuarios, particularmente en el marco del contexto electoral en ese país. En estos casos, al igual que en los de otras celebridades, la aplicación de las normas comunitarias (y las sanciones correspondientes) fueron “congeladas” para dar un trato preferente, y así no remover los contenidos violatorios o no cancelar las cuentas, en los casos más graves.

Bajo criterios de “influencia”, “popularidad” o “valor noticioso” (newsworthy), tanto en Facebook como en Instagram, la empresa habría permitido que contenido violatorio afectará a otros usuarios sin tomar ninguna medida reparatoria ni informar a las personas afectadas al respecto.

La noticia involucra también a los sistemas automatizados que Facebook utiliza para la moderación de contenidos en su plataforma. Estos sistemas deberían haber detectado múltiples casos de violaciones que requerían de moderación (bloqueo o eliminación, por ejemplo), pero que por tratarse de usuarios VIP, esto nunca sucedió, como en el caso de Donald Trump antes de la suspensión definitiva de su cuenta en Facebook.

Aunque el alcance de las medidas de privilegio no es claro, la investigación señala que Facebook habría llegado al extremo de modificar sus algoritmos para evitar perjudicar a los usuarios VIP; además de hacer excepciones a la aplicación de sanciones en casos considerados como desinformación y cambiar la calificación de ciertas publicaciones de los usuarios privilegiados de más altos perfiles.

Los hechos apuntan a que Facebook no solo ha mentido abiertamente a sus usuarios y a distintas autoridades de los Estados Unidos, sino que permitió la creación de un régimen de desinformación provocado por su inacción frente a los usuarios VIP. El doble estándar de la moderación de contenidos también muestra que Facebook ha mentido con sus políticas de transparencia y rendición de cuentas, al dar esconder información fundamental relacionada con sus obligaciones en materia de derechos humanos.


Imagen de Denis Dervisevic (CC BY 2.0)

Publicaciones relacionadas

SCJN invalida delito de ciberacoso en Yucatán por ambigüedad

SCJN invalida delito de ciberacoso en Yucatán por ambigüedad

El Pleno de la Suprema Corte de Justicia de la Nación (SCJN) resolvió la acción de inconstitucionalidad 198/2020, promovida por la Comisión Nacional de los Derechos Humanos, para invalidar el artículo 243 bis 12 del Código Penal del Estado de Yucatán, relativo al delito de ciberacoso, por vulnerar el principio de taxatividad, que exige que los tipos penales sean claros, precisos y de exacta aplicación.

¿Qué tan flexible es realmente el derecho de autor en América Latina?

¿Qué tan flexible es realmente el derecho de autor en América Latina?

La organización Laboratorio de datos y sociedad de Uruguay (Datysoc) anunció que sumó nueve países de América Latina a su mapa interactivo de flexibilidades sobre el derecho de autor, un proyecto que busca mostrar una perspectiva regional y nacional sobre las excepciones y limitaciones a este derecho a través de un sencillo código de color y fuentes bajo licencias de uso libre.

Pleno de la SCJN declara inconstitucional al PANAUT

Pleno de la SCJN declara inconstitucional al PANAUT

El Pleno de la Suprema Corte de Justicia de la Nación aprobó, con nueve votos a favor, el proyecto de sentencia que declara la invalidez total del decreto que crea el Padrón Nacional de Usuarios de Telefonía Móvil (PANAUT), con lo que resolvió las acciones de inconstitucionalidad promovidas por el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) y una minoría del Senado.

La decisión de extraditar a Julian Assange es un ataque contra la libertad de expresión, acceso a la información y derecho a la verdad

La decisión de extraditar a Julian Assange es un ataque contra la libertad de expresión, acceso a la información y derecho a la verdad

El pasado 20 de abril se emitió una orden judicial por el gobierno británico que permite la extradición de Julian Assange a Estados Unidos para ser juzgado por espionaje, con lo cual se transgrede gravemente la libertad de expresión pues criminaliza la actividad periodística y la alerta sobre crímenes de guerra y violaciones a Derechos Humanos.

INAI investiga a la FMF por uso de reconocimiento facial en estadios

INAI investiga a la FMF por uso de reconocimiento facial en estadios

El Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) informó que abrió una investigación a la Federación Mexicana de Futbol por la implementación del registro obligatorio Fan ID, especialmente por las preocupaciones en torno al uso de tecnología de reconocimiento facial.