Facebook propagó desinformación durante 6 meses por un “error masivo”

Abr 4, 2022 | Libertad de expresión

Durante los últimos seis meses, Facebook incrementó el alcance de publicaciones con desinformación debido a un “error masivo” en su feed de noticias, reveló The Verge. El incidente fue resuelto recién el 11 de marzo de 2022.

De acuerdo con un reporte interno de la red social, un grupo de ingenieros identificó un problema que expuso a casi la mitad de todos los feeds de noticias de la plataforma. Debido a este problema, el alcance de publicaciones con información falsa, contenido pornográfico y/o violento creció hasta 30 por ciento a nivel global.

Para moderar contenidos, Facebook utiliza un sistema de degradación, cuyo propósito es reducir el alcance de ciertas publicaciones. No obstante, este fallo pone en entredicho este sistema, ya que evidencia el nivel de opacidad que existe sobre su impacto en lo que las personas pueden ver en la red social.

La degradación busca suprimir contenidos que están en el límite de lo permitido por las normas comunitarias de Facebook, sin embargo, esta valoración es realizada principalmente por sistemas de moderación automatizados, los cuales son susceptibles de errores como los de este caso. 

El incidente muestra además la urgencia de conocer de forma más transparente los impactos de este sistema.

“¿Qué sucede cuando una poderosa plataforma social tiene una de estas fallas accidentales? ¿Cómo podríamos saberlo? Necesitamos verdadera transparencia para construir sistemas sostenibles de rendición de cuentas, para que podamos ayudar a detectar estos problemas rápidamente”, declaró Sahar Massachi, cofundadora de Integrity Institute, respecto de este incidente.

El sistema de moderación de contenido de Facebook opera en la opacidad y la información que se conoce muestra que en muchos casos comete errores de inteligencia artificial, está sesgado contra ciertas comunidades;  privilegia a ciertas personas usuarias por su celebridad y que su parte humana se encuentra rebasada, especialmente en los mercados no angloparlantes de la red social.

Imagen (CC BY) Gibrán Aquino

Publicaciones relacionadas

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

El Protocolo Modelo de Prevención y Actuación en Casos de Discriminación, Acoso y Hostigamiento Sexual y Laboral (Protocolo Modelo) en Organizaciones de la Sociedad Civil es resultado del trabajo de un año entre ocho instituciones (Fundar, Artículo 19, la Red en Defensa de los Derechos Digitales, Ambulante, Serapaz, Instituto de Liderazgo Simone de Beauvoir, Equis Justicia para las Mujeres y Fondo Semillas) que se articularon para crear de “manera participativa y colectiva” para todo el sector.

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

“El proceso de elaboración de una ley de ciberseguridad no ha contemplado la participación equitativa de todos los actores”, señaló Grecia Macías, abogada de R3D: Red en Defensa de los Derechos Digitales, durante la sesión de Parlamento Abierto convocada el lunes 31 de octubre por la Comisión de Ciencia, Tecnología e Innovación de la Cámara de Diputados.