Durante los últimos seis meses, Facebook incrementó el alcance de publicaciones con desinformación debido a un “error masivo” en su feed de noticias, reveló The Verge. El incidente fue resuelto recién el 11 de marzo de 2022.
De acuerdo con un reporte interno de la red social, un grupo de ingenieros identificó un problema que expuso a casi la mitad de todos los feeds de noticias de la plataforma. Debido a este problema, el alcance de publicaciones con información falsa, contenido pornográfico y/o violento creció hasta 30 por ciento a nivel global.
Para moderar contenidos, Facebook utiliza un sistema de degradación, cuyo propósito es reducir el alcance de ciertas publicaciones. No obstante, este fallo pone en entredicho este sistema, ya que evidencia el nivel de opacidad que existe sobre su impacto en lo que las personas pueden ver en la red social.
La degradación busca suprimir contenidos que están en el límite de lo permitido por las normas comunitarias de Facebook, sin embargo, esta valoración es realizada principalmente por sistemas de moderación automatizados, los cuales son susceptibles de errores como los de este caso.
El incidente muestra además la urgencia de conocer de forma más transparente los impactos de este sistema.
“¿Qué sucede cuando una poderosa plataforma social tiene una de estas fallas accidentales? ¿Cómo podríamos saberlo? Necesitamos verdadera transparencia para construir sistemas sostenibles de rendición de cuentas, para que podamos ayudar a detectar estos problemas rápidamente”, declaró Sahar Massachi, cofundadora de Integrity Institute, respecto de este incidente.
El sistema de moderación de contenido de Facebook opera en la opacidad y la información que se conoce muestra que en muchos casos comete errores de inteligencia artificial, está sesgado contra ciertas comunidades; privilegia a ciertas personas usuarias por su celebridad y que su parte humana se encuentra rebasada, especialmente en los mercados no angloparlantes de la red social.
Imagen (CC BY) Gibrán Aquino
