Facebook desestimó evidencia de sesgo racial en sus algoritmos de moderación de contenido

Jul 23, 2020 | Libertad de expresión

Un reportaje publicado por NBC News señala que Facebook desestimó los hallazgos de una investigación interna que evidenciaba cómo sus algoritmos de moderación de contenido de Instagram afectaban desproporcionadamente a personas de color. Los investigadores reportaron los resultados a sus superiores, pero se les ordenó no compartir sus descubrimientos ni profundizar en su investigación.

De acuerdo con la investigación citada por NBC, aquellos usuarios de Instagram cuya actividad sugiere que son personas de color, tienen un 50 por ciento más de posibilidades de que su cuenta sea desactivada automáticamente, que aquellos cuya actividad sugiere que son personas blancas.

Facebook basa su combate al discurso de odio en sistemas automatizados que tratan por igual los comentarios ofensivos contra personas blancas que contra mujeres o personas de color, una decisión que ha sido criticada por los propios empleados de la empresa. Esto ha ocasionado que el sistema de moderación tienda a detectar más contenidos ofensivos contra personas blancas, aún si es considerado como menos grave que contra personas de color.

En julio de 2019, una gráfica interna mostró que es la proporción de discurso ofensivo contra personas blancas que es retirado automáticamente es más alta que el que es reportado por los propios usuarios de la plataforma. En contraste, los sistemas de moderación removieron menos discurso ofensivo contra población de color, judía o transgénero de forma automática, lo que indica que las herramientas no lo están detectando. 

Facebook se ha negado sistemáticamente a tratar de forma diferente el discurso ofensivo de acuerdo a su receptor. Además, existen reportes de que la plataforma ha suspendido o ignorado diversos estudios internos que abordan los problemas de sesgo racial de sus algoritmos. 

La moderación automatizada de contenidos representa un problema grave para la libertad de expresión en línea, ya que delegar esta responsabilidad en algoritmos opacos tiene consecuencias como el silenciamiento de expresiones legítimas; además de que pueden presentar sesgos raciales o de género que, como en este caso, afecten a poblaciones en situación de vulnerabilidad.  

Imagen: CC BY-SA 2.0. Backbone Campaign

Publicaciones relacionadas

SCJN invalida delito de ciberacoso en Yucatán por ambigüedad

SCJN invalida delito de ciberacoso en Yucatán por ambigüedad

El Pleno de la Suprema Corte de Justicia de la Nación (SCJN) resolvió la acción de inconstitucionalidad 198/2020, promovida por la Comisión Nacional de los Derechos Humanos, para invalidar el artículo 243 bis 12 del Código Penal del Estado de Yucatán, relativo al delito de ciberacoso, por vulnerar el principio de taxatividad, que exige que los tipos penales sean claros, precisos y de exacta aplicación.

¿Qué tan flexible es realmente el derecho de autor en América Latina?

¿Qué tan flexible es realmente el derecho de autor en América Latina?

La organización Laboratorio de datos y sociedad de Uruguay (Datysoc) anunció que sumó nueve países de América Latina a su mapa interactivo de flexibilidades sobre el derecho de autor, un proyecto que busca mostrar una perspectiva regional y nacional sobre las excepciones y limitaciones a este derecho a través de un sencillo código de color y fuentes bajo licencias de uso libre.

Pleno de la SCJN declara inconstitucional al PANAUT

Pleno de la SCJN declara inconstitucional al PANAUT

El Pleno de la Suprema Corte de Justicia de la Nación aprobó, con nueve votos a favor, el proyecto de sentencia que declara la invalidez total del decreto que crea el Padrón Nacional de Usuarios de Telefonía Móvil (PANAUT), con lo que resolvió las acciones de inconstitucionalidad promovidas por el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) y una minoría del Senado.

La decisión de extraditar a Julian Assange es un ataque contra la libertad de expresión, acceso a la información y derecho a la verdad

La decisión de extraditar a Julian Assange es un ataque contra la libertad de expresión, acceso a la información y derecho a la verdad

El pasado 20 de abril se emitió una orden judicial por el gobierno británico que permite la extradición de Julian Assange a Estados Unidos para ser juzgado por espionaje, con lo cual se transgrede gravemente la libertad de expresión pues criminaliza la actividad periodística y la alerta sobre crímenes de guerra y violaciones a Derechos Humanos.

INAI investiga a la FMF por uso de reconocimiento facial en estadios

INAI investiga a la FMF por uso de reconocimiento facial en estadios

El Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) informó que abrió una investigación a la Federación Mexicana de Futbol por la implementación del registro obligatorio Fan ID, especialmente por las preocupaciones en torno al uso de tecnología de reconocimiento facial.