El algoritmo para filtrar pornografía de Tumblr comienza a funcionar con fallas

Por: R3D: Red en Defensa de los Derechos Digitales  - 5 diciembre, 2018

Tumblr ha prohibido el contenido pornográfico en su plataforma de microblogs, sin embargo, a apenas unas horas de haber entrado en funcionamiento, el sistema de filtrado automático ya presenta errores graves que afectan a usuarios del sitio.

La plataforma tomó la decisión tras un reciente hecho en que se encontró pornografía infantil en el sitio, por lo que anunció una prohibición total de “fotos, videos o GIFs que muestran genitales humanos o pezones femeninos reales y cualquier contenido, incluyendo fotos, videos, GIFs e ilustraciones, que muestren actos sexuales”.

Para “limpiar” la plataforma, Tumblr anunció una estrategia mixta de filtrado de contenidos que combina aprendizaje automático y moderación humana, además de un sistema de revisiones de errores con personas. Esto significa, necesariamente, el uso de filtros automatizados que identifiquen (flag) contenidos como pornográficos.

Estos sistemas, basados en algoritmos, no son aún lo suficientemente precisos y presentan en muchos casos errores y decisiones que, por decir lo menos, son problemáticas para los usuarios, pero que pueden interferir con el ejercicio de derechos como la libertad de expresión, el derecho a la información y el acceso al conocimiento.

En el corto lapso de su funcionamiento, los usuarios han enfrentado problemas y han notificado errores del sistema de identificación, incluyendo GIFs e imágenes de personas completamente vestidas, paisajes o discusiones sobre comunidades como la LGBTQ+. “En esta primeras etapas, Tumblr está utilizando un pobre sistema para identificar contenido”, explicó la investigadora Abigail Oakley a Wired.

Esta decisión, que supuestamente tenía de entrar en acción hasta el 17 de diciembre, fue tomada 5 años después que el presidente de Tumblr defendiera esta clase de contenido en la plataforma y de que la presidenta de Yahoo, dueña del sitio, también ratificara la apertura hacia la pornografía.

Sin embargo, en marzo de 2018, el Congreso de Estados Unidos pasó un conjunto de leyes, la Ley para Combatir el Tráfico Sexual en Línea y la Ley para Detener el Tráfico Sexual en Línea, y volvió responsables a las plataformas de Internet de los actos que pudieran constituir este delito por parte de sus usuarios. Esto provocó inmediatamente el cierre espacios en línea relacionados con trabajo sexual, como las secciones de personales de Craigslist, subreddits y una sección de Patreon dirigida a creadores adultos.


Imagen original de Descrier: Pixelated pornography

Deja un comentario