Facebook y Google estarían utilizando herramientas automatizadas, algoritmos, para remover contenido de naturaleza supuestamente “extremista” de la red social y plataformas como YouTube.
De acuerdo con Reuters, quien hizo el reporte, con base en dos fuentes anónimas, la tecnología que estarían usando ambas compañías fue originalmente desarrollada para proteger contenido protegido por derechos de autor en sitios de video.
A partir de un algoritmo o hash, las empresas identifican contenido que ya ha sido marcado como “extremista” y lo remueven de mala forma. Esto también previene que el contenido se vuelva a subir a las redes, pero al mismo tiempo no previene que se suban nuevos contenidos.
Los contenidos estarían ya identificados a través de un directorio que contendría videos de degollamientos o con mensajes de grupos terroristas.
El uso automatizado de algoritmos ha sido uno de los métodos más comunes para remover contenido protegido por derechos de autor de redes sociales, páginas y buscadores. Pero, como ya hemos escrito en este espacio, no es perfecto e incluso se presta a muchos errores, ya que no existe una decisión con criterio de por medio.
Techdirt, haciendo referencia al mismo tema, cita dos casos en los que se ha retirado erróneamente contenido al considerarse como “extremista”: el video de un observador de derechos humanos sirio que fue dado de baja de YouTube, por presiones de un senador estadounidense, y la cuenta de Facebook de una reportera que fue bloqueada por subir una imagen de un amigo que había muerto en Siria.
El contexto en el que se utiliza la información es importante para comprender qué función tiene. Un contenido puede ser usado como extremista y en otros casos como completamente informativo o utilitario.
La aplicación de estos mecanismos por empresas como Google, Facebook y, posiblemente, otras redes sociales, responde a la presión que se ha vertido sobre la industria, a la cual se le responsabiliza de ser permisiva ante esparcimiento de las ideas de grupos como el Estado Islámico.
Pero un método tan controvertido, que puede también recaer en la censura y cooptar la libertad de expresión en Internet, no parece el enfoque adecuado.
