Facebook bajó de su plataforma una publicación que contenía fragmentos de la Declaración de Independencia de los Estados Unidos, por identificarla como discurso de odio.
Aunque la plataforma ya se disculpó por el error, Richard Allan, vicepresidente de política pública, escribió una publicación de blog para explicar que Facebook trabaja para que el algoritmo tome en cuenta contexto e intención en el discurso, aunque admitió que están lejos de lograr que la inteligencia artificial pueda procesarlo, de acuerdo con The Next Web.
La publicación que fue marcada por el algoritmo de Facebook contenía la frase “los despiadados Indios Salvajes” y aunque pudiera ser claro por qué podría entenderse como discurso de odio, también hace evidente la necesidad de que los algoritmos puedan entender contexto.
Recientemente, Facebook publicó por primera vez información sobre el número de publicaciones que su algoritmo identificaba antes que fueran reportadas por los usuarios y, entre éstas, el número más bajo era el del discurso de odio, con 38 por ciento de efectividad.
Como en ocasiones anteriores en que el algoritmo de Facebook ha cometido errores –con imágenes también– es importante señalar la posibilidad de censura y los riesgos para la libertad de expresión que representan el uso de algoritmos para la regulación de los contenidos en línea.
“Por eso es que depositamos tanta confianza en nuestra comunidad para identificar y reportar potenciales discursos de odio. Con miles de millones de publicaciones en nuestra plataforma — y con la necesidad de contexto para poder analizar el significado e intención de las publicaciones reportadas — no hay aún una herramienta o sistema perfecto que pueda de forma confiable encontrar y distinguir publicaciones que crucen la línea de la opinión expresiva al inaceptable discurso de odio”, escribió Allan.
