Ante la creciente preocupación por el aumento de los llamados deepfakes (o ultrafalsos, como se sugiere llamarlos en español), Facebook ha anunciado una nueva serie de medidas para combatir la proliferación de esta clase de videos en su plataforma.

Los deepfakes son creados mediante herramientas sofisticadas que utilizan inteligencia artificial y aprendizaje automatizado para editar vídeos con un alto realismo. Estos contenidos pueden ser usados para “distorsionar la realidad”, asegura Facebook; por ejemplo, un video donde aparece el expresidente Barack Obama dando un discurso de apoyo a Trump.

De acuerdo con sus nuevos lineamientos, Facebook removerá cualquier contenido manipulado engañoso si: 1) ha sido editado de manera que no sea obvio para una persona, haciéndole creer que el sujeto del video dijo algo que no pronunció en realidad; y 2) si es el producto de alguna inteligencia artificial que mezcle, reemplace o superponga contenido a un vídeo, haciéndolo parecer auténtico.

Esta política no afectará contenidos que sean parodias, sátiras o que hayan sido editados solamente para omitir o cambiar el orden de palabras. De igual forma, Facebook continuará removiendo contenidos que violen sus Estándares de Comunidad, como los de discurso de odio o extremistas.

Sin embargo, la organización civil Witness considera que no hay claridad sobre los métodos que utilizará Facebook para comunicar a usuarios cuando se identifique que exista manipulación; y si esta decisión puede ser apelada, especialmente cuando existe una alta probabilidad de que los procesos de identificación sean automatizados y cometan errores, como ha sucedido en el pasado.

Además, Witness también señala que la red social aún tiene serios pendientes para responder ante las campañas de desinformación más comunes, ya que los deepfakes aún son raros en relación con otros contenidos que son fabricados con mucha mayor facilidad y que representan en la actualidad un serio problema.


Imagen de BuzzFeedVideo