Ofcom, el regulador independiente del Reino Unido para las industrias de comunicaciones, ha abierto una investigación en contra de X debido a los recientes casos de deepfakes sexuales en las que se vio envuelta Grok, su herramienta de IA, informó BBC.
Según Ofcom, existe una gran preocupación de que la herramienta de X se esté usando para crear y compartir imágenes sexualizadas o que muestran desnudez de mujeres e infancias sin su consentimiento. Algunos casos, incluso muestran a mujeres en posiciones sexuales o en contextos humillantes, como el caso de una mujer judía que encontró una foto suya en bikini fuera de Auschwitz, la cual fue generada por IA.
El organismo regulador británico podría imponer a X una multa de hasta el 10 por ciento de sus ingresos mundiales o 18 millones de libras esterlinas, lo que sea mayor. Ante esto, Elon Musk, propietario de la plataforma, declaró que el gobierno británico solamente quiere “cualquier excusa para censurar”, en respuesta a una publicación donde se cuestionaba por qué no se investigaban otras plataformas de IA.
Si X no cumple, Ofcom puede solicitar una orden judicial para obligar a los proveedores de servicios de Internet a bloquear por completo el acceso al sitio en el Reino Unido, al igual que pasó en Indonesia y Malasia hace unos días, quienes fueron los primeros países en tomar acciones luego de encontrar deepfakes sexuales dentro de la red social generados por Grok. La ministra digital de Indonesia, Meutya Hafid, afirmó que la prohibición era para “proteger a las mujeres, los niños y el público en general de los riesgos del contenido pornográfico falso generado utilizando tecnología de inteligencia artificial”.
El equipo de seguridad de X también ha mandado un comunicado donde afirma que “cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. Pero al mismo tiempo, Musk ha compartido imágenes creadas por Grok, incluídas algunas de él en bikini, riéndose de la situación y afirmando que el chatbot “puede poner un bikini a casi cualquier cosa”, algo que muchas personas vieron como una falta de seriedad al tema y una burla hacia las víctimas.
Después del anuncio de la investigación, X informó que Grok ya no podrá editar fotos de personas reales para mostrarlas en ropa reveladora –como ropa interior o trajes de baño– o sin prendas en donde la jurisdicción lo prohíba; una medida que, sin embargo, no queda claro cómo será implementada o si será fácilmente eludible con el uso de VPN.
Imagen (CC BY) Gibrán Aquino
