El escándalo de X y Grok sigue creciendo, ahora en Brasil, donde la empresa enfrenta una investigación por la creación de millones de imágenes sexualizadas, incluídas miles de contenido de abuso sexual infantil.
Brasil no es el único país que tiene frentes abiertos en contra de X por la generación de imágenes sexualizadas con ayuda del chatbot Grok. En Reino Unido también existen investigaciones por parte de reguladores independientes de comunicaciones por la misma razón, quienes podrían imponer multas de millones de libras e incluso solicitar una orden judicial para obligar a los proveedores de servicios de Internet a bloquear por completo el acceso al sitio en el país.
Una nota de Tech Policy Press dio a conocer recientemente la jugada legal de X ante estas acusaciones. La empresa de Elon Musk, a través de X Brasil, envió una carta a la Secretaría de Derechos Digitales del Ministerio de Justicia de Brasil en la que afirmaba que la cuenta @Grok es “una cuenta como cualquier otra” y estaría “sujeta a la misma revisión, normas y políticas” que cualquier otra cuenta de usuario.
Con ello, X Corp estaría intentando limitar su exposición legal al separar jurídicamente a Grok de su operación en Brasil y eludir la investigación, así como posibles sanciones que se desprendan del caso.
Los reguladores y legisladores brasileños no han aceptado ese argumento. En respuesta, el gobierno brasileño dictó —con una recomendación conjunta de tres agencias públicas: el Ministerio Público Federal, la Autoridad Nacional de Protección de Datos y la Secretaría Nacional del Consumidor del Ministerio de Justicia— que Grok debía adoptar medidas técnicas para evitar la generación y exposición de imágenes de contenido sexual sin consentimiento y de contenido de abuso sexual infantil, bajo la amenaza de multas diarias en caso de incumplimiento e incluso la posibilidad de suspender el uso de Grok en el país, siguiendo un camino similar al del Reino Unido.
Sobre la estrategia legal de X, Yasmin Curzi, posdoctorada en Derecho por la Universidad de Virginia, señaló: “La afirmación es, obviamente, muy débil y errónea desde el punto de vista jurídico, porque la integración entre X y Grok es evidente”, además de que es probable que el tratamiento conjunto de datos siga produciéndose, lo que, según la ley de protección de datos de Brasil, constituye una corresponsabilidad de la que X no puede escapar.
Este debate ocurre en un contexto en el que el Marco Civil da Internet —que antes limitaba la responsabilidad de las plataformas, estableciendo que solo respondían por el contenido publicado por usuarios si incumplían una orden judicial de eliminación— evolucionó tras el dictamen del Supremo Tribunal Federal, que declaró parcialmente inconstitucional el artículo 19. A partir de ello, las plataformas están obligadas a responder por el contenido dañino, además de monitorear y suspender activamente funcionalidades de riesgo.
El caso de Grok, tal como se desarrolla actualmente en Brasil, podría estar influyendo el debate sobre el proyecto de ley de IA, actualmente en análisis en la Cámara de Diputados e incluso otras regulaciones sobre el tema que se discutan en la región.
Imagen (CC BY) Gibrán Aquino
