Cada vez es más común que las personas recurran a Chat-GPT u otros chatbots (Claude, DeepSeek, Grok, por mencionar algunos) para obtener respuestas. Sin embargo, también se han elevado considerablemente las conversaciones que involucran temas sensibles, desde información corporativa confidencial hasta dudas sobre sexualidad, salud mental o relaciones de pareja.
Aunque las personas esperan que esa información se mantenga privada, la realidad es que esos temas sensibles pueden quedar expuestos en la web. El medio Fast Company reveló, a finales de julio, que Google se encontraba indexando –es decir, registrando en su motor de búsquedas– conversaciones privadas de personas con Chat-GPT.
Esto ocurrió porque las personas usuarias de Chat-GPT usaban la función de “Compartir” después de tener una conversación con el chatbot, ya sea para mandarse el contenido por mensaje o para guardar el enlace. Sin embargo, lo que esas personas no preveían es que, al dar clic, su conversación podría terminar en el motor de búsqueda de Google.
El equipo que realizó el reportaje de Fast Company halló más de 4,500 conversaciones privadas de Chat-GPT en Google; algunas, con detalles sensibles sobre problemas familiares o relaciones personales. Aunque la función de Chat-GPT está pensada para que únicamente las personas con el enlace puedan acceder, el rastreador de Google está diseñado para indexar cualquier información públicamente disponible.
Tras el escándalo, OpenAi retiró la función para permitir que las conversaciones fueran registradas en buscadores. No obstante, otros investigadores replicaron el experimento y encontraron que los principales chatbots basados en inteligencia artificial estaban inadvertidamente haciendo lo mismo, con más de 130 mil enlaces a conversaciones privadas disponibles para consulta.
No solo eso, sino que el grupo Digital Digging descubrió 512 conversaciones privadas utilizando un método irónico: “después de discutir los riesgos de hacer públicos los chats, le pedimos a Claude, otro chatbot de IA, que nos sugiriera fórmulas de búsqueda de Google que nos permitieran descubrir conversaciones sensibles con Chat-GPT”. Claude respondió con diversos comandos que fueron usados para encontrar contenido sensible como información empresarial confidencial, acciones con intención criminal o exposición de datos personales.
Dead1nfluence, uno de los investigadores informáticos que develó el caso, señaló que este tipo de vulnerabilidad puede proporcionar información muy valiosa para atacantes. “Con esto, puedo ahora buscar en cualquier momento para seleccionar compañías y ver si sus empleados han divulgado información sensible por accidente”, indicó en su publicación.
Para Digital Digging, es probable que las personas creyeran que estaban generando un enlace privado (como cuando se utiliza Google Docs) y no un enlace público. Por ello, resulta relevante recordar que, aunque la consulta de estos chatbots basados en inteligencia artificial ofrece beneficios prácticos, es preferible no compartir información sensible o confidencial cuya divulgación pudiera poner en riesgo a las personas.
