En 2025, la Asamblea General de Naciones Unidas creó mediante la resolución 79/2325 el Panel Científico Internacional Independiente sobre Inteligencia Artificial como el primer organismo científico y apolítico mundial dedicado a la IA. Dicho Panel juntó a 40 expertos independientes para que en un periodo de 6 meses hicieran una evaluación con base empírica de las oportunidades, riesgos y repercusiones de la inteligencia artificial.
El 6 de julio de este año, el Panel Científico presentó su primer Informe Preliminar, que se irá actualizando, ante altos representantes de gobierno con motivo del Diálogo Global sobre Gobernanza de la Inteligencia Artificial, que es una iniciativa de las Naciones Unidas, impulsada tras el Pacto Digital Mundial, para discutir las prioridades de los gobiernos en términos de gobernanza de la IA.
En un momento en el que todos los países quieren sumarse a la carrera por la IA y formar parte de la economía digital con la supuesta promesa de progreso, el Panel Científico cuestionó, con pruebas empíricas y objetivas, los beneficios económicos anticipados de la IA, estableciendo que sus repercusiones económicas no son homogéneas, automáticas ni se traducen necesariamente en un mayor crecimiento o empleo.
El Panel estableció claramente que «el acceso no es lo mismo que beneficio». Dado que la infraestructura de la IA —los modelos base, la potencia de cómputo y los chips– está altamente concentrada en países como EE. UU., los países del Sur Global no participan en la elaboración de estándares y no pueden probar, controlar ni auditar la IA en sus propios términos. Así, el informe nos lleva a preguntarnos quién se queda con el valor que crea la IA: ¿quién puede realmente construir, adoptar, adaptar y aprovechar su valor económico?
Otra conclusión importante del informe fue el reconocimiento de los riesgos estructurales para la integridad de la información, los derechos humanos y la participación democrática. En este sentido, el Panel de Expertos identificó una erosión epistémica, en la que la IA no sólo cambia nuestras creencias, sino que ha debilitado nuestra capacidad colectiva para determinar qué es verdad (las afirmaciones falsas generadas por la IA son ahora tan persuasivas como las verdaderas). Cuando la realidad compartida se fragmenta, resulta fácil que el poder se concentre y difícil para los ciudadanos exigir rendición de cuentas, lo que da lugar al autoritarismo.
En consecuencia, el Panel hizo hincapié en que el principal daño proviene de decisiones en cuanto al diseño de la IA: cómo se entrenan los modelos; cómo los algoritmos deciden lo que ven las personas; y qué modelos de negocio se incentivan.
El Panel Científico también reconoció los riesgos crecientes que entraña la aplicación de la IA en ámbitos como: (1) la salud, debido a errores de traducción que proporcionan información incorrecta en situaciones que ponen en peligro la vida; (2) la salud mental, ya que la IA generativa (como Chat GPT) se está utilizando como compañía sin salvaguardas, lo que genera dependencia emocional, manipulación, daños a la privacidad y refuerza las propias creencias de los usuarios, incluidos comportamientos aduladores que fomentan ideaciones suicidas y creencias paranoides; (3) la educación, socavando el pensamiento crítico al sustituir el esfuerzo cognitivo y exponer a los niños a contenidos excesivamente sexualizados; (5) agrava las desigualdades existentes, afectando la autonomía y exponiendo a poblaciones vulnerables a nuevos daños, sobre todo porque los sistemas de IA funcionan peor con idiomas distintos del inglés y con comunidades que ya están subprotegidas; y, (6) el impacto medioambiental, que anula cualquier ganancia en términos de eficiencia que aporte la tecnología, debido a la alta demanda computacional, el consumo de energía y de agua, las emisiones de gases de efecto invernadero y las tensiones geopolíticas asociadas a todas las fases de la cadena de suministro (hardware, extracción de minerales críticos).
No obstante, el informe también señala que los impactos no pueden evaluarse de manera exhaustiva, ya que todos los métodos existentes miden riesgos a corto plazo, las poblaciones más expuestas —principalmente de la Mayoría Global— son las menos estudiadas y los políticos tienen que tomar decisiones sin información o evidencia suficiente.
Por lo tanto, es de vital importancia que los gobiernos mejoren sus capacidades de medición científica de manera más dinámica, con supervisión humana de los riesgos y una mayor coordinación.
Por último, el informe confirma lo que las organizaciones de la sociedad civil llevamos años afirmando: que el impacto de la IA no está predeterminado, sino que depende de las decisiones que tomemos hoy. La IA no debe diseñarse para persuadir, manipular y vigilarnos a gran escala. En palabras del Panel Científico: «las mismas decisiones de diseño que permiten causar daño pueden reorientarse para reforzar la participación democrática y proteger los derechos humanos, incluidos el derecho a la participación, a la privacidad, a la inclusión y a la no discriminación».
Necesitamos urgentemente corregir la trayectoria actual y asumir un compromiso deliberado para mitigar los riesgos de la IA, promoviendo cambios sistémicos, reflexivos e intencionados en el diseño, el despliegue, la aplicación y la evaluación de la IA, que incluyan más salvaguardias sociales y técnicas, así como una inversión específica en capacidades de IA que apunten a una infraestructura más sólida y a la preparación de las personas.
La gobernanza debería incluir siempre una colaboración en red de carácter multidisciplinario y adaptativo entre múltiples partes interesadas, especialmente con las organizaciones de la sociedad civil que llevan años documentando y recopilando evidencia sobre las implicaciones de la IA y que pueden dar retroalimentación de buenas prácticas, enfoques innovadores y los retos a los que se enfrentan las personas más afectadas y menos escuchadas.
Imagen: (CC-BY) Girbán Aquino
