La Unión Europea estaría considerando prohibir el uso de inteligencia artificial para una serie de actividades, entre las que se encuentran la vigilancia masiva, como el reconocimiento facial, y la calificación de créditos sociales, lo que supondría una postura contraria a otras grandes potencias como Estados Unidos y China.

Esta política se encuentra en un borrador que fue revelado previo a cualquier anuncio oficial, aunque se espera que la UE se posicione la próxima semana, informó The Verge.

Algunas de las actividades que serían prohibidas con la legislación son: el uso de inteligencia artificial para “vigilancia indiscriminada”, incluyendo en espacios físicos o que agregan datos de otras fuentes; su uso para calificar el nivel de “confianza” de una persona basado en su personalidad o comportamiento social y la autorización especial para utilizar “sistemas de identificación biométrica remota”.

Además, se requerirá notificar a las personas cuando interactúen con un sistema de inteligencia artificial; mayor vigilancia sobre sistemas que representen un riesgo de seguridad o puedan afectar el patrimonio de las personas, como los que se usan en procesos de contratación o para otorgar créditos bancarios.

Finalmente, la propuesta incluye la creación de un Consejo de Inteligencia Artificial Europeo que represente a todos los países del bloque económico y permita recomendar cambios a la prohibición de sistemas o alertar sobre aquellos que representen un alto riesgo.

La legislación parece enfocarse en algunos de los usos más preocupantes de la inteligencia artificial en la actualidad, como la expansión de la vigilancia con reconocimiento facial y el uso de algoritmos para monitorear actividades gubernamentales, como el otorgamiento de programas sociales o créditos, que afectan desproporcionadamente a poblaciones vulnerables, como las personas migrantes o no caucásicas.

Sin embargo, organizaciones como Access Now consideran que todavía hay mucho espacio para mejorar, especialmente en la definición de conceptos como Inteligencia Artificial y vigilancia masiva que es vaga y permite muchos vacíos legales.


Imagen de EFF Photos (CC BY 2.0)