La UCLA desiste de implementar reconocimiento facial en su campus

Mar 2, 2020 | Privacidad

Ante el rechazo de profesores y estudiantes, la Universidad de California en Los Ángeles (UCLA) abandonó un plan para implementar tecnología de reconocimiento facial en los sistemas de videovigilancia de su campus, informó la organización Fight for the Future (FFTF).

La administración de la UCLA había propuesta utilizar tecnología de vigilancia biométrica invasiva con el sistema de videovigilancia de la escuela, con el fin de escanear constantemente los rostros de todas las personas del campus y cotejarlas contra una base de datos.

Aunque desde el principio hubo una oposición estudiantil a la medida, la administración trató de apaciguar las quejas asegurando que se utilizaría solo de forma limitada. Sin embargo, una organización estudiantil, en conjunto con Fight for the Future, usó el software de reconocimiento facial Rekognition –propiedad de Amazon– para evidenciar los riesgos del uso de esta tecnología en la comunidad.

En la prueba se utilizaron 400 imágenes de personas de la comunidad de UCLA, como atletas y profesores, que fueron comparadas con una base de datos de personas arrestadas. Los resultados: 58 de las personas fueron erróneamente identificadas como personas con cargos criminales; la gran mayoría eran personas de color y, en varios casos, el software emparejó a dos personas que prácticamente no tenían ningún rasgo en común salvo por la etnia.

En la práctica, estos sesgos podrían haber significado que decenas de estudiantes no tuvieran acceder a sus dormitorios u otros edificios del campus, no pasar lista en sus clases, hasta ser identificados como una amenaza y recibir abusos de autoridades o incluso ser arrestados.

Después de tener los resultados de las pruebas realizadas por FTTF, las autoridades de la UCLA reaccionaron rápidamente y tomaron la determinación de suspender la implementación del programa.

“El reconocimiento facial no tiene lugar en los campus universitarios. Que esto sea una advertencia para otras escuelas: si piensan que pueden experimentar en sus estudiantes y empleados con esta tecnología invasiva sin consecuencias, están equivocados. No dejaremos de organizarnos hasta que el reconocimiento facial sea prohibido en todos los campus”, señaló Evan Greer, oficial director de FFTF.


Imagen de Gema Campos (CC BY-NC-ND 2.0)

Publicaciones relacionadas

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

El Protocolo Modelo de Prevención y Actuación en Casos de Discriminación, Acoso y Hostigamiento Sexual y Laboral (Protocolo Modelo) en Organizaciones de la Sociedad Civil es resultado del trabajo de un año entre ocho instituciones (Fundar, Artículo 19, la Red en Defensa de los Derechos Digitales, Ambulante, Serapaz, Instituto de Liderazgo Simone de Beauvoir, Equis Justicia para las Mujeres y Fondo Semillas) que se articularon para crear de “manera participativa y colectiva” para todo el sector.