Un software para exámenes ilustra los problemas del reconocimiento facial con personas de tez oscura

Oct 9, 2020 | Privacidad

Durante la pandemia de COVID-19 ha incrementado el uso de programas que hacen uso de información biométrica y reconocimiento facial. Una de ellas es ExamSoft, un software utilizado para la realización de los exámenes de barra, que sirven para acreditar a una persona para ejercer la abogacía.

Este tipo de programas han despertado preocupaciones sobre privacidad, recolección de datos biométricos, seguridad, vigilancia y discriminación. ExamSoft obliga a que las personas que rinden la prueba de manera remota deban permanecer frente a la cámara de la computadora todo el tiempo. Sin embargo, como informa el sitio VentureBeat, el software de reconocimiento facial muestra severos problemas para reconocer a personas no blancas.

De acuerdo con el reporte, las personas con tez oscura tienen que permanecer con una luz constante que les ilumine el rostro ─una situación muy incómoda para una prueba de horas─ que incluso puede conducir a dolores de cabeza, migrañas o pérdida de concentración. Más allá de la incomodidad, si el individuo cambia de posición o de condiciones de iluminación, se arriesga a perder la prueba.

Además, ExamSoft recolecta y almacena la información biométrica ─sea de una imagen de retina o un rostro─ de más de 30 mil personas que se graduaron de escuelas de leyes, creando una enorme base de datos personales que corre el riesgo de ser robada, filtrada o simplemente mal utilizada.

Esta no es la primera ocasión que existe evidencia de que las tecnologías de reconocimiento facial contienen sesgos raciales. En 2019, por ejemplo, un grupo de investigadores reveló que el software de reconocimiento facial Rekognition identificó erróneamente a 31 por ciento de mujeres de color como hombres.

Así mismo, un estudio del MIT, publicado en 2018, demostró que hay entre 12 y 19 por ciento más equivocaciones al identificar rostros con piel más oscura; mientras que la tasa de error al identificar mujeres es entre ocho y 20 por ciento más elevada que con hombres.


Imagen de PickPik

Publicaciones relacionadas

El Instituto Nacional Electoral excluye a la sociedad civil de discusiones sobre voto electrónico y voto por internet

El Instituto Nacional Electoral excluye a la sociedad civil de discusiones sobre voto electrónico y voto por internet

Durante las últimas semanas, desde R3D: Red en Defensa de los Derechos Digitales hemos solicitado que se nos incluya en distintos espacios coordinados u organizados directamente por el Instituto Nacional Electoral en los que se discute sobre el voto electrónico y el voto por Internet, tales como la Cumbre Mundial de la Democracia, a celebrarse el mes de septiembre en México, así como el foro “Voto electrónico en México, la transición tecnológica de la democracia”, organizado por la Consejera Carla Humphrey, que tendrá lugar esta semana.

Director del Citizen Lab pide al gobierno de Canadá informar sobre spyware de la Policía Montada

Director del Citizen Lab pide al gobierno de Canadá informar sobre spyware de la Policía Montada

El gobierno federal de Canadá debe transparentar qué compañía o compañías son proveedoras de la tecnología de vigilancia que utiliza la Real Policía Montada de Canadá (RCMP, por sus siglas en inglés) para extraer secretamente información de dispositivos móviles, exigió Ron Deibert, director de Citizen Lab de la Universidad de Toronto, durante una audiencia en el Parlamento de Canadá.

Filtran base de clientes de Banorte con 1.4 GB de datos personales

Filtran base de clientes de Banorte con 1.4 GB de datos personales

Una base de datos con cerca de 1.4 GB de información personal de clientes de Banorte fue filtrada en un sitio web, alertó Brian Krebs, periodista de investigación especializado en delitos informáticos. Krebs denunció en Twitter que la base de datos fue filtrada por el administrador de un foro dedicado a la venta de este tipo de archivos.

Policía de Nueva York deberá entregar información sobre vigilancia con reconocimiento facial usada en las protestas de Black Lives Matter

Policía de Nueva York deberá entregar información sobre vigilancia con reconocimiento facial usada en las protestas de Black Lives Matter

La Suprema Corte de Justicia de Nueva York ordenó al Departamento de Policía del estado permitir el acceso a 2 mil 700 documentos y correos relacionados con el uso de tecnología de reconocimiento facial y otros sistemas de vigilancia contra las personas que participaron en las protestas del movimiento Black Lives Matter (BLM) en 2020.