La Policía de Detroit admite que su tecnología de reconocimiento facial se equivoca 96% de las veces

Jul 7, 2020 | Privacidad

La Policía de Detroit admitió que la tecnología de reconocimiento facial que utilizan, un software de nombre DataWorks Plus, identifica erróneamente al 96 por ciento de las personas sospechosas.

Esta admisión sucede después que se diera a conocer que el departamento arrestara equivocadamente a Robert Williams, un hombre afroamericano de 42 años, al ser identificado por el sistema de reconocimiento facial como quien aparecía en un video robando relojes de lujo de la tienda Shinola, informó Ars Technica. Tras ser arrestado, Williams negó ser el autor del robo y señaló a los oficiales que él no era quien aparecía en las imágenes de la tienda. Sin más pruebas, la policía tuvo que liberarlo.

Aunque de acuerdo con el Jefe de Policía de la ciudad, James Craig, los arrestos no se llevan a cabo solamente con la identificación del sistema de reconocimiento facial, el error pone nuevamente en tela de juicio la efectividad de esta tecnología y sus enormes sesgos raciales.

“No me sorprendería que otros como yo se convirtieran en sospechosos, pero no supieran que una tecnología defectuosa los hizo culpables a los ojos de la ley”, dijo Williams –quien fue erróneamente identificado por la fotografía de su licencia de conducir– en una carta publicada en The Washington Post.

Como diversas investigaciones han comprobado, la tecnología, incluso la más actual, de reconocimiento facial es muy imprecisa, tiene severos sesgos que provocan errores al identificar mujeres, pieles más oscuras y no caucásicas y personas trans o no binarias, lo que puede llevar a mayor discriminación y persecución de grupos ya marginalizados.

En contexto del gran debate sobre la discriminación racial en Estados Unidos, tres compañías que desarrollan y venden software de reconocimiento facial, Microsoft, IBM y Amazon, hicieron compromisos de diferentes magnitudes de detener su comercialización y desarrollo hasta que haya mejores regulaciones para su uso, al menos en este país.


Imagen de Truthout.org (CC BY-NC-ND 2.0)

Publicaciones relacionadas

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

El Protocolo Modelo de Prevención y Actuación en Casos de Discriminación, Acoso y Hostigamiento Sexual y Laboral (Protocolo Modelo) en Organizaciones de la Sociedad Civil es resultado del trabajo de un año entre ocho instituciones (Fundar, Artículo 19, la Red en Defensa de los Derechos Digitales, Ambulante, Serapaz, Instituto de Liderazgo Simone de Beauvoir, Equis Justicia para las Mujeres y Fondo Semillas) que se articularon para crear de “manera participativa y colectiva” para todo el sector.

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

“El proceso de elaboración de una ley de ciberseguridad no ha contemplado la participación equitativa de todos los actores”, señaló Grecia Macías, abogada de R3D: Red en Defensa de los Derechos Digitales, durante la sesión de Parlamento Abierto convocada el lunes 31 de octubre por la Comisión de Ciencia, Tecnología e Innovación de la Cámara de Diputados.