La Policía de Detroit admitió que la tecnología de reconocimiento facial que utilizan, un software de nombre DataWorks Plus, identifica erróneamente al 96 por ciento de las personas sospechosas.
Esta admisión sucede después que se diera a conocer que el departamento arrestara equivocadamente a Robert Williams, un hombre afroamericano de 42 años, al ser identificado por el sistema de reconocimiento facial como quien aparecía en un video robando relojes de lujo de la tienda Shinola, informó Ars Technica. Tras ser arrestado, Williams negó ser el autor del robo y señaló a los oficiales que él no era quien aparecía en las imágenes de la tienda. Sin más pruebas, la policía tuvo que liberarlo.
Aunque de acuerdo con el Jefe de Policía de la ciudad, James Craig, los arrestos no se llevan a cabo solamente con la identificación del sistema de reconocimiento facial, el error pone nuevamente en tela de juicio la efectividad de esta tecnología y sus enormes sesgos raciales.
“No me sorprendería que otros como yo se convirtieran en sospechosos, pero no supieran que una tecnología defectuosa los hizo culpables a los ojos de la ley”, dijo Williams –quien fue erróneamente identificado por la fotografía de su licencia de conducir– en una carta publicada en The Washington Post.
Como diversas investigaciones han comprobado, la tecnología, incluso la más actual, de reconocimiento facial es muy imprecisa, tiene severos sesgos que provocan errores al identificar mujeres, pieles más oscuras y no caucásicas y personas trans o no binarias, lo que puede llevar a mayor discriminación y persecución de grupos ya marginalizados.
En contexto del gran debate sobre la discriminación racial en Estados Unidos, tres compañías que desarrollan y venden software de reconocimiento facial, Microsoft, IBM y Amazon, hicieron compromisos de diferentes magnitudes de detener su comercialización y desarrollo hasta que haya mejores regulaciones para su uso, al menos en este país.
Imagen de Truthout.org (CC BY-NC-ND 2.0)
