La ACLU asegura que el software Rekognition de Amazon tiene sesgos raciales

Por: R3D: Red en Defensa de los Derechos Digitales  - 26 julio, 2018

La Unión Americana por los Derechos Civiles (ACLU) realizó un experimento con el programa de reconocimiento facial de Amazon Rekognition y encontró errores en el proceso de identificación de las personas e, incluso, un sesgo racial contra la comunidad afroamericana.

Rekognition, software que ha sido vendido a distintas corporaciones policiales en este país, identificó en la prueba de la ACLU a 28 miembros del Congreso estadounidense como personas con un antecedente delictivo, de las cuales casi el 40 por ciento eran representantes afroamericanos, aunque solo son el 20 por ciento de la población total de las cámaras.

false_matches_graphic_1

Este resultado alimenta los temores de grupos de derechos civiles en Estados Unidos y de los mismos legisladores, la Asamblea de Congresistas Afroamericanos, quienes han advertido al presidente de Amazon, Jeff Bezos, que esta tecnología de reconocimiento facial puede tener “profundas y negativas consecuencias involuntarias” contra la comunidad afroamericana.

Las personas que pertenecen a esta comunidad en EE.UU. ya son víctimas de dañinas y desproporcionadas prácticas policiales, advierte la ACLU, por lo que el uso de este tipo de programas puede exacerbarlas, al incidir en la actitud de oficiales o provocar arrestos tras identificaciones erróneas.

Este ejercicio, señala la organización estadounidense, no es hipotético, debido a que Amazon ha publicitado y vendido su tecnología a corporaciones en todo el país, incluso, un departamento de policía en Oregon ya lo está usando para comparar imágenes de personas arrestadas con otras fotos de personas.

Recientemente, cerca de 70 organizaciones de derechos civiles, 400 académicos y más de 150 mil personas, incluyendo empleados de Amazon y accionistas, pidieron a la compañía que deje de vender esta clase de tecnología al gobierno ya que podría “ser una amenaza a la privacidad de los clientes y las comunidades en todo Estados Unidos”.


Imagen original de AWS Online Tech Talks – Webinar Channel: Exploring the Business Use Cases for Amazon Rekognition – 2017 AWS Online Tech Talk

Deja un comentario