Smart Sampa, un proyecto que pretende implementar un sistema de más de 40 mil cámaras equipadas con tecnología de reconocimiento facial en Sao Paulo, ha despertado la preocupación de grupos y organizaciones por las implicaciones para la privacidad y seguridad de las personas que habitan una de las ciudades más pobladas de América Latina, informa el medio Al Jazeera.
El proyecto busca integrar una sola plataforma de videovigilancia que apoye la operación de los servicios de tráfico, emergencias, la red de transporte público y las fuerzas policiales. Se espera que para 2024, hasta 20 mil cámaras sean instaladas, mientras el resto serán dispositivos privados que se sumarán a esta red.
El sistema propuesto hará una combinación de análisis en tiempo real y tecnología de reconocimiento facial, con la finalidad de detectar y comparar rostros en el espacio público mediante algoritmos de inteligencia artificial. Su objetivo sería agilizar procesos en la detección e identificación de delincuentes, así como predecir sucesos para actuar con mayor rapidez.
Sin embargo, diversas personas expertas ya han mostrado su preocupación ante Smart Sampa, debido a que el proyecto podría vulnerar los derechos humanos de la ciudadanía, su intimidad y la libertad de expresión, reunión y asociación en espacios públicos.
Estas críticas llevaron a la suspensión del proceso de licitación en dos ocasiones y dieron lugar a investigaciones por parte de la fiscalía sobre las posibles afectaciones a la privacidad, sin embargo, se permitió que continuara el proceso de contratación después de que los tribunales de Sao Paulo concluyeran que no había pruebas suficientes para demostrar que el sistema tiene un sesgo racial.
De acuerdo con Fernanda Rodrigues, abogada especializada en derechos digitales del Instituto de Investigación sobre Internet y Sociedad (IRIS), las tecnologías de reconocimiento facial pueden dar lugar a falsos positivos y sesgos raciales, lo que podría llevar al encarcelamiento masivo de personas de tez oscura, que constituye alrededor del 56 por ciento de la población de Brasil.
Un estudio realizado por el Centro de Estudios sobre Seguridad Pública y Ciudadanía reveló que más del 90 por ciento de las personas detenidas mediante decisiones basadas en el reconocimiento facial en Brasil son de tez negra. Además, en Río de Janeiro, el porcentaje de detenciones injustas basadas en el reconocimiento fotográfico que involucró a población negra alcanzó el 81% en 2021, según datos de la Cámara de Defensores Públicos de Río de Janeiro.
Por lo pronto, la Oficina de la Defensoría Pública de Sao Paulo ha iniciado un litigio para suspender el proyecto de Smart Sampa y prohibir el uso de sistemas de reconocimiento facial para seguridad pública. “El reconocimiento facial es una tecnología complejo con aspectos que no han sido aún completamente mapeados (…) esto incurre en una serie de riesgos para los riesgos fundamentales de poblaciones en situación de vulnerabilidad, como las personas negras y trans, así como las infancias”, declaró la parte demandante.
Existen diversos casos de sesgos raciales y falsos positivos por parte de cámaras de reconocimiento facial en el mundo plenamente documentados, como el caso reciente de un hombre afroamericano detenido por ser confundido con el autor de dos robos en la ciudad de Louisiana, Estados Unidos.
El auge de estas propuestas tecnosolucionistas no se ha hecho esperar. En México, las propuestas del Plan A.N.G.E.L. despiertan las mismas preocupaciones sobre violaciones a la privacidad debido a la implementación de sistemas de reconocimiento facial, mientras que en otras ciudades del país, el interés de gobiernos estatales para la vigilancia de su ciudadanía a través de estas tecnologías va en aumento.
Te invitamos a conocer más sobre los riesgos de las tecnologías de reconocimiento facial en el espacio público en el sitio de nuestra campaña No nos vean la cara.
Imagen: (CC-BY) Gibrán Aquino
