El incremento en el uso de la tecnología de reconocimiento facial en la India representa una amenaza para la democracia y los derechos humanos, además de ser una muestra de los lazos transnacionales de una industria que crece aceleradamente, escriben Ayushman Kaul y Divij Joshi para el Laboratorio de Investigación Digital Forense de Atlantic Council.
El segundo país más poblado del planeta ha experimentado un acelerado crecimiento en el uso del reconocimiento facial; incluso, el gobierno nacional lanzó una licitación en 2019 para desarrollar un sistema propio. Asimismo, al menos 17 departamentos de policía del país ya utilizan este tipo de tecnología, que se ha utilizado para vigilar a manifestantes en protestas contrarias al gobierno.
Una de las principales preocupaciones alrededor de esta tecnología es la falta de precisión para identificar a una población tan diversa como la de la India y, al mismo tiempo, tan poco representada en las bases de datos con las que se entrena a los algoritmos de reconocimiento facial, que contienen mucha más gente caucásica
Además, los sistemas de reconocimiento facial en India están siendo usados con fines ilegítimos. De acuerdo con una publicación local, la policía de Delhi adquirió estas capacidades de vigilancia presuntamente para identificar infantes extraviados. Sin embargo, el Ministro del Interior reconoció, en marzo de 2020, que el sistema fue usado para identificar a más de 1,100 personas supuestamente involucradas en un brote de violencia sectaria en 2019.
Sumado a este uso arbitrario, las tecnologías de reconocimiento facial tampoco han funcionado para su propósito original. En 2019, el Ministerio de Desarrollo de las Mujeres y la Niñez aceptó que el sistema ni siquiera era capaz de distinguir entre niños y niñas.
Los autores también citan estudios que indican que la intensificación de la vigilancia en países como la India beneficia a las corporaciones internacionales, sin que las empresas estén obligadas a acatar medidas de transparencia o rendición de cuentas.
Entre las compañías implicadas en dicho país están HikVision, una firma china que tiene lazos cercanos con el gobierno chino; así como la polémica Clearview AI, una empresa con vínculos con el Servicio de Control de Inmigración y Aduanas de Estados Unidos, la cual genera sus bancos de imágenes con fotos obtenidas sin consentimiento de Internet.
Kaul y Joshi señalan que las tecnologías de reconocimiento facial están incrementando la vigilancia y la violencia, particularmente en naciones con marcos débiles para preservar la privacidad. El caso de India, concluyen los autores, es un ejemplo que ilustra la necesidad de contar con moratorias y controles en las licencias de exportación, como han solicitado instancias como las Naciones Unidas.
Imagen de Adam Cohn (CC BY-NC-ND 2.0)
