IBM anunció que dejará de vender y desarrollar programas de reconocimiento facial debido a las preocupaciones alrededor del sesgo racial y su uso para promoción del racismo, explicó el director ejecutivo de la empresa, Arvind Krishna en una carta dirigida al Congreso de los Estados Unidos.

Krishna hizo además un llamado a diálogo nacional sobre si es apropiado, y cómo, que las agencias de aplicación de la ley de este país utilicen la tecnología de reconocimiento facial, además de oponerse a cualquier uso de ésta y cualquier otra tecnología para vigilancia masiva, perfilamiento racial y violaciones de los derechos y libertades humanas fundamentales.

“La inteligencia artificial es una poderosa herramienta que puede ayudar a las agencias de procuración de justicia a mantener segura a la ciudadanía. Pero sus comercializadores y usuarios tienen una responsabilidad compartida para asegurarse que la inteligencia artificial ha sido probada por sesgos, particularmente cuando se use para la aplicación de la ley y que estos análisis de sesgos sean auditados y reportados.”, se lee en la carta de Krishna.

Las denuncias y preocupaciones en torno a esta tecnología no son nuevos, en octubre de 2019, decenas de organizaciones de derechos humanos de todo el mundo lanzaron un llamado para que se declare una moratoria al uso de esta tecnología, en ese sentido, la Unión Europea estaría estudiando prohibirla durante un periodo de 5 años.

Diversos estudios han demostrado que esta tecnología es imprecisa y que se equivoca de manera desproporcionada al identificar personas de piel oscura, mujeres y personas trans o no binarias, por lo que de usarse masivamente representa un grave potencial de abuso y riesgo para los derechos humanos, como ya han demostrado casos en Brasil y Argentina.

IBM es la primera gran compañía que se ha retirado del desarrollo de esta tecnología y aunque, como señala MIT Technology Review la empresa nunca ha tenido una participación importante en este mercado, es también la única que ha mostrado una postura moral fuerte sobre este tema.


Imagen de Mirko Tobias Schäfer (CC BY 2.0)