Los anuncios de Amazon, IBM y Microsoft para restringir o detener la venta de tecnología de reconocimiento facial han recibido fuertes críticas y cuestionamientos desde diversas organizaciones que defienden los derechos humanos en Estados Unidos.
En principio, la extensión de los compromisos es muy distinta en los tres casos. IBM no es una empresa dominante en el sector, por lo que su decisión afecta en poco sus líneas de producción. Por su parte, Microsoft hizo un compromiso únicamente a nivel local, en tanto que Amazon solamente pide regulación “ética”. Además, ninguna de las tres empresas ha revelado qué corporaciones policiales usaron (o actualmente utilizan) sus tecnologías de reconocimiento facial, informó BuzzFeedNews.
Las críticas se extienden porque Amazon y Microsoft mantienen otro tipo de contratos con las fuerzas policiales en EE.UU. Por ejemplo, Amazon también trabaja con el Servicio de Inmigración y Control de Aduanas (ICE), y Microsoft provee servicios de software para procesar imágenes de seguridad, de placas de autos, llamadas al 911 y otros de la Policía de Nueva York.
Para la directora de Digital Freedom Fund, Nani Jansen Reventlow, el escepticismo es normal y justificado. Sin embargo, Jansen considera que, para lograr que la conversación se convierta en un cambio tangible, se deben aceptar los problemas sistémicos que se encuentran en la base de la tecnología de reconocimiento facial –el racismo, capacitismo, machismo, entre otras–, las cuales son estructuras de poder existentes que son amplificadas y reproducidas por estas tecnologías.
Para lograrlo se requiere una discusión más amplia, no solo de legislación o ingeniería, en la que deben participar los sectores de la sociedad que están experimentando estas carencias, además de la academia, sociedad civil y personas expertas en derechos humanos.
“Pero sus decisiones –particularmente la de IBM, que fue primero– son encomiables. Si hay algún momento para hacer esto más que solo un ejercicio de relaciones públicas y comenzar a tener conversaciones sobre la justicia racial y social que se necesitan alrededor de la tecnología, es ahora”, sentencia Jansen.
Imagen de Tony Webster(CC BY 2.0)
