IBM utilizó cerca de un millón de fotografías de la plataforma Flickr en un intento para desarrollar algoritmos de reconocimiento facial, reportó NBC News. La colección no se ha hecho pública, sino que fue lanzada para su uso por grupos de investigación académica y corporativa. IBM hizo anotaciones en las imágenes describiendo detalles como “geometría facial” y “tono de piel”, supuestamente con el objetivo de reducir los sesgos de la inteligencia artificial.

De acuerdo con testimonios recopilados por NBC News, IBM no informó a los usuarios de Flickr que originalmente habían subido las imágenes, y aunque aseguró que cualquier usuario puede pedir que sus imágenes sean retiradas de la lista, esto es prácticamente imposible debido a que no hay una lista pública con los nombres de las imágenes o de los usuarios incluidos en la colección.

El uso y mejoramiento de los algoritmos de reconocimiento facial preocupa especialmente a expertos y organizaciones que luchan por los derechos civiles debido al uso que podrían dársele por agencias de seguridad, como en el caso de Rekognition, y la posibilidad de que criminalice aún más a poblaciones ya marginalizadas.

Además, se presume que IBM utilizó fotografías liberadas con licencias Creative Commons, por lo que Ryan Merkley, presidente de dicha organización, escribió al respecto en una entrada de blog dirigida a su comunidad. En su texto, Merkley consideró que, en general, el uso de datos hechos públicos en Internet ha permitido mayor innovación, colaboración y creatividad, aunque también

“Las licencias CC fueron diseñadas por un propósito específico, que hacen muy bien: desbloquear derecho de autor restrictivo. Pero el derecho de autor no es una buena herramienta para proteger privacidad individual, para abordar la ética de investigación en el desarrollo de inteligencia artificial o regular el uso de las herramientas de vigilancia utilizadas en línea. Esos problemas pertenecen justamente al espacio de las políticas públicas y buenas soluciones considerarán la ley, las normas de comunidad de las licencias CC y de la compartición de contenido en línea, en general”, escribe el presidente de CC.

El uso que IBM dio a la colección obliga a hacerse preguntas sobre las implicaciones a la privacidad de las millones de personas retratadas, el uso ético de la colección y la legitimidad de su uso para entrenar algoritmos. Por su parte, NBC News desarrolló una herramienta para que usuarios de Flickr puedan conocer si sus imágenes son parte de la colección de IBM.