La inteligencia artificial es un gran reto para los derechos humanos en el entorno digital: relator especial de la ONU

Oct 19, 2018 | Libertad de expresión

La opacidad en el desarrollo y aplicación de tecnología de inteligencia artificial es un gran reto para ejercicio y respeto de lo derechos humanos en el entorno digital, especialmente para actores involucrados en su protección como los estados, compañías y sociedad civil.

En su más reciente reporte sobre la Promoción y protección del derecho a la libertad de expresión y opinión, el relator especial de la ONU David Kaye, analiza los retos y consecuencias del uso de inteligencia artificial y algoritmos en un complejo entorno de tecnologías, plataformas y actores privados y públicos como es Internet:

Kaye explica que debido a los peligros que conlleva el uso de tecnologías que tienen la capacidad de distorsionar el ambiente digital de formas no objetivas, no transparentes y que, incluso, pueden ser aprovechadas por actores privados y públicos, éstas deben ser “diseñadas, desarrolladas e implementadas para ser consistentes con las obligaciones de estados y actores privados bajo el derecho internacional de los derecho humanos”.

Actualmente, las tecnologías basadas en inteligencia artificial, considera el relator, interfieren con el derecho a la libertad de expresión y de formarse una opinión, debido a que la moderación y curación de contenido al que pueden acceder usuarios de buscadores y redes sociales depende de procesos automatizados que no informan qué criterios utilizan y en cambio se presentan como una realidad objetiva.

La falta de desarrollo de los algoritmos que moderan contenido, además, los hace proclives a cometer errores y bloquear o restringir contenido, socavando el derecho de los usuarios a acceder a información sin restricciones o censura. En este punto, Kaye señala que los sistemas de remediación automatizadas también generan preocupaciones para constituirse como un mecanismo efectivo de solución para los usuarios, por su falta de capacidad de análisis e independencia.

Kaye explica que para que la inteligencia artificial sea desarrollada con una perspectiva de derechos humanos debe cumplir dos importantes fundamentos: respetar la agencia y autonomía individual y una significativa apertura de los actores públicos y sectoriales para que se esfuercen en explicar estas tecnologías a las personas y en facilitar su escrutinio.

Para esto, el relator enumera una serie de estándares y procesos que se deben cumplir en el desarrollo de esta tecnología como: enfatizar el respeto y protección a los derechos humanos en códigos, pautas gubernamentales y privadas; practicar transparencia radical; facilitar auditorías independientes sobre el impacto en los derechos humanos; combatir activamente la discriminación perpetuada por estas tecnologías y establecer mecanismos de remediación efectivos, que garanticen responsabilidad y revisión de las peticiones.


Imagen original de Pixabay

Publicaciones relacionadas

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

Organizaciones presentan Protocolo Modelo contra acoso y hostigamiento sexual y laboral

El Protocolo Modelo de Prevención y Actuación en Casos de Discriminación, Acoso y Hostigamiento Sexual y Laboral (Protocolo Modelo) en Organizaciones de la Sociedad Civil es resultado del trabajo de un año entre ocho instituciones (Fundar, Artículo 19, la Red en Defensa de los Derechos Digitales, Ambulante, Serapaz, Instituto de Liderazgo Simone de Beauvoir, Equis Justicia para las Mujeres y Fondo Semillas) que se articularon para crear de “manera participativa y colectiva” para todo el sector.

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

¿Ciberseguridad para quién?: R3D cuestiona ausencia de sociedad civil en discusión sobre Ley de Ciberseguridad

“El proceso de elaboración de una ley de ciberseguridad no ha contemplado la participación equitativa de todos los actores”, señaló Grecia Macías, abogada de R3D: Red en Defensa de los Derechos Digitales, durante la sesión de Parlamento Abierto convocada el lunes 31 de octubre por la Comisión de Ciencia, Tecnología e Innovación de la Cámara de Diputados.