La inteligencia artificial es un gran reto para los derechos humanos en el entorno digital: relator especial de la ONU

Oct 19, 2018 | Libertad de expresión

La opacidad en el desarrollo y aplicación de tecnología de inteligencia artificial es un gran reto para ejercicio y respeto de lo derechos humanos en el entorno digital, especialmente para actores involucrados en su protección como los estados, compañías y sociedad civil.

En su más reciente reporte sobre la Promoción y protección del derecho a la libertad de expresión y opinión, el relator especial de la ONU David Kaye, analiza los retos y consecuencias del uso de inteligencia artificial y algoritmos en un complejo entorno de tecnologías, plataformas y actores privados y públicos como es Internet:

Kaye explica que debido a los peligros que conlleva el uso de tecnologías que tienen la capacidad de distorsionar el ambiente digital de formas no objetivas, no transparentes y que, incluso, pueden ser aprovechadas por actores privados y públicos, éstas deben ser “diseñadas, desarrolladas e implementadas para ser consistentes con las obligaciones de estados y actores privados bajo el derecho internacional de los derecho humanos”.

Actualmente, las tecnologías basadas en inteligencia artificial, considera el relator, interfieren con el derecho a la libertad de expresión y de formarse una opinión, debido a que la moderación y curación de contenido al que pueden acceder usuarios de buscadores y redes sociales depende de procesos automatizados que no informan qué criterios utilizan y en cambio se presentan como una realidad objetiva.

La falta de desarrollo de los algoritmos que moderan contenido, además, los hace proclives a cometer errores y bloquear o restringir contenido, socavando el derecho de los usuarios a acceder a información sin restricciones o censura. En este punto, Kaye señala que los sistemas de remediación automatizadas también generan preocupaciones para constituirse como un mecanismo efectivo de solución para los usuarios, por su falta de capacidad de análisis e independencia.

Kaye explica que para que la inteligencia artificial sea desarrollada con una perspectiva de derechos humanos debe cumplir dos importantes fundamentos: respetar la agencia y autonomía individual y una significativa apertura de los actores públicos y sectoriales para que se esfuercen en explicar estas tecnologías a las personas y en facilitar su escrutinio.

Para esto, el relator enumera una serie de estándares y procesos que se deben cumplir en el desarrollo de esta tecnología como: enfatizar el respeto y protección a los derechos humanos en códigos, pautas gubernamentales y privadas; practicar transparencia radical; facilitar auditorías independientes sobre el impacto en los derechos humanos; combatir activamente la discriminación perpetuada por estas tecnologías y establecer mecanismos de remediación efectivos, que garanticen responsabilidad y revisión de las peticiones.


Imagen original de Pixabay

Publicaciones relacionadas

Las bibliotecas deben contar con excepciones al derecho de autor para garantizar el acceso al conocimiento y la cultura

Las bibliotecas deben contar con excepciones al derecho de autor para garantizar el acceso al conocimiento y la cultura

La Segunda Sala de la Suprema Corte de Justicia de la Nación resolvió los amparos en revisión 132/2022 y 164/2022 en contra de la Ley General de Bibliotecas. Si bien la Corte resolvió a favor de la constitucionalidad de dicha ley, también interpretó que las bibliotecas depositarias no pueden poner a disposición del público las obras a menos que cuenten con autorización del titular de derechos de autor.

La aprobación de extraditar a Julian Assange a Estados Unidos manda un mensaje de intimidación a periodistas y personas alertadoras

La aprobación de extraditar a Julian Assange a Estados Unidos manda un mensaje de intimidación a periodistas y personas alertadoras

El pasado 17 de junio, la Ministra de Interior del Reino Unido, Priti Patel, aprobó una orden de extradición de Julian Assange, a petición del gobierno de Estados Unidos. Esta decisión envía un mensaje contundente para intimidar y provocar la autocensura de periodistas y de otras personas que alertan acciones y omisiones de los Estados que cometen violaciones a derechos humanos y actos de corrupción.

INAI no debe validar FAN ID de forma opaca y precipitada

INAI no debe validar FAN ID de forma opaca y precipitada

Por medio de la presente, expresamos nuestra inconformidad ante la ausencia de la sociedad civil en la mesa de trabajo entre el Instituto con la Federación Mexicana de Fútbol (FMF) y la Liga MX sobre la implementación del sistema de registro e identificación biométrica (Fan ID), así como las cámaras con capacidades de reconocimiento facial en los estadios de fútbol.

R3D presenta informe sobre la moderación de contenidos desde una perspectiva interamericana

R3D presenta informe sobre la moderación de contenidos desde una perspectiva interamericana

Desde R3D: Red en Defensa de los Derechos Digitales presentamos el informe La moderación de contenidos desde una perspectiva interamericana, un nuevo documento elaborado para Al Sur como parte del Diálogo de las Américas sobre Libertad de Expresión en Internet que fue convocado por la Relatoría para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH).