La Sala Segunda de Revisión de la Corte Constitucional de Colombia determinó que debe respetarse el derecho a una persona juzgadora humana como parte del debido proceso, por lo que una inteligencia artificial no puede sustituir el rol de las y los jueces, señaló el máximo tribunal en un comunicado.
La discusión de la Corte se dio a partir de una acción de tutela presentada por la madre de un menor de edad en contra de una Entidad Promotora de Salud. En dicho proceso, un juez de tutela de segunda instancia recurrió a ChatGPT para formular interrogantes jurídicas, cuyas respuestas incorporó después en la motivación de la sentencia.
En ese sentido, la Sala Segunda afirmó que en el diseño normativo actual de Colombia no se contemplaba un “juez máquina” o una inteligencia artificial de apoyo que tome las decisiones del poder judicial, por lo que “la utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana”.
La Corte también advirtió que no es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios que puedan estar presentes en herramientas de inteligencia artificial. El tribunal también advirtió que se debe tener una total transparencia, responsabilidad y cuidado en la protección de la privacidad en todos los casos cuando se recurra a herramientas tecnológicas o de inteligencia artificial.
“El uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores”, señaló la Sala Segunda.
En el caso analizado, la Corte decidió que no hubo un reemplazo de la función judicial por parte de ChatGPT, ya que el juez usó la herramienta después de fundamentar y tomar la decisión. Sin embargo, el juez de tutela sí incumplió el principio de transparencia, al no exponer claramente el uso y alcance de la herramienta; así como el principio de responsabilidad, ya que no clarificó la idoneidad y la necesidad del uso de la inteligencia artificial.
Finalmente, la Corte exhortó a los jueces a evaluar el uso adecuado de tecnologías como ChatGPT y ordenó al Consejo de la Judicatura a adoptar “una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial” bajo un enfoque de derechos humanos.
Imagen: (CC-BY) Gibrán Aquino
