Por Milagros Denise Tallarico (*)
I.- Introducción
En un contexto donde la inteligencia artificial (IA) comienza a jugar un papel cada vez más relevante en diversos ámbitos, el sistema judicial colombiano se enfrentó a nuevos desafíos éticos y legales. Un reciente fallo de la Corte Constitucional de Colombia ha generado un amplio debate sobre el uso de IA en el proceso judicial, específicamente con respecto al empleo de ChatGPT 3.5.
La Corte Constitucional decidió sobre la acción de tutela interpuesta por la progenitora de un menor diagnosticado con Trastorno del Espectro Autista, contra una EPS (Entidad Promotora de Salud) que se negó a exonerar el cobro de cuotas moderadoras para los tratamientos necesarios del niño. La controversia se intensificó por el uso de inteligencia artificial en el dictado de la sentencia de segunda instancia, suscitando preocupaciones sobre la validez del debido proceso y la autonomía del poder judicial.
II.- Consideraciones de la Corte Constitucional de Colombia
En este caso, el juez de segunda instancia recurrió a ChatGPT 3.5 para asistir en la formulación de su decisión, lo que ha generado un debate significativo sobre la posible vulneración del derecho al debido proceso. La Corte Constitucional ha examinado si el empleo de IA en la motivación de las decisiones judiciales podría substituir inapropiadamente el rol del juez y si las respuestas generadas por la IA podrían estar sesgadas o ser el resultado de “alucinaciones” típicas de estos sistemas.
La Corte concluye que, en este caso, no se incurrió en una violación del debido proceso, dado que la decisión judicial fue adoptada antes de consultar a ChatGPT 3.5, empleando la inteligencia artificial únicamente como una herramienta auxiliar. No obstante, la Corte señala la necesidad de establecer un marco regulatorio específico para el uso de IA en el ámbito judicial, con el fin de prevenir posibles infracciones a los derechos fundamentales.
Por su parte, la sentencia estableció una serie de criterios orientadores diseñados para regular el uso de la IA en el ámbito judicial. Estos criterios no solo buscan garantizar que las herramientas tecnológicas se utilicen de manera eficaz, sino que también aseguran que su implementación sea consistente con los valores esenciales de transparencia, equidad y responsabilidad que sustentan el sistema de justicia.
III.- ¿Cuáles son los criterios orientadores para la implementación de IA generativa?
- Transparencia, entendida como la obligación de evidenciar con claridad y precisión el uso, alcances y ubicación en las actuaciones o decisiones de los resultados obtenidos por la utilización de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicción.
- Responsabilidad, comprendida como aquella obligación que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnologías, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la información suministrada por la misma, la cual debe ser verificada.
- Privacidad, es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administración de justicia para cumplir con los fines propios de la Rama Judicial.
- No sustitución de la racionalidad humana, como expresión de la imposibilidad ética y jurídica de sustituir la acción y la responsabilidad del individuo de la especie humana en la gestión de las actuaciones y decisiones judiciales.
- Seriedad y verificación, que implica la obligación de realizar un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de cara a la actuación en curso o a la solución del problema jurídico correspondiente.
- Prevención de riesgos, como mandato en cuanto aplicar los estándares adecuados de control sobre situaciones que generen riesgo por la aplicación de tecnologías tales, en aspectos como imprecisiones, desactualizaciones, alucinaciones, sesgos, inconsistencias y demás.
- Igualdad y equidad, en cuanto se erradiquen todas las formas de discriminación relacionadas con la aplicación de sesgos derivada del uso de tales tecnologías y su impacto negativo en la eficacia de los derechos humanos.
- Control humano, en tanto considerando los anteriores criterios, siempre se permita la realización efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida información y el uso de recursos que deban ser resueltos por autoridades humanas.
- Regulación ética, que implica el desarrollo de estándares de comportamiento individual que se adecúen a los mandatos superiores y legales y a las pautas razonables para el uso de tales tecnologías por parte de los funcionarios y servidores de la Rama Judicial.
- Adecuación a buenas prácticas y estándares colectivos, en tanto se apliquen los esquemas razonables que se definan para el funcionamiento de la Rama Judicial, desde su autonomía e independencia, a partir de las definiciones que adopten sus autoridades, tanto en sede de administración como de orientación jurisprudencial.
- Seguimiento continuo y adaptación, a efecto que el uso de tales tecnologías consulte los avances jurídicos, sociológicos y tecnológicos que se vayan implementando, así como los esquemas de mejora y control que se construyan en forma progresiva.
- Idoneidad. El uso de las tecnologías de la información y de las comunicaciones en la gestión y trámite de los procesos judiciales y asuntos en curso debe ser adecuado para facilitar y agilizar el acceso a la justicia.
IV.- Consideraciones
La clave para la efectiva incorporación de la inteligencia artificial en la justicia radica en encontrar un equilibrio que nos permita aprovechar sus beneficios sin comprometer los derechos fundamentales. La adopción de estándares éticos y buenas prácticas es esencial para garantizar que estas herramientas contribuyan positivamente, manteniendo su integridad y confianza. Además, es crucial que el sistema judicial mantenga un compromiso constante con la utilización de herramientas de inteligencia artificial generativa, supervisando y evaluando de manera continua sus limitaciones.
FUENTE
Corte Constitucional de la República de Colombia - Sentencia T-323 de 2024 (Expediente T-9.301.656)
(*) Milagros Denise Tallarico. Abogada graduada de la Universidad Nacional de Lomas de Zamora (UNLZ). Legal Analytics Universidad Torcuato Di Tella (UTDT). Semi Sr. Associate en Alfaro Abogados.