En los últimos tiempos se está prestando una especial atención a los efectos y límites de la aplicación de la inteligencia artificial generativa a la función jurisdiccional; llegando a especularse (a nuestro juicio de forma injustificada), incluso, sobre la sustitución futura -total o parcial- del juzgador humano por un algoritmo.
A) Contexto europeo: Los sistemas de IA destinados a ser utilizados por una autoridad judicial como sistemas de IA de alto riesgo en el Reglamento de Inteligencia Artificial
Antes de dar cuenta de la Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia procede recordar que el art.6 del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) (RIA) (remitimos al lector al comentario de este RIA que encontrará en las entradas de este blog publicadas los días 22, 24, 26, 29 y 30 de julio y 12, 13 y 14 de agosto de este año 2024) establece las “reglas de clasificación de los sistemas de IA de alto riesgo” y, dentro de ellas, dispone en su apartado 2: “Además de los sistemas de IA de alto riesgo a que se refiere el apartado 1, también se considerarán de alto riesgo los sistemas de IA contemplados en el anexo III”. Pues bien, el apartado 8 de este Anexo III -que enumera los “sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2”- se refiere a la “administración de justicia y procesos democráticos” y en su apartado a) identifica los “sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigación e interpretación de hechos y de la ley, así como en la garantía del cumplimiento del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resolución alternativa de litigios”.
B) La Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia
En este contexto, nos parece interesante dar cuenta de la Sentencia T-323 de 2024, de 2 de agosto de 2024, de la Sala Segunda de Revisión de la Corte Constitucional de Colombia (Referencia: expediente T-9.301.656 Asunto: uso de herramientas de inteligencia artificial generativas en procesos judiciales de tutela. Cobro de copagos y cuotas moderadoras en el SGSSS a niño diagnosticado con TEA. Magistrado sustanciador: Juan Carlos Cortés González), cuyo texto nos ha facilitado Jesus Sánchez García hace unos días a través de su red de internet. Para ser precisos en esta referencia, utilizaremos el texto de la Sentencia (particularmente el apartado dedicado a la “síntesis de la decisión”) destacando algunos párrafos en negrita.
B.1) Planteamiento de la cuestión: “Sobre el uso de la inteligencia artificial para la toma de decisiones en sede de tutela”
La “síntesis de la decisión” identifica, dentro del objeto de estudio por la Corte, el siguiente aspecto: “Teniendo en cuenta que el juez de segunda instancia de la tutela objeto de revisión hizo uso de IA para emitir su decisión, en específico, de ChatGPT 3.5, la Sala consideró relevante revisar una posible vulneración al derecho fundamental al debido proceso en la emisión de dicha decisión, ya que se encontraron dudas respecto a si quien emitió la decisión fue un juez de la República o una IA y si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA. De esta manera, se abordaron los siguientes puntos (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la práctica judicial; (viii) la garantía del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.”
B.2) Fundamentación de la decisión de la Corte: “No se cuestionó la validez de la decisión del Juzgado del Circuito por haber sido tomada con antelación al uso de la herramienta ChatGPT”
En este sentido, la “síntesis de la decisión” sigue diciendo: “En cuanto a la posible violación al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivación, la Sala estimó que no existió un remplazo del ejercicio de la función jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utilizó luego de haberse fundamentado y tomado la decisión. En el orden metodológico que adoptó el fallo de tutela, el funcionario judicial primero identificó la tesis que sostendría, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se debía atender por guardar identidad fáctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño y, solo entonces, anunció y procedió a efectuar preguntas en el referido sistema de IA, para así transcribir las respuestas arrojadas en la consulta. Conforme con lo anterior, no se cuestionó la validez de la decisión del Juzgado del Circuito por haber sido tomada con antelación al uso de la herramienta ChatGPT. Sin perjuicio de lo anterior, se evidenció que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta”.
B.3) Decisión de la Corte: “El uso de ChatGPT en el caso sometido a estudio no comportó una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente”
La “síntesis de la decisión” dice, en este aspecto: “La Sala de Revisión decidió que el derecho al debido proceso no se había vulnerado por el juez de segunda instancia, por tanto, no se configuró una causal de invalidez de lo actuado, pues el uso de ChatGPT en el caso sometido a estudio no comportó una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente. Sin perjuicio de lo anterior, la Sala estimó que en el marco del respeto por los derechos fundamentales y de la salvaguarda de las garantías constitucionales para los usuarios del sistema de administración de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA, era procedente establecer algunos criterios orientadores, así como que, desde el Consejo Superior de la Judicatura, se emitan unas guías o lineamientos sobre su implementación por parte de los jueces y que desde la judicatura misma se adopten las mejores prácticas que conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcional de herramientas innovadoras y dinámicas como ChtatGPT, sin admitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonomía e independencia judiciales”.
B.4) Referencias a nociones básicas y documentos internacionales sobre IA generativa
La Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia contiene numerosas referencias a nociones básicas y documentos internacionales de los que nos parece interesante destacar las siguientes:
a) En sus apartados 82 y ss. se refiere a los “sistemas de IA. Concepto y aspectos básicos acerca de su funcionamiento” y, en el apartado 83 hace algunas consideraciones básicas que nos parecen interesantes cuando dice: “Aunque las capacidades de los sistemas de IA son variables, el punto de partida para aproximarse a tal concepto está en cuatro criterios: (i) el razonamiento, (ii) la racionalidad, (iii) la conducta y (iv) la fidelidad en la forma de actuar con los humanos. De allí que un sistema de IA pueda definirse como (i) sistemas que piensan como humanos; (ii) sistemas que piensan racionalmente; (iii) sistemas que actúan como humanos y (iv) sistemas que actúan racionalmente”.
b) Más adelante, después de referirse al concepto de sistema de IA contenido en el RIA, el apartado 90 de la Sentencia recoge el concepto de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) que, el 5 de marzo de 2024, publicó el memorando explicativo n.º 8 sobre la definición actualizada de la OCDE de un sistema de IA, con la que efectuó cambios al concepto que había adoptado en 2019, para señalar que: “Un sistema de IA es un sistema basado en una máquina que, ya sea para alcanzar objetivos explícitos o implícitos, infiere -a partir de la entrada que recibe- cómo generar salidas, tales como predicciones, contenidos, recomendaciones o decisiones, las cuales pueden influir en entornos físicos o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y capacidad de adaptación después de su implementación”.
c) También nos parece interesante lo que constata su apartado 97 cuando dice: “Visto lo anterior, es posible señalar que, hoy en día, la IA se diferencia de tecnologías de la información anteriores, principalmente, por dos características. En primer lugar, estas nuevas tecnologías son capaces de aprender, es decir, pueden identificar patrones y descubrir nueva información sin la asistencia de un humano, así como predecir eventos futuros. En segundo lugar, la IA puede actuar con cierto grado de autonomía. Esto es, puede tomar, por sí sola, decisiones que no están preprogramadas. En teoría, un nivel más alto de autonomía implicaría la capacidad de determinar estrategias óptimas para completar ciertas tareas e incluso determinar objetivos”.
d) Por último, destacamos lo que dice la Sentencia en su apartado 122 sobre la Carta Iberoamericana de IA en la administración pública (Centro Latinoamericano de Administración para el Desarrollo. Carta Iberoamericana de Inteligencia Artificial en la Administración Pública. Págs 8 y 9. Disponible en https://clad.org/wp-content/uploads/2023/08/Borrador-CIIA-V2-ES-08-2023.pdf) sobre la (i) la IA Internet , (ii) la IA Negocio ; (iii) la IA Percepción y (iv) la IA Autónoma.