Uno de los puntos cruciales de la aplicación de la Inteligencia Artificial en el mundo jurídico es su aplicación por los tribunales. Por ello, nos parece de extraordinario interés traer a colación las “Reflexiones de la AIAB sobre el uso de la inteligencia artificial en los sistemas judiciales” del Consejo Asesor de IA de la CEPEJ (Comisión Europea por la Eficiencia de la Justicia) del Consejo de Europa.
Este Documento (“Reflections of the AIAB on the use of artificial intelligence in judicial systems” Strasbourg, 31 January 2025, refer: CEPEJ-AIAB (2025)1Rev5. European Commission for the Efficiency of Justice (CEPEJ). CEPEJ working group on cyberjustice and artificial intelligence (CEPEJ-GT-CYBERJUST). Artificial intelligence advisory board (AIAB)) es obra del Consejo asesor sobre IA, al que pertenece Alfonso Peralta Gutiérrez, Magistrado-Juez del Juzgado de Primera Instancia e Instrucción nº 2 de Guadix.
Tal y como anticipamos en la entrada de este blog del pasado día 19, sobre la “Inteligencia artificial: Aplicaciones en la contratación, la jurisdicción, la abogacía y la responsabilidad: Jornada del Colegio de Abogados de Málaga en Ronda el 16 de mayo de 2025” a propósito de la aplicación de la IA en la jurisdicción; en esta entrada damos cuenta, con algo más de detalle, del referido Documento de “Reflexiones sobre el uso de la inteligencia artificial en los sistemas judiciales” del Comité Consultivo de IA de la CEPEJ (Comisión Europea por la Eficiencia de la Justicia) del Consejo de Europa que nos parece de gran interés.
A) El método de análisis coste/beneficio
El Documento comienza aplicando un método de análisis “clásico” en todos los aspectos de la regulación de la IA que es el método de análisis coste/beneficio que, en este caso, identifica los beneficios potenciales del uso de la IA en los sistemas judiciales tanto para las partes litigantes como para la oficina judicial; así como los riesgos significativos de la integración de la IA en los procesos judiciales (lesión de derechos fundamentales, discriminaciones, calidad e integridad de los datos, transparencia del diseño, etc.). En efecto:
A.1) Beneficios potenciales del uso de la IA en los sistemas judiciales
En general, la IA ofrece importantes oportunidades para mejorar el acceso a la justicia y simplificar los procedimientos judiciales. De entre ellos, el documento destaca los siguientes (apartados 4 a 10):
a) Para las partes litigantes
a.1) Mejorar el acceso a la justicia. Por ejemplo, las herramientas de información, como los chatbots, pueden hacer más accesibles los sistemas jurídicos, proporcionando información clara e inmediata sobre procedimientos y derechos.
a.2) Reducir las barreras lingüísticas y jurídicas que pueden obstaculizar a los litigantes que no están familiarizados con el sistema jurídico.
a.3) Proporcionar una estimación cuantitativa de las posibilidades de éxito legal, ofreciendo a los litigantes una mejor evaluación de los riesgos antes de iniciar el procedimiento; lo que podría conducir a decisiones más informadas, reduciendo al mismo tiempo los litigios innecesarios.
a.4) Automatizar tareas como la redacción de documentos jurídicos o la organización de los argumentos podría dar lugar a una reducción de los honorarios de los abogados y de los costes procesales.
a.5) Optimizar los flujos de trabajo judiciales podría contribuir a reducir los tiempos de tramitación de los asuntos, lo que beneficiaría directamente a los litigantes al ofrecerles decisiones más rápidas y reducir las frustraciones asociadas a las largas esperas.
b) Para la oficina judicial
b.1) La integración de la IA en el trabajo de jueces, secretarios judiciales y demás personal de los tribunales también ofrece importantes ventajas en términos de ahorro de tiempo y eficiencia. Por ejemplo, la asignación de casos y la verificación de los criterios de admisibilidad y competencia pueden realizarse casi instantáneamente utilizando herramientas automatizadas. Esto libera tiempo para tareas que requieren conocimientos humanos.
b.2) Mejorar significativamente el procesamiento de documentos. Las herramientas de traducción automática permiten gestionar casos en varios idiomas, lo que resulta especialmente útil en casos transnacionales.
b.3) Las transcripciones automatizadas de las vistas también simplifican el seguimiento de los procedimientos.
b.4) La generación de resúmenes y la clasificación de los documentos del caso permiten a jueces y abogados concentrarse en lo esencial
b.5) Mejor gestión de los recursos judiciales, en particular, automatizando la asignación de asuntos a las salas adecuadas o identificando rápidamente los argumentos clave de un caso.
b.6) Las ayudas a la redacción y las herramientas de búsqueda aumentada, que utilizan el lenguaje natural para explorar la jurisprudencia y la doctrina, facilitan un trabajo jurídico más preciso y exhaustivo.
A.2) Riesgos significativos de la integración de la IA en los procesos judiciales
La integración de la IA en los procesos judiciales conlleva riesgos importantes que deben tenerse en cuenta para garantizar que la justicia sea imparcial, transparente y respetuosa con los derechos fundamentales. Estos riesgos afectan tanto a los principios fundamentales de la justicia como a las prácticas cotidianas, y plantean cuestiones relativas a la protección de datos, la transparencia, la imparcialidad y la rendición de cuentas. Identificar y mitigar estos riesgos es esencial para evitar posibles abusos y generar confianza en estas nuevas tecnologías mediante la puesta en marcha de medidas correctoras adecuadas. En particular, se identifican los riesgos siguientes (apartados 11 y 12):
a) Lesión de derechos fundamentales
Son los riesgos de que la IA sustituya el acceso a un juez, de fundamentación vaga o injustificada de las decisiones, de ventaja injusta para una de las partes del procedimiento, comprometiendo el principio de igualdad de armas, de vulneración de derechos fundamentales o desequilibrio en la conciliación de derechos fundamentales en conflicto, de generar y utilizar disposiciones jurídicas inexistentes mediante IA generativa, de reducción de la responsabilidad y la apropiación por parte de los jueces debido al uso de IA no explicable y de que las herramientas de IA no reflejen fielmente el razonamiento jurídico
Nos parece particularmente destacable el riesgo de homogeneización jurídica y amplificación del dominio de determinadas culturas jurídicas, en particular debido al uso internacional de modelos de IA basados en la jurisprudencia angloamericana, en detrimento de los sistemas jurídicos continentales.
b) Discriminaciones
Es el riesgo de discriminación o amplificación de la discriminación, en particular, debido a conjuntos de datos sesgados.
c) Calidad e integridad de los datos
Son los riesgos de divulgación de datos personales o secretos comerciales, de elaboración de perfiles de los jueces y de “forum shopping” y de uso indebido de datos.
d) Transparencia del diseño algorítmico
Son los riesgos de falta de claridad en los criterios o de ponderación inadecuada de los criterios de tratamiento por parte de la IA y de pérdida de confianza en los sistemas de IA si las evaluaciones de las herramientas no están abiertas al escrutinio
e) Control del usuario
Es el riesgo de uso forzoso de la IA.
f) Ignorancia o uso inadecuado
Son los riesgos de uso de un modelo de IA entrenado para otros fines, de lagunas en la comprensión del rendimiento de la IA en ausencia de formación y de sesgos de automatización.
B) Las reflexiones
Las reflexiones propiamente dichas que dan título al documento versan sobre los aspectos siguientes:
a) La calidad e integridad de los datos utilizados por los sistemas judiciales de IA
El documento formula una serie de recomendaciones para garantizar la calidad y la seguridad de los datos utilizados por los sistemas de IA en el ámbito jurídico (apartados 13 a 19):
a.1) Seleccionar datos pertinentes, recientes y representativos, en particular, resoluciones judiciales, velando al mismo tiempo porque sean anotadas por expertos reconocidos de diversas disciplinas, como el Derecho, la ética, la informática y las ciencias humanas y sociales.
a.2) Ponderar estas decisiones y establecer un sistema de clasificación y jerarquización que prevea su inclusión en bases de datos de formación, así como las condiciones de su mantenimiento (duración, condiciones, etc.).
a.3) Certificar digitalmente los datos y las decisiones, mediante metadatos y técnicas criptográficas
a.4) Garantizar la trazabilidad de los datos, utilizando tecnologías como las TRD o blockchain.
a.5) Garantizar la seudonimización de los datos personales para limitar los riesgos de la elaboración de perfiles.
a.6) Usar modelos de IA de propósito único, con interoperabilidad limitada, y adoptar modelos explicables garantizan una mayor transparencia y comprensión de los procesos algorítmicos, al tiempo que limitan los riesgos de uso indebido.
a.7) Verificar los datos y modelos de IA mediante su auditoría periódica que resulta esencial para detectar y corregir cualquier fallo o sesgo.
a.8) Fomentar un debate público en el que participen todas las partes interesadas -profesionales del Derecho, empresas de tecnología jurídica y científicos- para debatir las posibles repercusiones de las aplicaciones de la IA en los sistemas judiciales y desarrollar un marco ético adecuado. En este sentido, la provisión de materiales de formación sobre IA para jueces y administradores también es esencial, como lo es la publicación abierta de las evaluaciones de las herramientas de IA antes de que se desplieguen, lo que permite una mayor transparencia.
a.9) Promover una vigilancia activa, en particular a través de la sociedad civil y el mundo académico, basada en iniciativas como “Algorithmwatch”, para garantizar una supervisión constante e independiente de las herramientas de IA en el ámbito judicial.
b) El uso de grandes modelos lingüísticos (LLM) de uso general para responder a las necesidades de la actividad judicial en materia técnica, en particular civil
El Documento destaca (apartados 20 a 22) que los grandes modelos lingüísticos (LLM) pueden utilizarse de diversas maneras y la idoneidad de su uso en un contexto judicial depende esencialmente de los usos específicos previstos, de las expectativas del usuario y de la capacidad de éste para cuestionar el contenido generado por estos LLM generalistas (lo mismo ocurre con los LLM que se presentan como especializados).
En el anterior sentido, el estado actual de desarrollo de los LLM generalistas permite que sean utilizados por los abogados para redactar escritos o por los jueces para redactar resoluciones. En todo caso, hay que tener en cuenta que estos LLM pueden proporcionar una base inicial para el trabajo de redacción, a menudo en una forma que satisface las expectativas y con información bastante bien obtenida (especialmente cuando el modelo se basa en la “Generación Aumentada por Recuperación”, RAG), pero que no resulta correctamente interpretada, por regla general.
Los límites de este uso de los LLM generalistas se encuentran en la ausencia de intervención humana, la dirección del contenido, la falta de capacidad del sistema para proponer una motivación o razonamiento humano, los sesgos potencialmente discriminatorios, la interpretación errónea, reductora o marginal de disposiciones legales, jurisprudencia o doctrinas, la referencia a fuentes inadecuadas y los textos largos, repetitivos e irrelevantes que hacen perder el tiempo al lector, a la parte contraria y al juez.
c) La conciliación de la eficacia prometida por las herramientas de IA y el mantenimiento de la «justicia humana», centrada en el individuo
Esta “tensión dialéctica” se aborda en los apartados 23 a 26 del Documento que comienza diciendo que los sistemas simbólicos de IA (sistemas expertos) pueden ser útiles para tareas y usos estandarizados sin ningún riesgo que difiera del que supone asignar la tarea a un ser humano, ya que su naturaleza determinista les permite producir resultados explicables y comprensibles y acaba señalando que “en el ámbito jurisdiccional, nunca deben perderse de vista el control y la supervisión humanos. Los usuarios no deben ceder ni ser alentados directa o indirectamente a ceder al sesgo de automatización, es decir, la tendencia de los seres humanos a considerar acríticamente correcta la solución propuesta por la inteligencia artificial, lo que conduce a la validación automática por parte de los seres humanos de las propuestas de la IA”.
d) Las herramientas de IA en el proceso de redacción de las resoluciones judiciales
Este aspecto práctico tan relevante se aborda en los apartados 27 a 34 del Documento que comienza advirtiendo que “es importante distinguir entre el apoyo a la redacción y el apoyo a la toma de decisiones, aunque algunos sistemas de IA combinen en parte estos dos objetivos”.
e) La formación en IA para profesionales del Derecho
Este aspecto igualmente relevante para la práctica judicial se aborda en los apartados 35 a 42 del Documento que comienza señalando que “ante la irrupción de la inteligencia artificial, los jueces necesitan desarrollar competencias esenciales para garantizar un uso prudente y responsable de estas tecnologías en el ámbito judicial. En primer lugar, es esencial una comprensión avanzada del funcionamiento de los sistemas de IA. Esto incluye el conocimiento de las diferencias entre los enfoques simbólico y conexionista, la forma en que se constituyen y anotan los corpus de datos y los diferentes modelos de entrenamiento utilizados. Este conocimiento técnico permite a los jueces evaluar los mecanismos de funcionamiento de las herramientas de IA, lo que permite tomar decisiones informadas sobre su uso”.
f) Aplicación de una evaluación de riesgos e impactos de los sistemas de IA
Este aspecto relevante para la práctica judicial se aborda en los apartados 43 a 45 del Documento que constata: “Desde septiembre de 2024 se está llevando a cabo un proyecto piloto de la (auto) «Herramienta de evaluación para la operatividad de la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno de sistemas de IA«, en el que participan cuatro jurisdicciones, incluido el Tribunal de Casación francés, así como sus homólogos italiano, español y estonio. Aunque esta herramienta se diseñó principalmente para detectar los riesgos en términos de derechos fundamentales y ética para la IA de alto riesgo en el ámbito judicial, actualmente se está probando con IA de bajo riesgo para permitir que la herramienta se utilice por primera vez. Los proyectos afectados por esta primera fase de despliegue de la herramienta de autoevaluación son generalmente proyectos de bajo riesgo que son inmediatamente útiles y eficaces (transcripción de audiencias, seudonimización de resoluciones judiciales y clasificación automática de asuntos para su asignación a la sala adecuada)”.
C) Ejemplos de aplicaciones prometedoras de la IA en el ámbito de la justicia
Los apartados 46 a 50 del Documento identifican los siguientes ejemplos de aplicaciones prometedoras de la IA en el ámbito de la justicia:
a) Las Herramientas para la tramitación de demandas masivas (OLGA – OberLandesGerichts-Assistent / Regional Court Assistant) en Alemania.
b) Las Herramientas de anonimización (ANOM / Anonimización) en Suiza.
c) La Guía de procedimiento para posibles litigantes (Guía Práctica de la Justicia, PGJ) en Portugal.
d) La Grabación y transcripción automatizada de vistas (Speech-To-Text «Textualisation») en España. Sobre esta iniciativa el Documento señala: “La herramienta se basa en técnicas de aprendizaje neuronal y se integra con sistemas de grabación de vistas entrenados con audiencias y transcripciones reales. Permite buscar texto en vídeos, descargar grabaciones, identificar interlocutores en diálogos, visualizar líneas de tiempo, mostrar/ocultar marcas y textualizaciones, y crear etiquetas asociadas a momentos concretos de la grabación”.
D) Perspectivas de futuro sobre el probable desarrollo de la IA en el sector judicial
El Documento concluye con unas previsiones de futuro sobre el probable desarrollo de la IA en el sector judicial (apartados 51 y ss.) que empiezan constatando: “Este documento se basa en observaciones y reflexiones hasta 2024. Queda por ver si se superarán las deficiencias de los sistemas actuales y si las versiones futuras serán sólidas y fiables. Al menos en la actualidad, queda por saber si la IA transformará estructuralmente el sector judicial, como sugieren algunos autores”.
Después añade: “Se espera que se sigan lanzando nuevas versiones de chatbots de IA generalista, como ChatGPT, a un ritmo relativo. Aunque las especulaciones sobre las características de las nuevas versiones sólo podrán confirmarse cuando se publiquen, se espera que incluyan funciones de razonamiento más avanzadas. capacidades, un mejor manejo de los datos multimodales y una mejora general de la precisión del rendimiento”.
Y concluye: “Los «agentes» de IA son programas capaces de realizar tareas de forma autónoma en nombre de un usuario (o incluso de otro sistema), de forma similar a un asistente personal y el uso generalizado de agentes es un nuevo avance previsto en el ámbito general de la IA. Las directrices y normativas para el despliegue de la IA en el sector judicial deberán tener en cuenta las implicaciones de los agentes a medida que aumente su prevalencia prevista”.