Conviene que los ciudadanos sean conscientes de una realidad presente (aunque pudiera parecer el escenario de una película de ciencia ficción): Cada día miles de jueces y tribunales en todo el Mundo están dictando resoluciones que afectan a los derechos humanos esenciales -como la vida, la libertad, la propiedad, etc.- utilizando sistemas y programas de inteligencia artificial. Para que este uso legítimo no degenere en abuso con consecuencias “inhumanas”, resulta imprescindible elaborar y aplicar unas orientaciones claras que marquen los límites de aquel uso, evitando, por ejemplo, que el algoritmo dicte de forma autónoma la decisión final que pueda privar a la persona de su propiedad y su libertad y, en determinados Estados, incluso de su vida. Desde hace ya bastantes años, las asociaciones y organismos públicos son plenamente conscientes de este riesgo de “deshumanización” de la Justicia y, por ello, han dictado instrucciones, principios y directrices en la materia de los que nos hemos venido ocupando en este blog y fuera de él (el lector interesado pude consultar la nota bibliográfica final).
A) Identificación de las Directrices de la UNESCO para el Uso de Sistemas de IA en Cortes y Tribunales, 2026
A principios de este año 2026, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) publicó las Directrices para el Uso de Sistemas de IA en Cortes y Tribunales, 2026 (Título original: “Guidelines for the Use of AI Systems in Courts and Tribunals” © UNESCO 2026, ISBN 9789233002746, DOI: 10.58338/UKER1775). Estas Directrices fueron preparadas por Juan David Gutiérrez, PhD, Profesor Asociado, Universidad de los Andes, Colombia, figurando como revisor externo, Alfonso Peralta Gutiérrez, Juez de Primera Instancia e Investigación Penal de Granada (España). Las Directrices se han desarrollado como parte del proyecto financiado por la Comisión Europea “Apoyar a los Estados Miembros en la Implementación de la Recomendación de la UNESCO sobre la Ética de la IA mediante herramientas innovadoras.”
B) Finalidad
Las Directrices comienzan constatando que la Inteligencia Artificial (IA) está cada vez más integrada en los sistemas judiciales de todo el mundo, creando oportunidades para mejorar el acceso a la justicia, mejorar la gestión de casos y apoyar la toma de decisiones judiciales. Sin embargo, su uso también plantea importantes desafíos éticos, legales y de derechos humanos. Para abordar estos temas, la UNESCO ha desarrollado las Directrices para el Uso de Sistemas de IA en Cortes y Tribunales, el primer marco ético y operativo orientado globalmente para la IA en contextos judiciales. Las Directrices tienen como objetivo garantizar que las aplicaciones de IA sirvan a la causa de la justicia, al tiempo que salvaguardan el estado de derecho y los derechos fundamentales.
En cuanto a su génesis, hay que tomar en consideración que, a través del programa de la UNESCO para el poder judicial sobre la libertad de expresión y la seguridad de los periodistas y el programa IA y Estado de Derecho, más de 36.000 actores judiciales en más de 160 países han participado, reforzando la conciencia tanto sobre los posibles beneficios como sobre los riesgos de la IA. El desarrollo de las Directrices se basó en consultas globales con las partes interesadas, asegurando que sus recomendaciones reflejen diversas tradiciones legales, capacidades tecnológicas y necesidades sociales.
Cuando nos referimos al riesgo de “deshumanización” de la Justicia, no exageramos cuando vemos que, tal y como se subraya al principio del Documento, las herramientas de IA pueden apoyar los objetivos fundamentales del sector judicial. Sin perjuicio de ello, dice que “la adopción de instrumentos defectuosos y el uso negligente de sistemas de IA por parte del poder judicial también pueden socavar los derechos humanos, como el juicio justo y el debido proceso, el acceso a la justicia y a la eficacia de los recursos, la privacidad y la protección de datos, la igualdad ante la ley y la no discriminación, así como valores judiciales como la imparcialidad, la independencia y la rendición de cuentas”.
C) Principios
Las Directrices se fundamentan en quince principios universalmente aplicables que guían la adopción, gobernanza y supervisión de la IA en el poder judicial y, en su conjunto, proporcionan una dirección práctica para los líderes judiciales, jueces y personal judicial que consideran soluciones de IA. En este sentido, la IA no se concibe como un sustituto del razonamiento judicial, sino como una herramienta de apoyo para ampliar el acceso a la información, mejorar la eficiencia y apoyar la justicia equitativa, siempre bajo supervisión humana significativa y revisión ética. Estos quince principios son:
a) La protección de los derechos humanos, porque se toman “las medidas necesarias para respetar, proteger y promover los derechos humanos y el estado de derecho a lo largo de todo el ciclo de vida de los sistemas de IA. Deben existir salvaguardas eficaces respecto de los sistemas de IA que puedan representar un alto riesgo para los derechos humanos, como la implementación de las evaluaciones de rendición de cuentas descritas en la sección 2 de las Directrices. El despliegue de sistemas de IA debe proteger especialmente los derechos de las mujeres y las niñas, las personas con discapacidad, los niños, los refugiados, los migrantes, los apátridas, las minorías y otras poblaciones en situación de marginación y/o vulnerabilidad. Aunque todos los derechos humanos pueden verse potencialmente afectados por ciertos sistemas de IA a lo largo del ciclo de vida de estas herramientas, los siguientes son especialmente importantes en el contexto de los procedimientos judiciales”.
b) La proporcionalidad, para “adoptar, desplegar y utilizar sistemas de IA que tengan como objetivo lograr fines legítimos y proporcionales en el contexto de su uso”.
c) La viabilidad de los beneficios, porque, ”antes de adoptar sistemas de IA, el poder judicial debe evaluar tanto los beneficios potenciales específicos (para el poder judicial, los usuarios y el público) como su capacidad institucional para generarlos”.
d) La seguridad de los sistemas de IA, porque se deben “adoptar, desplegar y utilizar sistemas de IA que eviten, aborden, prevengan, mitiguen o eliminen daños no deseados para las partes, los jueces, los tribunales a los que pertenecen, la reputación y autoridad del poder judicial, y para el público”.
e) La seguridad de la información que “alimenta” aquellos sistemas de IA, porque se deben “adoptar, desplegar y utilizar sistemas de IA que protejan la información confidencial conforme a los estándares internacionales de acceso a la información, establecer salvaguardas frente a amenazas cibernéticas y garantizar el control continuo del poder judicial sobre sus datos”.
f) La precisión y fiabilidad, ya que se deben “adoptar, desplegar y utilizar sistemas de IA precisos, es decir, sistemas de IA que puedan proporcionar información útil y relevante y producir resultados y predicciones correctas y sistemas de IA fiables, es decir, sistemas de IA que funcione correctamente con una variedad de entradas y en una variedad de situaciones”.
g) La explicabilidad, ya que se deben “adoptar, desplegar y utilizar sistemas de IA que puedan explicar la razón de ser detrás de sus salidas y decisiones y cómo emplean las entradas para tales fines. La explicabilidad se refiere a hacer inteligible y proporcionar información -tanto a quienes despliegan la herramienta como a sus usuarios- sobre las entradas, razonamientos, resultados y funcionamiento de los sistemas de IA, haciendo que estos elementos sean comprensibles, interpretables y rastreables para los humanos”.
h) La auditabilidad, puesto que se deben “adoptar medidas administrativas, legales y humanas para asegurar y permitir que los sistemas de IA puedan ser auditados durante su despliegue”.
i) La transparencia, puesto la Justicia transparente y abierta requiere “adoptar, desplegar y utilizar sistemas de IA que sean transparentes en cuanto a cómo se desarrollaron, cómo funcionan, sus datos de entrenamiento, sus limitaciones (incluido el margen de error), sus capacidades y el propósito de los sistemas. Informar de manera adecuada y oportuna cuándo y cómo se despliegan, adquieren, despliegan y utilizan los sistemas de IA y cómo funcionan estas herramientas, especialmente cuando las decisiones tomadas con o basadas en ellas puedan afectar los
derechos y libertades de individuos o comunidades. Asegurarse de que las personas sean conscientes de que pueden impugnar dichas decisiones”.
j) La concienciación y el uso informado que requiera “comprender las funcionalidades, tipos de uso, posibles impactos, limitaciones y riesgos de los sistemas de IA disponibles, para tomar decisiones informadas sobre su implementación; conocer el propósito previsto del uso de un sistema de IA específico para llevar a cabo actividades judiciales; y mantenerse al día de los avances tecnológicos”.
k) La responsabilidad, que exige que “las organizaciones e individuos que desarrollen y utilicen sistemas de IA deben asumir la responsabilidad de las decisiones y acciones tomadas con el apoyo de herramientas de IA, sin perjuicio de la posible responsabilidad del proveedor en caso de que el sistema de IA sea defectuoso”.
l) La rendición de cuentas (“accountability”) y la contestabilidad, que requieren “garantizar la rendición de cuentas, informando y explicando cómo y por qué ciertas herramientas de IA fueron adoptadas por el poder judicial, así como los resultados obtenidos (o no) con su despliegue. Además, introduce mecanismos que permitan a las partes afectadas impugnar y contrainterrogar cualquier resultado producido por un sistema de IA que pueda influir en el resultado del caso en cuestión, así como impugnar las decisiones y responsabilizar a los operadores judiciales por sus errores.
m) La supervisión y toma de decisiones humanas, porque “los jueces y magistrados no deben delegar ninguna parte de su mandato ni depender exclusivamente de los sistemas de IA para adoptar decisiones o automatizar procesos completos que puedan afectar negativamente a los derechos de individuos o comunidades. Deben preservar la posibilidad de intervención humana en todos los procesos de toma de decisiones en los que se desplieguen los sistemas de IA. Las herramientas de IA no deben sustituir el análisis independiente de hechos, leyes y pruebas por parte del responsable de la toma de decisión”.
n) El diseño participativo y centrado en el ser humano que significa que “el desarrollo, despliegue y uso de sistemas de IA deben seguir principios de diseño centrado en el ser humano para complementar y ampliar las capacidades del poder judicial y respetar la dignidad y la autonomía humanas. El proceso de diseño debe incluir a miembros del poder judicial y al público para garantizar que el proceso sea inclusivo”.
ñ) La gobernanza multi-actor puesto que “las organizaciones judiciales deben consultar a diversos interesados, realizar consultas públicas e implementar enfoques de participación ciudadana a lo largo del ciclo de vida del sistema de IA, especialmente a quienes puedan verse afectados directa o indirectamente por su despliegue, como mujeres, personas con discapacidad, menores y niños. Incorporar sus comentarios en el desarrollo y uso de herramientas de IA que se emplean para emitir juicios o que tienen potencial para influir en cualquier otro asunto legal significativo”.
D) Directrices
El documento de UNESCO proyecta los principios referidos en forma de Directrices que se clasifican en las categorías siguientes:
a) Directrices específicas para organizaciones judiciales que definen las “recomendaciones” como vías de acción sugeridas que derivan de los “principios” que ayudan tanto a las organizaciones tanto a adquirir como a desarrollar sistemas de IA seguros, protegidos y fiables, del mismo modo que ayudarán a los individuos a utilizar sistemas de IA de manera ética, responsable y respetuosa con los derechos humanos. Las recomendaciones de esta sección se dividen en tres categorías y están dirigidas a las autoridades judiciales, cortes y tribunales que pretendan analizar, desarrollar, adoptar, utilizar y evaluar sistemas de IA.
b) Orientaciones específicas para los miembros individuales del poder judicial. Las recomendaciones de esta sección son para personas que forman parte del poder judicial, incluidos jueces, magistrados, fiscales, funcionarios judiciales y personal de apoyo judicial que tengan la intención
de desplegar y utilizar sistemas de IA.
E) Conclusiones
El Documento de la UNESCO ofrece unas conclusiones que podemos exponer sintéticamente valiéndonos de la técnica de las preguntas retóricas:
a) ¿Para qué resultan útiles las Directrices? “Las Directrices ofrecen principios y recomendaciones para maximizar los beneficios de las herramientas de IA en el sistema judicial y prevenir posibles daños, en especial violaciones de derechos humanos”.
b) ¿Pueden servir de modelo las Directrices? “Aunque el poder judicial puede implementar directamente los principios y recomendaciones para organizaciones e individuos, también pueden utilizarse como modelo para desarrollar directrices nacionales y subnacionales específicas para cada contexto”.
c) ¿Es suficiente el impacto normativo de las Directrices? “La implementación efectiva de herramientas de IA en el sector judicial requiere mucho más que la mera adopción de normas y directrices. También es esencial garantizar que el talento humano esté preparado para utilizar las herramientas de IA de forma ética y responsable, y que las herramientas sean accesibles, fiables y cumplan con los derechos humanos”.
d) ¿Por qué las herramientas de IA no pueden sustituir el razonamiento jurídico humano cualificado? “Las herramientas de IA no sustituyen el razonamiento jurídico cualificado, el juicio humano o el asesoramiento jurídico personalizado. Por ejemplo, los chatbots de IA que operan a partir de LLMs generan texto uniendo secuencias de formas lingüísticas detectadas en sus datos de entrenamiento “según información probabilística sobre cómo se combinan, pero sin ninguna referencia al significado. Estas herramientas e IA no pueden sustituir el razonamiento jurídico cualificado porque no tienen justificación ni comprensión contextual de un problema legal. El uso de LLMs por parte de personas no abogadas con fines legales requiere precaución, ya que la salida de los sistemas puede parecer autoritativa y coherente, al tiempo que presenta hechos que
pueden ser inexactos y respuestas que no son coherentes con hechos legales. En resumen, el poder judicial debería aspirar a utilizar herramientas de IA para mejorar, en lugar de reemplazar, el juicio humano”.
Nota bibliográfica: Tal y como anticipamos al iniciar esta entrada, tanto en este blog como fuera de él nos hemos venido ocupando de instrucciones, principios y directrices en la materia de la utilización de la IA por el poder judicial en todo el mundo que han publicado tribunales y organismos públicos. El lector interesado puede consultar el Apartado IV del Capítulo 8, págs.180 y ss. de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” identificada detalladamente en la entrada siguiente de este mismo blog: