El pasado miércoles día 29 de enero de 2025 se celebró en el universitariamente majestuoso Paraninfo de la Universidad de Salamanca el acto de entrega formal de los Premios y Menciones a los Galardonados en la Sexta Edición de los Premios Blogs Jurídicos de Oro 2024 promovida por el Grupo Globoversia con el patrocinio de la Fundación Automáticos Tineo. El acto se presentó por el Decano de la Facultad de Derecho de la Universidad de Salamanca, Fernando Carbajo Cascón y fue clausurado por el Rector de la Universidad de Salamanca, Juan Manuel Corchado Rodríguez.
Tras la entrega de los galardones se expusieron sendas alocuciones a cargo del Magistrado de la Sala Tercera del Tribunal Supremo, Francisco José Navarro Sanchís que versó sobre “La crisis del Estado de Derecho y del imperio de la ley”, quien obsequió al público asistente con reflexiones profundas, atinadas y adornadas por una sutil e inteligente dosis de humor sobre el turbulento mundo del Derecho actual en nuestro país.
Por mi parte, tuve la enorme fortuna de ser invitado por los organizadores y, en particular, por mi querido amigo Jose Manuel Chaves, Magistrado de la Sala de lo Contencioso-Administrativo del TSJ de Asturias, a pronunciar una breve alocución sobre “La Ley Europea de Inteligencia artificial: reflexiones útiles para la jurisdicción y la abogacía”. Siguiendo la costumbre de este blog, ofrezco a sus lectores una síntesis de su contenido que estructuré en los tres apartados siguientes:
A) Reflexiones generales sobre la Ley Europea de Inteligencia Artificial
a) Declaración inicial en defensa de la Ley Europea de Inteligencia Artificial
Reiteré, primero, esta Declaración que había apuntado en la última parte de la entrada de este mismo blog del pasado lunes día 27 de enero, donde, tras apuntar los tres modelos globales de aproximación a la IA (el modelo desregulador por el que parecen optar Rusia y China y, en menor medida, la nueva administración de los EEUU; el modelo de regulación jurídica de los sistemas de IA, representado por la LEIA; y el modelo intermedio o la “tercera vía” de regulación de la IA propuesta por Japón y conocida como el “Proceso de Hiroshima sobre IA”); añadíamos que, en este momento histórico, nos encontramos ante un cruce de caminos global de las diferentes soluciones regulatorias -o desreguladoras- de la IA que plantea la muy difícil opción por uno u otro sendero que condicionará la competitividad económica y cultural entre las diferentes regiones del Mundo. De tal manera que, por ejemplo, un exceso de regulación imperativa en pos de la protección del ciudadano para prevenir los riesgos evidentes de manipulación del individuo y de la opinión pública (defecto este que algunos achacan a la LEIA) puede limitar la innovación esencial para el desarrollo de la IA; mientras que una completa desregulación que busque favorecer la innovación “a cualquier precio” (que parece alumbra la nueva administración de los EEUU) puede convertir el mercado digital en una selva tecnológica donde se imponga la ley del -económicamente- más fuerte y no se garanticen ni los derechos humanos ni tan siquiera la libre competencia que se dice perseguir por inundar el mercado de ofertas de bienes y servicios -gracias, por ejemplo, a algoritmos sesgados- de sesgos raciales, demográficos, de género, etc. que impidan una conducta racional del consumidor medio (según hemos señalado en algunos estudios).
Nuestra defensa de la LEIA como primera regulación propiamente dicha en el contexto internacional se vio reforzada por un acontecimiento acaecido el día anterior. En efecto, los medios de comunicación de se hacían eco el martes 28 de enero de 2025 de la siguiente noticia: “DeepSeek araña la burbuja de la IA, sacude las bolsas y demuestra que adaptarse es innovar” detallando: “Una empresa china llamada DeepSeek ha provocado una corrección de la bolsa estadounidense al arañar el globo de la Inteligencia Artificial (IA). La compañía ha entrenado modelos de alto rendimiento a bajo costo y usando procesadores considerados menos avanzados. Esto ha dejado en la estacada a las grandes empresas subidas a la ola de la IA, incluidos los fabricantes de chips, los proveedores de infraestructura y las empresas energéticas, mientras se abre un cuestionamiento generalizado de si no se ha gastado demasiado en IA. El modelo R1 de DeepSeek iguala o incluso supera a ChatGPT o1 de OpenAI, su último modelo de pago, pero opera a una fracción de su costo. El éxito de DeepSeek es más notable si se considera que EE.UU. ha bloqueado el acceso de China a chips de última generación. Las medidas no han funcionado como se esperaba porque los chinos han demostrado que están siendo capaces de adaptarse y sacar mayor rendimiento a procesadores que Occidente considera casi obsoletos como contábamos aquí en 2023” (John Müller, ABC, Martes 28 de enero de 2025).
Como decimos, la noticia transcrita nos mueve a hacer esta manifestación en defensa de la Ley Europea de Inteligencia Artificial porque, a nuestro entender, pone algo de orden, sosiego y seguridad jurídica en el proceso global de adoración el “becerro de oro” de la IA que comienza a parecerse al “Patio de Monipodío” cervantino con efectos colaterales en la especulación bursátil que nos recuerdan al primer tratado de Bolsa, “Confusión de Confusiones”, obra de Joseph de la Vega (judío converso español afincado en Amberes) en el siglo XVII.
b) El concepto jurídico de la inteligencia artificial y la metáfora del alambique
Seguidamente, recordé el recurso didáctico para exponer la noción de sistema de IA sirviéndonos de la metáfora del alambique para intentar ofrecer una imagen extremadamente sencilla de una regulación sumamente compleja. Para ello, partimos de la definición de sistema de IA sita en el art.3.1) de la LEIA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”. Dado que esta definición alude a máquinas y nos sugiere espacios físicos líquidos y gaseosos, transitamos hacia la imagen del alambique porque nos parece que puede ofrecer una metáfora útil para exponer y comprender el método de gestión de información que subyace al fenómeno de la IA y a los sistemas que la generan. Si precisamos algo más nuestro raciocinio, percibimos que nos encontramos en el mundo de la regulación de la información, y, por ello, nada nos parece más seguro que acudir a la definición de alambique que nos ofrece el Diccionario de la RAE como “utensilio que sirve para destilar una sustancia volátil, compuesto fundamentalmente de un recipiente para calentar el líquido y de un conducto por el que sale la sustancia destilada”. Y, si damos un paso más, podemos concluir definiendo ideográficamente los sistemas de IA como “alambiques que procesan grandes cantidades de datos o información bruta que se alojan en el canal de entrada para generar -mediante un método de transformación algorítmica que le permite interactuar con su entorno y aprender en consecuencia- un producto de salida en forma de información neta o destilada”.
No queremos acabar este apartado sin antes advertir que la definición de los sistemas de IA como alambiques de procesamiento algorítmico de información es una metáfora que no tiene otra intención que ofrecer una imagen simple de un proceso complejo con la utilidad pedagógica que pueda tener y con las limitaciones de alcance que evidentemente padece. Es por ello por lo que, desde este momento y lugar, rogamos disculpas a la comunidad científica que nos puede acusar de banalizar nociones profundas que estamos seguros que se encargarán de explicar otros con la suficiente oscuridad para no restar solemnidad a sus pesquisas y para que el vulgo siga sin comprender el fenómeno que tanto influirá en sus vidas.
c) El sentido del humor como hecho diferencial entre la inteligencia humana y la inteligencia artificial
Comencé este parte de mi alocución recordando la frase de Howard Gardner, (profesor de la Universidad de Harvard y patrocinador de las inteligencias múltiples) referida a la IA: “Lo importante no es si las máquinas serán más inteligentes, sino que protejamos lo que nos hace humanos”.
A partir de ahí y en un deseo de preservar lo genuinamente humano, manifesté mi convicción de que el sentido del humor auténtico, en cuanto encierra de paradoja y de absurdo es el hecho diferencial entre la inteligencia humana y la inteligencia artificial. Obviamente, no dispongo de ninguna resonancia magnética del cerebro que acredite esta afirmación ni de ningún algoritmo que la pueda verificar. Reconozco, también, que un sistema elemental de IA puede procesar en segundos millones de chistes, almacenarlos e incluso generar nuevas ocurrencias graciosas que incorporen, incluso, el sesgo del razonamiento ilógico, paradójico o absurdo. Ello no es óbice para que mantenga la idea -reconozco que un tanto romántica- de que ese relámpago irracional que subyace en el sentido humano del humor no podrá ser alcanzado por la IA. Y, si finalmente me equivoco, el asunto no tendrá gracia ¿o si?
B) Contenido de la Ley Europea de Inteligencia Artificial
En este segundo apartado, comencé remitiendo al público a las numerosas entradas de este blog sobre la IA en general y sobre la LEIA en particular, de cuyo contenido destaqué los tres aspectos siguientes:
a) Finalidad
El objetivo de la LEIA es bivalente porque consiste en hacer compatibles los beneficios de la IA mejorando el funcionamiento del mercado interior mediante la promoción de una inteligencia artificial (IA) centrada en el ser humano y fiable y en prevenir los riesgos que el uso de los sistemas de IA presenta en forma de los efectos perjudiciales en la UE.
b) Estructura
La estructura de la LEIA se asienta sobre tres tipos de elementos: subjetivos, objetivos y funcionales: Los elementos subjetivos son los operadores (proveedores, fabricantes del producto, responsables del despliegue; los importadores; y los distribuidores) y las autoridades (Oficina de IA, las autoridades nacionales competentes, las autoridades garantes del cumplimiento del Derecho, las autoridades notificantes, los organismos de evaluación de la conformidad y los organismos notificados). Los elementos objetivos son de cuatro tipos: Los datos (datos de entrenamiento, los de validación, los datos operativos sensibles, los datos de entrada y de prueba, etc.), los factores componentes de seguridad, instrucciones de uso, especificaciones comunes, ultrasuplantación, operación de coma flotante), las circunstancias (espacios de acceso público) y los distintivos (marcado CE y la norma armonizada). Los elementos funcionales son de seis tipos: Los sistemas, que se pueden ordenar conforme a su importancia básica, su nivel de riesgo y su sesgo emocional o biométrico; los modelos de IA de uso general que generan un riesgo normal o bien un riesgo sistémico; los planes que pueden ser planes de prueba en condiciones reales o planes de espacios controlados de pruebas; las propiedades p.ej. la alfabetización en materia de IA); las funciones cronológicas (introducción en el mercado, comercialización, puesta en servicio, recuperación o modificación sustancial; las patologías e infracciones que podemos clasificar en uso indebido razonablemente previsible de un sistema de IA, el incidente grave y la infracción generalizada.
c) Funcionamiento
El funcionamiento de la ordenación de los sistemas de IA por la LEIA puede exponerse en las dos fases siguientes: a) La regulación de la IA que opera sobre la base de su respectivo nivel de riesgo, de modo tal que la LEIA clasifica los sistemas de IA en varias categorías -inaceptable, alto, medio y mínimo- que determinan los deberes que se imponen a los distintos operadores implicados en cada una de ellas y se asigna el nivel de transparencia exigible. b) La supervisión de los sistemas de IA que abarca desde la gobernanza pública y privada, hasta el seguimiento posterior a su comercialización alcanzando las actividades de fomento o apoyo a la innovación.
La primera fase de regulación de los sistemas de IA opera sobre la base de su respectivo nivel de riesgo para diferenciar cuatro niveles de riesgo en orden decreciente que son: El riesgo inaceptable de los sistemas de IA prohibidos, el riesgo alto de los sistemas de IA de alto riesgo permitidos y controlados específicamente, el riesgo medio de los sistemas de IA de medio riesgo que integran modelos de IA de uso general que generan riesgos sistémicos y el riesgo mínimo de los sistemas de IA de mínimo riesgo permitidos y controlados genéricamente y de los modelos de IA de uso general que no generan riesgos sistémicos.
La segunda fase de supervisión de los sistemas de IA por la LEIA abarca su régimen de transparencia y su gobernanza que se articula en un doble nivel de las autoridades nacionales encargadas de garantizar el cumplimiento de la LEIA y de las autoridades de la UE, comenzando por la propia Comisión y siguiendo por los organismos especiales de la UE en materia de IA, como son la Oficina de IA, el Comité Europeo de Inteligencia Artificial, la Comisión Técnica Científica y el Foro Consultivo. En la ordenación de la supervisión y el control del funcionamiento de los sistemas de IA por la LEIA tiene una especial importancia Código de buenas prácticas
La supervisión y el control del funcionamiento de los sistemas de IA por la LEIA culmina con el régimen sancionador que opera a modo de precipitado lógico-jurídico del elenco de obligaciones que la LEIA impone a los operadores y que se traducirá en el deber de los Estados miembros establecer sanciones efectivas, proporcionadas y disuasorias para las infracciones de las normas aplicables a los sistemas de IA; dentro de los umbrales establecidos en la LEIA para las infracciones de prácticas prohibidas o incumplimientos relacionados con los requisitos en materia de datos, para el suministro de información incorrecta, incompleta o engañosa a los organismos notificados y a las autoridades nacionales competentes en respuesta a una solicitud, etc.
Por último, el incumplimiento de la LEIA se reflejará directamente en dos tipos de responsabilidades (amén de las penales cuando la IA sirva para la comisión de delitos): a) Responsabilidades administrativas, porque los Estados miembros deberán establecer el régimen de sanciones -efectivas, proporcionadas y disuasorias que tengan en cuenta los intereses de las pymes, incluidas las empresas emergentes, así como su viabilidad económica- y otras medidas de ejecución aplicable a las infracciones del RIA que cometan los operadores y adoptar todas las medidas necesarias para garantizar que se aplica de forma adecuada. b) Responsabilidades civiles que se acomodarán a las especialidades sustanciales y procesales que establecerá la futura Directiva sobre responsabilidad en materia de IA.
C) Aplicaciones de la IA en el mundo jurídico
Para evitar incurrir en una postura “adanista” sobre la que mi maestro me prevenía con el aserto clásico que advierte que “la imaginación de los tontos es infinita” (aserto preventivo que nos parece especialmente oportuno cuando vemos algunos algoritmos de la IA generativa); acudí a dos ejemplos que nos brinda de la práctica internacional reciente y a los que me he referido en entradas previa de este mismo blog:
A) En la jurisdicción: un ejemplo, la Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia.
En los últimos tiempos se está prestando una especial atención a los efectos y límites de la aplicación de la inteligencia artificial generativa a la función jurisdiccional; llegando a especularse (a nuestro juicio de forma injustificada), incluso, sobre la sustitución futura -total o parcial- del juzgador humano por un algoritmo. En este contexto, nos pareció interesante traer a colación la Sentencia T-323 de 2024, de 2 de agosto de 2024, de la Sala Segunda de Revisión de la Corte Constitucional de Colombia (Referencia: expediente T-9.301.656 Magistrado sustanciador: Juan Carlos Cortés González), La “síntesis de la decisión” identifica, dentro del objeto de estudio por la Corte, el siguiente aspecto: “Teniendo en cuenta que el juez de segunda instancia de la tutela objeto de revisión hizo uso de IA para emitir su decisión, en específico, de ChatGPT 3.5, la Sala consideró relevante revisar una posible vulneración al derecho fundamental al debido proceso en la emisión de dicha decisión, ya que se encontraron dudas respecto a si quien emitió la decisión fue un juez de la República o una IA y si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA. De esta manera, se abordaron los siguientes puntos (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la práctica judicial; (viii) la garantía del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.”
En este último sentido, la “síntesis de la decisión” sigue diciendo: “En cuanto a la posible violación al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivación, la Sala estimó que no existió un remplazo del ejercicio de la función jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utilizó luego de haberse fundamentado y tomado la decisión. En el orden metodológico que adoptó el fallo de tutela, el funcionario judicial primero identificó la tesis que sostendría, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se debía atender por guardar identidad fáctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño y, solo entonces, anunció y procedió a efectuar preguntas en el referido sistema de IA, para así transcribir las respuestas arrojadas en la consulta. Conforme con lo anterior, no se cuestionó la validez de la decisión del Juzgado del Circuito por haber sido tomada con antelación al uso de la herramienta ChatGPT diciendo: “La Sala de Revisión decidió que el derecho al debido proceso no se había vulnerado por el juez de segunda instancia, por tanto, no se configuró una causal de invalidez de lo actuado, pues el uso de ChatGPT en el caso sometido a estudio no comportó una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente. Sin perjuicio de lo anterior, la Sala estimó que en el marco del respeto por los derechos fundamentales y de la salvaguarda de las garantías constitucionales para los usuarios del sistema de administración de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA, era procedente establecer algunos criterios orientadores, así como que, desde el Consejo Superior de la Judicatura, se emitan unas guías o lineamientos sobre su implementación por parte de los jueces y que desde la judicatura misma se adopten las mejores prácticas que conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcional de herramientas innovadoras y dinámicas como ChtatGPT, sin admitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonomía e independencia judiciales”.
Para ver con cierto detalle esta referencia jurisprudencial, el lector puede consultar la entrada de este blog de 17.10.2024 sobre la “Aplicación jurisdiccional de la inteligencia artificial generativa: Un caso interesante: la Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia”.
b) En la abogacía: un ejemplo, Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York de abril de 2024
Para ilustrar al público asistente sobre el impacto de la IA en la abogacía, nos pareció de interés destacar el documento que publicó el 6 de abril de 2024, la Cámara de Delegados del Colegio de Abogados del Estado de Nueva York (NYSBA) con el nombre de Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial (“Report and Recommendations of the New York State Bar Association Task Force on Artificial Intelligence”). La oportunidad de este Informe se justifica sobre la base del rápido crecimiento y la sofisticación de la IA que tienen, y seguirán teniendo, un impacto monumental en todas las profesiones, incluidos los abogados, los bufetes de abogados y sus clientes. Es por ello por lo que el NYSBA busca abordar de manera proactiva cómo la IA puede ayudar mejor a los que interactúan con el sistema legal, evaluando lo que necesita ser regulado e identificando qué protecciones se deben establecer como salvaguardas contra el mal uso o abuso, desde los coches autoconducidos hasta el ChatGPT, pasando por las armas impresas en 3-D, En su Introducción, el Informe dice: “Si este es nuestro momento prometeico en la evolución de la IA, ahora es el momento de comprender, adoptar, utilizar y analizar mejor esta tecnología”.
E Informe se estructura en cinco partes referidas a (1) la evolución de la IA y la IA generativa; (2) los beneficios y riesgos del uso de la IA y la IA generativa; (3) el impacto de la tecnología en la profesión jurídica; (4) visión general y recomendaciones legislativas; y (5) directrices propuestas.
En particular, el Informe recoge 4 tipos de Recomendaciones que el Grupo de Trabajo sobre Inteligencia Artificial dirige al Colegio de Abogados del Estado de Nueva York y que versan sobre las siguientes materias: adoptar directrices, centrarse en la educación, identificar riesgos para una nueva regulación y examinar la función del Derecho en la gobernanza de la IA.
Según acabamos de ver, la Primera Recomendación que hace el Grupo de Trabajo el NYSBA reside en que adopte las Directrices sobre IA/AI Generativa descritas en este informe y encargue a una sección o comité permanente la supervisión de las actualizaciones periódicas de dichas directrices. Estas directrices se exponen en las páginas 57 a 60 y se estructuran en tres niveles de a) objeto, b) norma de conducta general de la abogacía y c) aplicación de la IA; estructura que le da una proyección práctica en la abogacía, muy de agradecer en una época en la que todo lo relacionado con la IA tiende a presentar un estado físicamente gaseoso. Las Directrices se refieren a los aspectos siguientes: Competencia del abogado, ámbito de representación, diligencia, comunicación, honorarios, confidencialidad, conflictos de intereses, responsabilidades de supervisión, abogados subordinados, responsabilidad de los no abogados, independencia profesional, ejercicio no autorizado de la abogacía (UPl), servicio voluntario pro bono, publicidad y solicitud y recomendación de empleo profesional.
Por último, nos parece particularmente interesante la “conclusión” del Informe que consta en su pág.61 y donde advierte de forma paradójica: “Este informe no ofrece «conclusiones». A medida que la IA siga evolucionando, también lo hará el trabajo de la NYSBA y de los grupos encargados de la supervisión continua. Como profesión, debemos seguir perfeccionando las directrices iniciales sugeridas en este informe y auditar la eficacia de las normas y reglamentos propuestos. Comparamos este viaje con la mentalidad de los antiguos exploradores: ser cautelosos, curiosos, vigilantes y valientes”.
Para ver con cierto detalle esta referencia forense el lector puede consultar la entrada de este blog de30.05.2024 sobre la “Inteligencia Artificial y Abogacía. Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York de abril de 2024”.