El pasado día 16 de mayo de 2025 tuve el placer de impartir una ponencia sobre “La inteligencia artificial aplicada a la responsabilidad civil” en la XX Jornada extraordinaria de responsabilidad civil y seguro Organizada en la hermosísima villa de Ronda por la Sección de responsabilidad civil y seguro del Colegio de Abogados de Málaga. Siguiendo nuestra costumbre, ofrecemos a los lectores de este blog una síntesis telegráfica del contenido de la Ponencia que dividí en cuatro bloques:
A) Presupuesto: noción de sistema de inteligencia artificial
Comencé por exponer la noción de sistema de IA sirviéndome de la metáfora del alambique para intentar ofrecer una imagen extremadamente sencilla de una regulación sumamente compleja. Para ello, partí de la definición de sistema de IA sita en el art.3.1) de la LEIA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”.
Añadí la referencia a las Directrices de 6 de febrero de 2025 de la Comisión Europea que descomponen la noción legal en siete factores principales que son: “(1) un sistema basado en máquinas; (2) que está diseñado para operar con distintos niveles de autonomía; (3) que puede mostrar capacidad de adaptación tras su despliegue; (4) y que, para objetivos explícitos o implícitos; (5) infiere, a partir de la entrada que recibe, cómo generar salidas (6) como predicciones, contenidos, recomendaciones o decisiones (7) que pueden influir en entornos físicos o virtuales” (aptdo.9) (el lector interesado puede ver la entrada de este blog de 19.02.2025 sobre “Inteligencia artificial. Los siete factores capitales de la noción de sistema de IA en la Ley Europea de Inteligencia Artificial: Directrices de 6 de febrero de 2025 de la Comisión Europea sobre la definición de sistema de inteligencia artificial”).
B) Aplicaciones de la Inteligencia Artificial en el mundo jurídico
B.1) Contratación
En este apartado me referí a dos de las iniciativas internacionales más relevantes sobre la regulación de los contratos inteligentes que son la Ley Modelo de la CNUDMI sobre Contratación Automatizada y los Principios rectores y normas modelo de ELI sobre los asistentes digitales para los contratos celebrados con consumidores. La diferencia entre las dos iniciativas es su ámbito geográfico (global de la primera y europeo de la segunda) y funcional (de la contratación en general en el primer caso y de la contratación con consumidores en el segundo).
B.1.1) La Ley Modelo de la Comisión de las Naciones Unidas para el Derecho Mercantil Internacional (CNUDMI) sobre Contratación Automatizada
Sobre esta Ley Modelo de la CNUDMI sobre Contratación Automatizada aprobada el 11 de julio de 2024 destaque tres aspectos:
a) Ámbito
Constaté su ámbito geográfico global universal y funcional, referido a la contratación en general entre empresarios y de empresarios con consumidores (el lector interesado en profundizar puede consultar la entrada de este blog de 13.05.2025 sobre “ Los contratos inteligentes en la contratación global general. Ley Modelo de la CNUDMI sobre Contratación Automatizada”).
b) Estructura
Expuse los elementos básicos de su estructura que son el “sistema automatizado y el “mensaje de datos” (artículo 1).
c) Funcionamiento
Lo sintetice en tres principios que son:
c.1) El reconocimiento jurídico de la contratación automatizada que se expresa diciendo: “No se negará validez ni fuerza obligatoria a un contrato formado utilizando un sistema automatizado por la sola razón de que ninguna persona física haya revisado ninguna de las acciones realizadas en relación con la formación del contrato o haya intervenido en ellas” (…) ni “por la sola razón de que ninguna persona física haya revisado ninguna de las acciones realizadas en relación con la ejecución del contrato o haya intervenido en ellas” (artículo 5).
c.2) La atribución de resultados “previsibles” y de los resultados «imprevistos» de las acciones realizadas por sistemas automatizados. Respecto de los primeros, la Ley Modelo dispone que “entre las partes contratantes, toda acción realizada por un sistema automatizado se atribuirá de conformidad con el procedimiento acordado por las partes”; añadiendo una norma supletoria Para el caso de que el párrafo 1 no fuera aplicable, que dice: “las acciones realizadas por un sistema automatizado se atribuirán a la persona que utilice el sistema con ese fin” (artículo 7). Respecto de los resultados «imprevistos» en la utilización de sistemas automatizados, la Ley Modelo dispone: “No se negará la atribución de una acción realizada por un sistema automatizado por la sola razón de que el resultado haya sido imprevisto” (artículo 7).
c.3) Transparencia sobre el funcionamiento de los sistemas automatizados
A este respecto, la Ley Modelo señala la importancia de la revelación de información en el funcionamiento de los sistemas automatizados y reconoce que los sistemas automatizados no pueden utilizarse simplemente para eludir el cumplimiento de otros requisitos legales o excusar su incumplimiento. En concreto, establece que “nada de lo dispuesto en la presente Ley afectará a la aplicación de norma de derecho alguna que pueda obligar a una persona a revelar información sobre el diseño, el funcionamiento o el uso de un sistema automatizado, o que establezca las consecuencias jurídicas de no revelar esa información o de revelar información inexacta, incompleta o falsa” (a este respecto, el lector interesado puede consultar la entrada de este blog de 21 de marzo de este año 2025 sobre la “Evaluación automatizada de la solvencia de un consumidor. La aplicación de la inteligencia artificial en el mercado. Transparencia versus secretos comerciales. Sentencia del TJUE de 27 de febrero de 2025 (asunto C-203/22. Dun & Bradstreet Austria)” y nuestro artículo sobre la “Roboevaluación crediticia. Protección de Datos e Inteligencia Artificial. A propósito de la STJUE de 27 de febrero de 2025” publicado en el Diario La Ley, Sección Ciberderecho, Nº 93, 9 de abril de 2025).
B.1.2) Los Principios rectores y normas modelo de ELI (“European Law Institute”) sobre los asistentes digitales para los contratos celebrados con consumidores.
Me referí, en concreto, a tres aspectos del “Informe intermedio del ELI sobre el Derecho de los consumidores de la UE y la toma de decisiones automatizada” de diciembre de 2023:
a) Ámbito
Comencé por diferenciar su ámbito geográfico europeo y funcional, referido a la contratación de los empresarios con los consumidores (el lector interesado puede consultar la entrada de este blog de 14.05.2025 sobre “Los contratos de consumo inteligentes en los Principios rectores y normas modelo de ELI sobre los asistentes digitales para los contratos celebrados con consumidores”).
b) Estructura
Expuse sus tres elementos básicos que son la toma de decisiones automatizada (ADM), el asistente digital y el contrato algorítmico.
c) Funcionamiento
Lo sintetice en tres principios -de entre los ocho que enuncia- que son:
c.1) Atribución de las acciones del asistente digital al consumidor: Conforme a este principio, los efectos jurídicos de todas las acciones de un asistente digital se deben atribuir al consumidor que ha utilizado dicho asistente digital.
c.2) Deberes de información precontractual: Dado que este modelo de información precontractual sustenta gran parte de la legislación de la UE en materia de consumo, puede que sea necesario recalibrar el modelo actual en la medida en que cambie la forma en que se recopila y utiliza la información conforme evolucionen las TIC asociadas a la IA.
c.3) Capacidad para determinar parámetros y divulgación de parámetros preestablecidos: De acuerdo con la necesidad de que los consumidores conserven el control global, vinculado al principio de atribución; debe garantizarse la transparencia de parámetros preestablecidos y de la posibilidad de establecer y revisar los parámetros utilizados en los contratos inteligentes.
B.1.3) Denominadores comunes
En un esfuerzo agónico de síntesis aislé tres denominadores comunes de las iniciativas internacionales descritas que son:
a) Imputación de resultados -previstos y imprevistos- del empleo de sistemas de IA a una persona física o jurídica, como presupuesto esencial para la protección del usuario, sea empresario o consumidor y especialmente en esta última hipótesis.
b) Transparencia del empleo de sistemas de IA, tanto en la fase precontractual como contractual.
c) Transparencia de los parámetros y algoritmos que sustentan los sistemas de IA, de forma tal que resulten claros y comprensibles para todo tipo de usuarios.
B.2) Jurisdicción
Ilustré esta segunda aplicación de la Inteligencia Artificial en el mundo jurídico con dos referencias:
B.2.1) El ejemplo de la Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia
Me pareció interesante traer a colación la Sentencia T-323 de 2024, de 2 de agosto de 2024, de la Sala Segunda de Revisión de la Corte Constitucional de Colombia (Referencia: expediente T-9.301.656 Magistrado sustanciador: Juan Carlos Cortés González), En concreto, destaqué que la “síntesis de la decisión” identifica, dentro del objeto de estudio por la Corte, el siguiente aspecto: “Teniendo en cuenta que el juez de segunda instancia de la tutela objeto de revisión hizo uso de IA para emitir su decisión, en específico, de ChatGPT 3.5, la Sala consideró relevante revisar una posible vulneración al derecho fundamental al debido proceso en la emisión de dicha decisión, ya que se encontraron dudas respecto a si quien emitió la decisión fue un juez de la República o una IA y si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA. De esta manera, se abordaron los siguientes puntos (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la práctica judicial; (viii) la garantía del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.” (el lector interesado puede consultar la entrada de este blog de 17.10.2024 sobre la “Aplicación jurisdiccional de la inteligencia artificial generativa: Un caso interesante: la Sentencia de 2 de agosto de 2024 de la Corte Constitucional de Colombia”).
B.2.2) El uso de la inteligencia artificial en los sistemas judiciales. Reflexiones de del Comité Consultivo de IA de la CEPEJ (Comisión Europea por la Eficiencia de la Justicia) del Consejo de Europa de 31 de enero de 2025
Me referí, en segundo lugar, al documento de “Reflexiones de la AIAB sobre el uso de la inteligencia artificial en los sistemas judiciales” del Comité Consultivo de IA de la CEPEJ (Comisión Europea por la Eficiencia de la Justicia) del Consejo de Europa al que nos referiremos con detalle en entradas venideras de este blog. Sin perjuicio de ello, enunciamos dos aspectos fundamentales:
a) Análisis coste/beneficio porque el documento identifica los beneficios potenciales del uso de la IA en los sistemas judiciales tanto para las partes litigantes como para la oficina judicial; así como los riesgos significativos de la integración de la IA en los procesos judiciales (lesión de derechos fundamentales, discriminaciones, calidad e integridad de los datos, transparencia del diseño, etc.)
b) Las reflexiones propiamente dichas sobre la calidad e integridad de los datos utilizados por los sistemas judiciales de IA, sobre los productos de IA comercializados por empresas privadas, sobre la utilización de grandes modelos lingüísticos (LLM) de uso general para responder a las necesidades de la actividad judicial en materia técnica, en particular civil; etc.
B.3) Abogacía
En esta tercera aplicación de la Inteligencia Artificial en el mundo jurídico utilice dos ejemplos:
B.3.1) El informe y las recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York de abril de 2024
Para ilustrar al público asistente sobre el impacto de la IA en la abogacía, me pareció de interés destacar el documento que publicó el 6 de abril de 2024, la Cámara de Delegados del Colegio de Abogados del Estado de Nueva York (NYSBA) con el nombre de Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial (“Report and Recommendations of the New York State Bar Association Task Force on Artificial Intelligence”). Este Informe se estructura en cinco partes referidas a (1) la evolución de la IA y la IA generativa; (2) los beneficios y riesgos del uso de la IA y la IA generativa; (3) el impacto de la tecnología en la profesión jurídica; (4) visión general y recomendaciones legislativas; y (5) directrices propuestas.
En particular, el Informe recoge 4 tipos de Recomendaciones que el Grupo de Trabajo sobre Inteligencia Artificial dirige al Colegio de Abogados del Estado de Nueva York y que versan sobre las siguientes materias: adoptar directrices, centrarse en la educación, identificar riesgos para una nueva regulación y examinar la función del Derecho en la gobernanza de la IA.
Según acabamos de ver, la Primera Recomendación que hace el Grupo de Trabajo el NYSBA reside en que adopte las Directrices sobre IA/AI Generativa descritas en este informe y encargue a una sección o comité permanente la supervisión de las actualizaciones periódicas de dichas directrices. Estas directrices se exponen en las páginas 57 a 60 y se estructuran en tres niveles de a) objeto, b) norma de conducta general de la abogacía y c) aplicación de la IA; estructura que le da una proyección práctica en la abogacía, muy de agradecer en una época en la que todo lo relacionado con la IA tiende a presentar un estado físicamente gaseoso. Las Directrices se refieren a los aspectos siguientes: Competencia del abogado, ámbito de representación, diligencia, comunicación, honorarios, confidencialidad, conflictos de intereses, responsabilidades de supervisión, abogados subordinados, responsabilidad de los no abogados, independencia profesional, ejercicio no autorizado de la abogacía (UPl), servicio voluntario pro bono, publicidad y solicitud y recomendación de empleo profesional (el lector interesado puede consultar la entrada de este blog de30.05.2024 sobre la “Inteligencia Artificial y Abogacía. Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York de abril de 2024”).
B.3.2) La multa impuesta por Comisión Federal de Comercio de Estados Unidos a la empresa DoNotPay por publicidad engañosa ya que su abogado robot no sustituye a uno real
En segundo lugar, me pareció que un buen ejemplo para ilustrar la incidencia de la IA en la abogacía a nivel internacional era la noticia reciente de que la Comisión Federal de Comercio de Estados Unidos (la agencia de protección al consumidor en este país), había multado con 193.000 dólares a DoNotPay, un chatbot de inteligencia artificial (IA) que ofrece servicios legales a los consumidores. La Resolución del organismo norteamericano establece que esta startup tecnológica —que promociona su producto como “el primer abogado robot del mundo” — ha realizado afirmaciones falsas sobre las capacidades de su herramienta.
En síntesis, la empresa ha sido sancionada por vender su aplicación como una tecnología que trabaja igual que un abogado humano. DoNotPay se dio a conocer por ofrecer servicios jurídicos automatizados a sus clientes. Entre los más relevantes, la aplicación es capaz de generar documentos legales para recurrir multas de tráfico, representar a los clientes en tribunales menores, solicitar asilo internacional o detectar violaciones en los derechos de los consumidores en las páginas web. Para publicitar su aplicación, la empresa hace hincapié en que utilizar su chatbot es lo mismo que contratar a un abogado humano, con la diferencia de que los clientes pueden ahorrarse el coste de sus honorarios.
Sin embargo, la FTC ha concluido que DoNotPa ha engañado a sus suscriptores al no contar con pruebas que demostrasen que, efectivamente, la aplicación simula las funciones de un letrado de carne y hueso. En concreto, dice que DoNotPay “no cuenta con la evidencia necesaria para garantizar que sus servicios actuaran como un profesional legal”. El chatbot ofrece una variedad de servicios legales a los usuarios, pero según la resolución, el abogado robot no cumple con lo prometido por la empresa: no trabaja igual que los abogados humanos. La compañía no ha podido demostrar que su IA es capaz de asesorar a los clientes y aplicar las leyes de la misma forma que lo hacen los abogados tradicionales. La agencia estadounidense también ha corroborado que la plataforma no contaba con profesionales jurídicos que evaluasen la calidad de las funciones del abogado robot —por ejemplo, no había certeza de que los contratos generados estuviesen bien redactados y con una base legal sólida.
Además de la multa, la Comisión Federal de Comercio ha obligado a DoNotPay a ponerfin a su campaña de publicidad engañosa y a cumplir con una serie de requisitos de transparencia. Entre estas medidas, se incluye la obligación de notificar a todos los clientes que se suscribieron a la aplicación entre 2021 y 2023 sobre la resolución del caso. Para ello, la empresa deberá enviar un correo electrónico explicando que, como consecuencia del fallo, se modificarán los mensajes publicitarios de su producto. De hecho, DoNotPay ya ha dejado de promocionarse como “El primer abogado robot del mundo” (The world’s first robot lawyer), y ahora utiliza el eslogan: “Tu campeón de consumo de inteligencia artificial” (Your AI Consumer Champion)”.También tendrá que mantener registros detallados de su publicidad y operaciones durante la próxima década (Ver Jorge Velasco, “193.000 dólares de multa a DoNotPay: su abogado robot no sustituye a uno real”, en Cinco Días, 1 de mayo de 2025).
D) La responsabilidad civil de los operadores de sistemas de inteligencia artificial
En este tercer apartado me apoye en la Propuesta de Directiva sobre responsabilidad en materia de inteligencia artificial de 28 de septiembre de 2022 porque, aun cuando se ha retirado en enero de este año 2025; es lo cierto que sigue siendo el texto más sólido en Europa para abordar el régimen de la responsabilidad civil derivada de la IA. En este sentido recordé al auditorio que el día 28 de septiembre de 2022, la Comisión Europea publicó la Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad en materia de IA) (PDRIA).
El objetivo de la DRIA consistía en establecer requisitos uniformes para determinados aspectos de la responsabilidad civil extracontractual por los daños causados con mediación de sistemas de IA. En este sentido, daba continuidad a la Resolución del Parlamento Europeo 2020/2014.
Dado que la DRIA partía de la base del respeto a los sistemas nacionales de responsabilidad civil que presentan variaciones entre los Estados miembros de la UE; su alcance resultaba eminentemente procesal y, más en concreto, en materia de prueba. Como así consta desde su art.1.1 que comenzaba diciendo: “La presente Directiva establece normas comunes sobre: a) la exhibición de pruebas relativas a sistemas de inteligencia artificial (IA) de alto riesgo con el fin de permitir a los demandantes fundamentar sus demandas de responsabilidad civil extracontractual subjetiva (basada en la culpa) por daños y perjuicios; b) la carga de la prueba en el caso de demandas de responsabilidad civil extracontractual subjetiva (basada en la culpa) interpuestas ante tribunales nacionales por daños y perjuicios causados por sistemas de IA”. En este sentido, las herramientas de “probática” que utiliza la DRIA y, especialmente, las presunciones de causalidad eficiente que veremos no son nuevas; sino que pueden encontrarse en los sistemas legislativos nacionales (por ejemplo, en nuestro Código Civil y en nuestra LEC). Por lo tanto, estas herramientas nacionales constituyen puntos de referencia útiles sobre cómo abordar las cuestiones planteadas por la IA en relación con las normas de responsabilidad en vigor de manera que se interfiera lo menos posible en los diferentes regímenes jurídicos nacionales (el lector interesado en profundizar en la materia puede consultar las dos entradas de este blog de 14 y 15 de diciembre de 2022 sobre “Inteligencia Artificial Responsable (IAR): la Propuesta de Directiva sobre responsabilidad en materia de IA de 28 de septiembre de 2022”).
E) El seguro de responsabilidad civil de los operadores de sistemas de inteligencia artificial
En este cuarto y último apartado de mi ponencia “rondeña” expuse el régimen vigente de esta seguro en cinco apartados que fueron:
a) El aseguramiento de la responsabilidad civil de los operadores de sistemas de inteligencia artificial se realizará mediante un seguro de responsabilidad civil que presentará tres características esenciales: seguro voluntario y seguro de responsabilidad civil empresarial o profesional que podrá estructurarse como un seguro individual o colectivo.
b) El seguro de responsabilidad civil de los de los operadores de sistemas de inteligencia artificial deberá basar su régimen en la normativa sustancial específica de la LEIA y, a partir de ella, se regirá por la Ley de Contrato de Seguro, que se aplicará con carácter imperativo por regla general o dispositivo si se trata de un seguro por grandes riesgos que cumpla los requisitos del art.11 de la LOSSEAR. Todo ello sin perjuicio de que el asegurador deba cumplir con las normas de conducta –especialmente en materia de documentación e información-que le imponen la LOSSEAR y el ROSSEAR.
c) Los puntos críticos del seguro de responsabilidad civil de los operadores de sistemas de inteligencia artificial serán: la delimitación material de la cobertura, con las inclusiones y exclusiones pactadas en la póliza; la delimitación temporal de la cobertura, con la precisión de las reclamaciones cubiertas; el régimen de la defensa jurídica del operador demandado y de la acción directa del usuario perjudicado frente a la aseguradora.
d) Es más que previsible que las reclamaciones de responsabilidad civil contra los operadores de sistemas de inteligencia artificial se multipliquen tanto en su número como en su cuantía en un futuro próximo tanto por razones generales, como es la extensión de la denominada “cultura de la reclamación” que rige en las sociedades desarrolladas respecto de las actividades económicas y las profesiones en general; como por razones específicas, como son la digitalización creciente de la economía y, en particular, la extensión imparable de los sistemas de IA en todo tipo de actividades.
e) El diseño adecuado del seguro de responsabilidad civil de los operadores de sistemas de inteligencia artificial deberá producir un doble y recíproco beneficio: para los operadores, cuyo patrimonio se mantendrá indemne frente a las reclamaciones de los usuarios perjudicados; y para los usuarios, que contarán con la garantía preventiva y adicional prestada por el asegurador.