Una de las principales aplicaciones de la Inteligencia Artificial en el mundo jurídico es la de los contratos inteligentes. En este ámbito, esta entrada completa la de ayer -en la que dimos cuenta de la Ley Modelo de la CNUDMI sobre Contratación Automatizada como iniciativa global más relevante que conocemos sobre la regulación de los contratos inteligentes en el ámbito de la contratación general- con una referencia a los “Principios rectores y normas modelo de ELI (“European Law Institute”) sobre los asistentes digitales para los contratos celebrados con consumidores”.
La diferencia entre las dos iniciativas es su ámbito geográfico (global de la primera y europeo de la segunda) y funcional (de la contratación e general en el primer caso y de la contratación con consumidores en el segundo).
En concreto, nos referimos al resultado provisional del proyecto que se ha desarrollado en el periodo de marzo de 2022 a febrero de 2025 en forma de “Informe intermedio del ELI sobre el Derecho de los consumidores de la UE y la toma de decisiones automatizada” de diciembre de 2023, en el que ha participado como redactora nuestra compañera Teresa Rodríguez de las Heras Ballell, Catedrática de Derecho Mercantil de la Universidad Carlos III y Directora de la Cátedra Investigación sobre IA.
A) Finalidad
El Proyecto del ELI sobre el Derecho de los consumidores de la UE y la toma de decisiones automatizada parte de la observación del uso creciente de algoritmos e inteligencia artificial (IA) en todas las fases del ciclo de vida de los contratos, desde la formación hasta la ejecución. Y, en consecuencia, pretende “proporcionar una mayor seguridad jurídica para el uso de la toma de decisiones automática/algorítmica (ADM) en cualquier etapa del ciclo de vida del contrato (que) es vital para respaldar una nueva generación de contratos digitales”.
En particular, “el uso generalizado de algoritmos y sistemas de aprendizaje de IA en contextos transaccionales urge a abordar los desafíos legales de los sistemas autónomos para automatizar el proceso de contratación, particularmente en escenarios dominados por la IA”.
La presentación de ELI añade que “el fomento de la innovación y la liberación de los beneficios sociales y el potencial económico de la IA requieren una orientación sólida para los proveedores, los operadores y los agentes del mercado con un marco jurídico claro y predecible. Al mismo tiempo, el establecimiento de salvaguardias efectivas para garantizar la protección de los consumidores, garantizar la validez y la aplicabilidad de los contratos en los que se haya utilizado ADM y proteger los derechos, libertades e intereses legítimos de todas las partes implicadas es fundamental para definir un marco jurídico propicio para la contratación automatizada y autónoma en Europa”.
B) Estructura
El Informe (“Informe provisional del Instituto de Derecho Europeo (Proyecto ELI) sobre Principios Rectores y Reglas Modelo sobre Contratos (Contratos Algoritmicos). La legislación de la UE en materia de toma de decisiones automatizada (ADM): ¿Está preparada para la ADM?”) -que recordemos data del mes de diciembre del año 2023 y, por tanto, es previo a la Ley Europea de Inteligencia Artificial (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial)- se fundamenta en los siguientes elementos básicos:
a) Toma de decisiones automatizada (ADM) definida como “un proceso computacional, que incluye técnicas y y enfoques, que, alimentado por entradas y datos recibidos o recogidos del entorno, puede generar, a partir de una serie de objetivos predefinidos resultados en una amplia variedad de formas (contenido, valoraciones, recomendaciones, decisiones, predicciones, etc.)” (Informe pág.16).
b) Asistente digital definido como “un sistema algorítmico de toma de decisiones desarrollado por un consumidor o un empresario, con o sin la capacidad de seguir aprendiendo después de su despliegue con los datos que se le facilitan, para dar pasos predefinidos hacia una o varias de las fases de negociación, celebración o ejecución de un contrato” (Informe pág.22).
c) Contrato algorítmico definido como “un contrato respecto del cual una o ambas partes utilizan un asistente digital con el fin de negociar, celebrar o ejecutar el contrato” (Informe pág.22).
C) Funcionamiento
El Informe identifica dos relaciones contractuales distintas que requieren análisis diferentes (Informe pág.9):
a) El contrato entre un proveedor de un asistente digital y un consumidor para el suministro de un asistente suministro de un asistente digital al consumidor (denominado “Contrato 1”).
b) El contrato celebrado a través de un asistente digital entre un consumidor que utiliza un asistente digital y un comerciante (denominado “Contrato algorítmico” o “Contrato 2”).
El Informe propone los ochoprincipios siguientes para que la legislación de la UE en materia de consumo esté “preparada para la toma de decisiones automatizada (ADM)” (Informe págs.10 y 11):
1º. Atribución de las acciones del asistente digital al consumidor: Conforme a este principio, los efectos jurídicos de todas las acciones de un asistente digital se deben atribuir al consumidor que ha utilizado dicho asistente digital. Este principio de atribución requiere una serie de requisitos de diseño para que los asistentes digitales permitan que el consumidor conserve el control último sobre el asistente digital, similar al tratamiento de la IA de «alto riesgo» en la Ley de IA. En la medida en que las acciones de un asistente digital vayan más allá de lo que cabría esperar de un sistema de inteligencia artificial, tanto por parte de los proveedore como de los consumidores, hay dos enfoques posibles: en primer lugar, esas «acciones o decisiones inesperadas» del asistente digital podrían afectar a la validez y la exigibilidad del contrato celebrado con un tercero (denominado «contrato 2»). En segundo lugar, el contrato entre el proveedor del asistente digital y el consumidor para el suministro de contenidos/servicios digitales, (denominado Contrato 1), podría proporcionar una base para que el consumidor busque una compensación.
2º. Aplicación del derecho del consumo a los contratos algorítmicos: La consecuencia lógica de la atribución indicada es que el contrato celebrado a través de un asistente digital seguirá siendo un contrato celebrado entre un consumidor y un empresario que, por lo tanto, estará sujeto a la legislación de la UE en materia de consumo. En consecuencia, la utilización de un asistente digital por un consumidor no alteraría la aplicación continuada de las obligaciones de un empresario en virtud de la legislación de la UE en materia de consumo”.
3º. Deberes de información precontractual: El modelo de información sustenta gran parte de la legislación de la UE en materia de consumo. Por ello, dependiendo de cómo evolucionen las TIC asociadas a la IA, puede que sea necesario recalibrar el modelo actual en la medida en que cambie la forma en que se recopila y utiliza la información.
4º. No discriminación e inexistencia de barreras de acceso: Los consumidores deben tener libertad para utilizar asistentes digitales y no se debe permitir a los empresarios que lo prohíban de forma general, arbitraria o injustificada, a menos que existan excepciones claramente definidas (por ejemplo, para evitar la manipulación).
5º. Declaración de uso del asistente digital: el uso de un asistente digital debe ser manifestada a través de medios adecuados (que permitan una solución de diseño por defecto). Esto permitiría que la obligación de divulgación sea recíproca, es decir, que se aplicara al uso de los asistentes digitales por parte de los empresarios como de los consumidores.
6º. Protección del asistente digital de la manipulación: La legislación vigente en la UE en materia de consumo ya previene la manipulación de los consumidores a la hora de celebrar un contrato y en qué condiciones, así como a la hora de ejercer sus derechos contractuales. Esta protección debe ampliarse a los intentos de manipular un asistente digital o los procesos ADM en general.
7º. Capacidad para determinar parámetros y divulgación de parámetros preestablecidos: De acuerdo con la necesidad de que los consumidores conserven el control global, vinculado al principio de atribución; debe garantizarse la transparencia de parámetros preestablecidos y de la posibilidad de establecer y revisar los parámetros utilizados en los contratos inteligentes.
8º. Asistentes digitales y conflictos de intereses: Uno de los problemas que plantean los asistentes digitales integrados en productos inteligentes o los proporcionados en plataformas en línea, es que surgirían tensiones entre, por un lado, los intereses comerciales del proveedor del producto inteligente, del operador de la plataforma en línea o de los empresarios que venden a través de la plataforma; y, por otro lado, los intereses del consumidor. Aunque se podría exigir que un asistente digital se centre exclusivamente en ayudar al consumidor, una solución más viable sería la revelación plena y clara de ese posible conflicto de intereses.