En la entrada de ayer y bajo el título “Inteligencia Artificial: El nuevo Reglamento (UE) 2026/1744 (RIA 2) modifica el Reglamento (UE) 2024/1689 (RIA 1)” dábamos comienzo esta serie de 4 entradas dedicada al Reglamento (UE) 2026/1744 del Parlamento Europeo y del Consejo, de 8 de julio de 2026, por el que se modifican los Reglamentos (UE) 2024/1689, (UE) 2018/1139 y (UE) 2023/1230 en lo que respecta a la simplificación de la aplicación de normas armonizadas en materia de inteligencia artificial (Ómnibus digital sobre IA)
(…)
D) Ámbito funcional de aplicación de la LEIA: ampliación de las prácticas prohibidas
a) Importancia de la ampliación de las prácticas prohibida
Dado su profundo impacto sociológico por el tipo de prácticas y los grupos de población afectados, la ampliación de las prácticas prohibidas del uso de sistemas de IA que provoquen un riesgo inaceptable es uno de los puntos cruciales de la profunda reforma del RIA 1 por parte del RIA 2. Así, el RIA 2 -en el apartado 7 de su art.1- añade al catálogo del art.5 del RIA 1 nuevas prácticas prohibidas por riesgo inaceptable mediante una nueva disposición que prohíbe las prácticas de IA de creación de contenidos sexuales e íntimos no consentidos o de material de abuso sexual de menores (el lector interesado en conocer los principios de política legislativa que justifican esta ampliación puede consultar los considerandos (10) y ss. del RIA 2).
b) Tipos de nuevas prácticas prohibidas
En particular, se introducen dos tipos de prácticas prohibidas que consisten en la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que genere o manipule:
a) “Imágenes, vídeos o audios realistas o material similar de las partes íntimas de una persona física identificable, o de una persona física identificable que participe en actividades sexualmente explícitas, sin el consentimiento libre, específico, informado e inequívoco y explícito de dicha persona para tal generación o manipulación” (art.5.1.1.bis). Se exceptúa de esta prohibición la manipulación de los sistemas de IA que “manipulen el material en un modo que no aumente la exposición de ninguna parte íntima representada ni altere la naturaleza de ninguna actividad sexualmente explícita representada (art.5.1.ter).
b) “Material o espectáculos en el sentido de la Directiva 2011/93/UE relativa a la lucha contra los abusos sexuales y la explotación sexual de los menores y la pornografía infantil (artículo 2, letras c) y e) (art.5.1.ter). Se exceptúa de esta prohibición la hipótesis de que se aplique una defensa de “forma ilícita” en virtud del Derecho nacional (art.5.1.1.ter).
c) Limitaciones funcionales comunes de ambas prohibiciones
Estas limitaciones funcionales comunes para ambas prácticas prohibidas precisan que (art.5.1.bis):
c.1) “La introducción en el mercado o la puesta en servicio de un sistema de IA que genere o manipule el material o los espectáculos a que se refieren solo estará prohibidas cuando “dicha generación o manipulación sea la finalidad prevista del sistema de IA, o el diseño, el entrenamiento, la arquitectura, las capacidades o las funcionalidades orientadas al usuario del sistema hagan que esa generación o manipulación sea un resultado razonablemente previsible y reproducible, sin requerir modificaciones técnicas sustanciales, y el sistema no disponga de medidas técnicas de seguridad razonables y adecuadas y de otras salvaguardias para evitar de forma fiable dicha generación o manipulación, tomando en consideración un uso indebido razonablemente previsible, ni para corregir el uso indebido observado o notificado”.
c.2) “La utilización de un sistema de IA que genere o manipule el material o los espectáculos solo está prohibida cuando el responsable del despliegue utilice el sistema con el fin de generar o manipular dicho material o espectáculos”.
(el lector interesado en disponer de un panorama general de las prácticas prohibidas de IA puede consultar el epígrafe III -sobre el “riesgo inaceptable: sistemas de IA de riesgo inaceptable: prácticas prohibidas”- del Capítulo 4 de nuestra monografía sobre “La Ley Europea de inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024”, pág.67 y ss.).
E) Medidas innovadoras del RIA
La ordenación de la supervisión y el control del funcionamiento de los sistemas de IA por la LEIA abarca las medidas de apoyo a la innovación que son, por una parte, los espacios controlados de pruebas para la IA respecto de los cuales el RIA 1 regula su noción, documentación, establecimiento, finalidades, contenido y responsabilidades; incluyendo un régimen especial para las PYMES, las empresas emergentes y las microempresas; y, por otra parte, las pruebas de sistemas de IA de alto riesgo en condiciones reales respecto de los cuales el RIA 1 regula su noción, documentación y realización, con especial atención al consentimiento informado de los sujetos que participen en las pruebas.
El art.1 del RIA 2 amplia las medidas de cumplimiento para que más innovadores puedan utilizar los dos tipos de recursos innovadores:
(el lector interesado en disponer de un panorama general de las medidas de innovación reguladas en el RIA 1 puede consultar el Capítulo 6 de nuestra monografía sobre “La Ley Europea de inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024”, pág.113 y ss.).
E.1) Los espacios controlados de pruebas
Se establecen, en el artículo 57 del RIA 1, cuatro tipos de previsiones correspondientes a tantos otros tipos de espacios controlados de pruebas:
(el lector interesado en conocer los principios de política legislativa que justifican estas innovaciones puede consultar los considerandos (23) y ss. del RIA 2).
a) El Espacio controlado de pruebas general para la IA a escala de la UE
Se faculta a la Oficina de IA para establecer un Espacio controlado de pruebas para la IA a escala de la Unión para los sistemas de IA basados en modelos de IA de uso general contemplados en el artículo 75.1 del RIA 1 (v. apartado 22.c) del art.1 del RIA 2 que inserta en el art.57 del RIA 1 un nuevo apartado 3 bis). Para facilitar su implantación, se adoptan tres previsiones normativas:
a.1) Desde el punto de vista técnico-jurídico, las referencias a las autoridades nacionales competentes se entenderán hechas -mutatis mutandi- a la Oficina de IA.
a.2) Desde el punto de vista competencial, el establecimiento de aquel espacio “se entenderá sin perjuicio de las competencias de los Estados miembros para establecer y supervisar espacios controlados de pruebas para la IA para los sistemas de IA sujetos a su supervisión” y dicho espacio se pondrá en práctica “en estrecha cooperación con las autoridades competentes pertinentes, en particular, cuando el cumplimiento de los actos legislativos de la Unión distintos del presente Reglamento se supervise en el espacio controlado de pruebas para la IA”.
a.3) Desde el punto de vista subjetivo, la Oficina de IA proporcionará un acceso prioritario a las pymes -incluidas las empresas emergentes- y a las pequeñas empresas de mediana capitalización.
b) El Espacio controlado de pruebas especial para la IA del Supervisor Europeo de Protección de Datos
El Supervisor Europeo de Protección de Datos podrá establecer un Espacio controlado de pruebas para la IA para las instituciones, órganos y organismos de la Unión (apartado 22.b) del art.1 del RIA 2 que sustituye el apartado 3 del art.57 del RIA 1). A tal efecto, las referencias hechas en el presente capítulo a las autoridades nacionales competentes se entenderán hechas al Supervisor Europeo de Protección de Datos”.
c) Los Espacios controlados de pruebas nacionales
Los Estados miembros de la UE garantizarán que sus autoridades competentes establezcan, al menos, un espacio controlado de pruebas para la IA a escala nacional, que estará operativo a más tardar el 2 de agosto de 2027 (apartado 22.a) del art.1 del RIA 2 que modifica el apartado 1 del art.57 del RIA 1). Dicho espacio controlado de pruebas para la IA también podrá establecerse de común acuerdo con las autoridades competentes de otros Estados miembros. La Comisión podrá proporcionar apoyo técnico, asesoramiento y herramientas para el establecimiento y el funcionamiento de los espacios controlados de pruebas para la IA.
d) Disposiciones comunes para los espacios controlados de pruebas
El RIA 2 establece determinados requisitos comunes de los espacios controlados de pruebas para la IA (apartado 22.d) del art.1 del RIA 2 que sustituye el apartado 5 del art.57 del RIA 1) que afectan a:
d.1) Su finalidad porque “proporcionarán un entorno controlado que fomente la innovación y facilite el desarrollo, el entrenamiento, la prueba y la validación de sistemas innovadores de IA”.
d.2) Su temporalidad porque operarán “durante un período limitado antes de su introducción en el mercado o su puesta en servicio”.
d.3) Su programación porque aquella introducción en el mercado o puesta en servicio deberá realizarse “en virtud de un plan del espacio controlado de pruebas específico acordado entre los proveedores o proveedores potenciales y las autoridades competentes, asegurando que se disponga de las garantías adecuadas”.
d.4) Su expansión eventual porque “tales espacios controlados de pruebas podrán incluir la prueba en condiciones reales supervisadas dentro de ellos” y “cuando proceda, el plan del espacio controlado de pruebas para la IA incorporará el plan de la prueba en condiciones reales a que se refieren los artículos 60 y 60 bis”.
E.2) Las pruebas de sistemas de IA de alto riesgo en condiciones reales
El RIA 2 -en los apartados 24 y 25 de su art.1- potencia las pruebas de sistemas de IA de alto riesgo en condiciones reales, especialmente en industrias básicas como el automóvil. Y esa potenciación afecta a dos tipos de sistemas de IA de alto riesgo:
a) Las pruebas en condiciones reales de sistemas de IA de alto riesgo así calificados por estar integrados en determinados productos
a.1) En los productos de biometría, infraestructuras críticas, etc. identificados en el Anexo I.A) o en el Anexo III
Los proveedores o proveedores potenciales de sistemas de IA de alto riesgo así calificados por impactar en dos tipos de productos (apartado 24 del art.1 del RIA 2 que sustituye los apartados 1 y 2 del artículo 60 del RIA) pueden realizar las pruebas en condiciones reales de sistemas de IA de alto riesgo así calificados por impactar en uno de los 8 ámbitos enumerados en el anexo III del RIA 1 (biometría, infraestructuras críticas, educación y formación profesional, empleo, gestión de los trabajadores y acceso al autoempleo, acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales); y sistemas de IA de alto riesgo así calificados por impactar en productos regulados por los actos legislativos de armonización de la Unión enumerados en la sección A del anexo I que comprende 12 disposiciones que se abren con la Directiva 2006/42/CE del Parlamento Europeo y del Consejo, de 17 de mayo de 2006, relativa a las máquinas y por la que se modifica la Directiva 95/16/CE.
a.2) En los productos de seguridad de la aviación civil, vehículos, etc. identificados en el Anexo I.B
Los Estados miembros permitirán que los proveedores o proveedores potenciales de sistemas de IA de alto regulados por los actos legislativos de armonización de la UE enumerados en el anexo I, sección B del RIA 1 se trata de las 8 disposiciones que se abren con el Reglamento (CE) no 300/2008 del Parlamento Europeo y del Consejo, de 11 de marzo de 2008, sobre normas comunes para la seguridad de la aviación civil y por el que se deroga el Reglamento (CE) 2320/2002- realicen pruebas de sistemas de IA de alto riesgo en condiciones reales fuera de los espacios controlados de pruebas para la IA con el fin de evaluar y comprobar la conformidad de dichos sistemas con los requisitos establecidos en los artículos 8 a 15 del RIA 1 (apartado 25 del art.1 del RIA 2 que inserta un nuevo artículo 60 bis referido a las “pruebas de sistemas de IA de alto riesgo, en condiciones reales fuera de los espacios controlados de pruebas para la IA”)
Para poder ejercitar esa facultad, los Estados miembros deberán cumplir un conjunto de requisitos que pasan por:
a.2.1) Adoptar, individual o conjuntamente, marcos para la prueba en condiciones reales que establecerán los requisitos con arreglo a los cuales se realizará la prueba en condiciones reales. Dichos marcos incluirán la presentación obligatoria de un plan de la prueba en condiciones reales, que deberá ser acordado entre el proveedor o proveedor potencial y la autoridad nacional competente o la autoridad pertinente de conformidad con los actos legislativos de armonización; incluirán mecanismos eficaces de gobernanza y rendición de cuentas; garantizarán un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales; etc.
a.2.2) Notificar a la Comisión todo marco para la prueba en condiciones reales que adopte antes de ponerlo en práctica; lo cual no afectará a las competencias de la Comisión en virtud de los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
a,2.3) Garantizar que las autoridades nacionales competentes pertinentes, las autoridades pertinentes y las autoridades públicas responsables de la gestión y el funcionamiento de infraestructuras y productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, cooperen estrechamente entre sí de buena fe y eliminen cualquier obstáculo práctico, incluidos aquellos que afecten a las normas de procedimiento que regulen el acceso a infraestructuras públicas físicas, cuando sea necesario, a fin de poner en práctica satisfactoriamente dichos marcos para la prueba en condiciones reales y probar los productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
En todo caso, la prueba en condiciones reales deberá cumplir las disposiciones aplicables establecidas en los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.