Esta entrada completa la publicada ayer con el mismo título y, con ella, culminamos nuestro propósito de ofrecer a los lectores de este blog una síntesis telegráfica de la regulación de la IA que establece el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) (RIA); denominado por la Comisión Europea, Ley de Inteligencia Artificial, al que nos hemos referido en este blog como Ley Europea de Inteligencia Artificial (LEIA).
(…)
H) Funcionamiento
12ª. El FUNCIONAMIENTO de la ordenación de los sistemas de IA por la LEIA puede exponerse en las dos fases siguientes:
a) La regulación de la IA que veremos opera sobre la base de su respectivo nivel de riesgo, de modo tal que la LEIA clasifica los sistemas de IA en varias categorías -inaceptable, alto, medio y mínimo- que determinan los deberes que se imponen a los distintos operadores implicados en cada una de ellas y se asigna el nivel de transparencia exigible.
b) La supervisión de los sistemas de IA que abarca desde la gobernanza pública y privada, hasta el seguimiento posterior a su comercialización alcanzando las actividades de fomento o apoyo a la innovación.
I) Los niveles de riesgo de los sistemas de IA
13ª. La primera fase de REGULACIÓN de los sistemas de IA opera sobre la base de su respectivo nivel de riesgo para diferenciar cuatro niveles de riesgo en orden decreciente que transitan por los sistemas de riesgo inaceptable, los sistemas de IA de alto riesgo, los sistemas de IA de medio riesgo que integran modelos de IA de uso general que generan riesgos sistémicos y los modelos de IA de uso general que no generan riesgos sistémicos.
14ª. El primer nivel es el riesgo inaceptable de los sistemas de IA prohibidos. En este primer nivel de las prácticas prohibidas por la LEIA procede distinguir tres aspectos que son:
a) La regla general de prohibición de los sistemas de IA subliminales, manipuladores o engañosos; conductualmente perjudiciales o de clasificación humana.
b) Las excepciones de las prácticas permitidas en ciertos casos de sistemas de IA de predicción delictiva, de inferencia emocional y de categorización biométrica inmediata o remota.
c) La posible autorización pública -judicial o administrativa- de prácticas inicialmente prohibidas.
15ª. El segundo nivel es el riesgo alto de los sistemas de IA de alto riesgo permitidos y controlados específicamente. En lo relativo a este segundo tipo de sistemas conviene diferenciar los aspectos regulatorios siguientes:
a) Su clasificación, para diferenciar entre sistemas de IA de alto riesgo por estar integrados en determinados productos o por impactar en determinados ámbitos.
b) Los requisitos exigibles que se condensan el sistema de gestión de riesgos.
c) Las obligaciones que deben cumplir sus operadores, bien sean sus proveedores, condensadas en el sistema de gestión de la calidad; o bien se trate de los otros operadores (representantes autorizados, importadores, distribuidores y responsables del despliegue).
b.4) La supervisión pública específica.
16ª. El tercer nivel es el riesgo medio de los sistemas de IA de medio riesgo que integran modelos de IA de uso general que generan riesgos sistémicos. En la regulación por la LEIA de este tercer tipo de sistemas conviene diferenciar los aspectos siguientes:
a) Su noción.
b) Las obligaciones especiales que deben cumplir sus proveedores.
17ª. El cuarto y último nivel en orden menguante el riesgo mínimo de los sistemas de IA de mínimo riesgo permitidos y controlados genéricamente y de los modelos de IA de uso general que no generan riesgos sistémicos. En la regulación de este tercer tipo de sistemas conviene diferenciar los aspectos siguientes:
a) Su noción.
b) Las obligaciones que han de cumplir sus proveedores.
J) Supervisión
18ª. La segunda fase del funcionamiento de los sistemas de IA por la LEIA reside en su SUPERVISIÓN y abarca, en primer lugar, su régimen de TRANSPARENCIA, donde procede distinguir entre las obligaciones de transparencia que se imponen a los proveedores y a los responsables del despliegue de determinados sistemas de IA; amén de identificar determinados factores regulatorios comunes a dichas obligaciones de transparencia.
19ª. El segundo aspecto de supervisión del funcionamiento de los sistemas de IA por la LEIA reside en su GOBERNANZA que se articula en un doble nivel de las autoridades nacionales encargadas de garantizar el cumplimiento de la LEIA y de las autoridades de la UE, comenzando por la propia Comisión y siguiendo por los organismos especiales de la UE en materia de IA, como son la Oficina de IA, el Comité Europeo de Inteligencia Artificial, la Comisión Técnica Científica y el Foro Consultivo.
20ª. En la ordenación de la supervisión y el control del funcionamiento de los sistemas de IA por la LEIA tiene una especial importancia CÓDIGO DE BUENAS PRÁCTICAS que se elaborará mediante un proceso inclusivo y transparente mediante una redacción iterativa, en la que participarán todos los proveedores de modelos de IA de uso general interesados y elegibles y que, si obtiene finalmente la aprobación de la Comisión y esta le confiere validez general dentro de la UE mediante actos de ejecución, permitirá que los proveedores de modelos de IA de uso general puedan basarse en dicho Código de buenas prácticas para demostrar el cumplimiento de las obligaciones establecidas en la Ley de IA.
21ª. La ordenación de la supervisión y el control del funcionamiento de los sistemas de IA por la LEIA culmina con el RÉGIMEN SANCIONADOR que opera a modo de precipitado lógico-jurídico del elenco de obligaciones que la LEIA impone a los operadores y que se traducirá en el deber de los Estados miembros establecer sanciones efectivas, proporcionadas y disuasorias para las infracciones de las normas aplicables a los sistemas de IA; dentro de los umbrales establecidos en la LEIA para las infracciones de prácticas prohibidas o incumplimientos relacionados con los requisitos en materia de datos, para el suministro de información incorrecta, incompleta o engañosa a los organismos notificados y a las autoridades nacionales competentes en respuesta a una solicitud, etc.
22ª. Dado que los sistemas de IA pueden ser contemplados como organismos vivos que se desarrollan en el tiempo y -metafóricamente hablando- nacen, crecen y pueden reproducirse y morir; la supervisión de los sistemas de IA no puede circunscribirse al momento inicial de su comercialización, sino que debe extenderse a lo largo de toda su existencia abarcando el periodo posterior mediante sistemas de SEGUIMIENTO posterior a la comercialización de los sistemas de IA por parte de sus proveedores que se basará en un plan de vigilancia que formará parte de la documentación técnica a que se refiere el anexo IV de la LEIA y que incluirá el intercambio de información sobre incidentes graves para posibilitar las debidas alarmas que se articularán mediante el mecanismo de notificación de incidentes graves por los proveedores de sistemas de IA de alto riesgo introducidos en el mercado de la Unión a las autoridades de vigilancia del mercado de los Estados miembros en los que se haya producido dicho incidente.
23ª. La garantía del CUMPLIMIENTO efectivo de la LEIA se estructura como un sistema biunívoco entre las autoridades vigilantes con referencias generales y especiales al ámbito financiero; y los sujetos controlados que son, en general, los operadores de los sistemas de IA. En este punto, debemos destacar que la garantía del cumplimiento efectivo de la LEIA, al aplicarse en los Estados miembros de la UE como Estados de Derecho, implica las denominadas vías de recurso que comprenden los derechos a presentar reclamaciones, a obtener explicaciones y a gozar del sistema de protección de los denunciantes.
K) Apoyo a la innovación
24ª. La ordenación de la supervisión y el control del funcionamiento de los sistemas de IA por la LEIA abarca las MEDIDAS DE APOYO A LA INNOVACIÓN que son:
a) Los espacios controlados de pruebas para la IA respecto de los cuales la LEIA regula su noción, documentación, establecimiento, finalidades, contenido y responsabilidades; incluyendo un régimen especial para las PYMES, las empresas emergentes y las microempresas.
b) Las pruebas de sistemas de IA de alto riesgo en condiciones reales respecto de los cuales la LEIA regula su noción, documentación y realización, con especial atención al consentimiento informado de los sujetos que participen en las pruebas.
L) Responsabilidades
25ª. El incumplimiento de la LEIA se reflejará directamente en dos tipos de RESPONSABILIDADES (amén de las penales cuando la IA sirva para la comisión de delitos):
a) Responsabilidades administrativas, porque los Estados miembros deberán establecer el régimen de sanciones -efectivas, proporcionadas y disuasorias que tengan en cuenta los intereses de las pymes, incluidas las empresas emergentes, así como su viabilidad económica- y otras medidas de ejecución aplicable a las infracciones del RIA que cometan los operadores y adoptar todas las medidas necesarias para garantizar que se aplica de forma adecuada.
b) Responsabilidad civiles que se acomodarán a las especialidades sustanciales y procesales que establecerá la futura Directiva sobre responsabilidad en materia de IA que derive de la aprobación de la Propuesta de Directiva relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial presentada el 28 de septiembre de 2022 por la Comisión Europea.
REFLEXIÓN FINAL EN DEFENSA DE LA LEY EUROPEA DE INTELIGENCIA ARTIFICIAL
En el apartado A) de la entrada publicada en el día de ayer en este mismo blog y con igual título constatábamos que la LEIA es la primera regulación propiamente jurídica -esto es, imperativa- de la IA en el contexto internacional donde cabe diferenciar tres modelos: El modelo desregulador o libérrimo por el que parecen optar Rusia y China y, en menor medida, la nueva administración de los EEUU; el modelo de regulación jurídica de los sistemas de IA, representado por la LEIA; y el modelo intermedio o la “tercera vía” de regulación de la IA propuesta por Japón y conocida como el “Proceso de Hiroshima sobre IA”.
Nos faltó añadir que, en este momento histórico , nos encontramos ante un cruce de caminos global de las diferentes soluciones regulatorias -o desreguladoras- de la IA que plantea la muy difícil opción por uno u otro sendero que condicionará la competitividad económica y cultural entre las diferentes regiones del Mundo. De tal manera que, por ejemplo, un exceso de regulación imperativa en pos de la protección del ciudadano para prevenir los riesgos evidentes de manipulación del individuo y de la opinión pública (defecto este que algunos achacan a la LEIA) puede limitar la innovación esencial para el desarrollo de la IA; mientras que una completa desregulación que busque favorecer la innovación “a cualquier precio” (que parece alumbra la nueva administración de los EEUU) puede convertir el mercado digital en una selva tecnológica donde se imponga la ley del -económicamente- más fuerte y no se garanticen ni los derechos humanos ni tan siquiera la libre competencia que se dice perseguir por inundar el mercado de ofertas de bienes y servicios -gracias, por ejemplo, a algoritmos sesgados- de sesgos raciales, demográficos, de género, etc. que impidan una conducta racional del consumidor medio (según hemos señalado en algunos estudios.
Pues bien, en esta tesitura, la prensa de hoy martes 28 de enero de 2025 nos ofrece la siguiente noticia: “DeepSeek araña la burbuja de la IA, sacude las bolsas y demuestra que adaptarse es innovar” detallando: “Una empresa china llamada DeepSeek ha provocado una corrección de la bolsa estadounidense al arañar el globo de la Inteligencia Artificial (IA). La compañía ha entrenado modelos de alto rendimiento a bajo costo y usando procesadores considerados menos avanzados. Esto ha dejado en la estacada a las grandes empresas subidas a la ola de la IA, incluidos los fabricantes de chips, los proveedores de infraestructura y las empresas energéticas, mientras se abre un cuestionamiento generalizado de si no se ha gastado demasiado en IA. El modelo R1 de DeepSeek iguala o incluso supera a ChatGPT o1 de OpenAI, su último modelo de pago, pero opera a una fracción de su costo. El éxito de DeepSeek es más notable si se considera que EE.UU. ha bloqueado el acceso de China a chips de última generación. Las medidas no han funcionado como se esperaba porque los chinos han demostrado que están siendo capaces de adaptarse y sacar mayor rendimiento a procesadores que Occidente considera casi obsoletos como contábamos aquí en 2023” (John Müller, ABC, Martes 28 de enero de 2025).
La noticia transcrita nos mueve a hacer esta reflexión de un modesto profesor de una Universidad pública española cal es la UCM declaración en defensa de la Ley Europea de Inteligencia Artificial porque, a nuestro entender, pone algo de orden, sosiego y seguridad jurídica en el proceso global de adoración el “becerro de oro” de la IA que comienza a parecerse al “Patio de Monipodío” cervantino con efectos colaterales en la especulación bursátil que nos recuerdan al primer tratado de Bolsa, “Confusión de Confusiones”, obra de Joseph de la Vega (judío converso español afincado en Amberes) en el siglo XVIII.