El 6 de febrero, la Comisión Europea publicó un documento de “Aprobación del contenido del proyecto de Comunicación de la Comisión – Directrices de la Comisión sobre la definición de sistema de inteligencia artificial establecido por el Reglamento (UE) 2024/1689 (Ley AI) (ref. Brussels, 6.2.2025. C (2025) 924 final. “Annex to the Communication to the Commission. Approval of the content of the draft Communication from the Commission – Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act)”).
Se trata de un Documento que incide en la “clave de arco” de la Ley Europea de Inteligencia Artificial, cual es la noción misma de sistema de IA. Dado que esta base conceptual resulta esencial en el desarrollo y la comprensión de la LEIA, resulta evidente la oportunidad y utilidad del Documento que veremos ofrece ideas precisas y ejemplos sobre los sistemas de IA que deben entenderse incluidos y excluidos del ámbito de aplicación de la LEIA en un contexto de inflación manifiesta de información sobre IA, en el que todo el mundo habla sobre la IA, desde políticos con ensoñaciones imperiales hasta empresarios con avaricias extractivas.
Es por ello por lo que pasamos a ofrecer a los lectores de este blog una síntesis del este proyecto de Comunicación de la Comisión Europea recorriendo, una vez más, el sendero de comentarios a esta Ley Europea y a diversos documentos internacionales tocantes a esta omnipresente, apasionante, actual y controvertida materia (su último vestigio es la entrada del pasado 31 de enero sobre “La Ley Europea de Inteligencia Artificial: reflexiones útiles para la jurisdicción y la abogacía: Premios Blogs Jurídicos de Oro 2024 en la Universidad de Salamanca”).
A) Finalidad de las Directrices
La finalidad legal de las Directrices consiste en cumplir el mandato contenido en el artículo 96.1.f) de la LEIA que exige a la Comisión Europea que elabore directrices sobre la aplicación de la definición de sistema de IA establecida en el artículo 3.1 de dicha LEIA.
La finalidad sustancial de las Directrices consiste en “ayudar a los proveedores y a otras personas pertinentes, incluidas las partes interesadas del mercado y las instituciones, a determinar si un sistema constituye un sistema de IA en el sentido de la Ley de IA, facilitando así la aplicación y el cumplimiento efectivos de dicha Ley” (apartado 3).
B) Oportunidad de las Directrices
La oportunidad de las Directrices obedece a la circunstancia temporal de que la definición de sistema de IA entró en vigor el 2 de febrero de 2025, junto con otras disposiciones establecidas en los capítulos I y II de la Ley de IA, en particular el artículo 5 de la Ley de IA sobre prácticas de IA prohibidas. Por ello y dado que la definición de sistema de IA es decisiva para comprender el ámbito de aplicación de la Ley de IA, incluidas las prácticas prohibidas, las Directrices se adoptan paralelamente a las Directrices de la Comisión sobre prácticas prohibidas de inteligencia artificial sobre las que la Comisión publicó otra Comunicación el pasado día 4 de febrero, de la que daremos cuenta en la entrada de este blog del próximo viernes, día 21 (apartado 4).
C) Noción de sistema de IA en el art.3.1 de la LEIA
En el apartado II de la Comunicación, dedicado al “objeto y los elementos principales de la noción de sistema de IA” se parte de la definición sita en el art.3.1) de la LEIA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”. A partir de ahí, la Comunicación descompone la noción legal en siete factores principales que son: “(1) un sistema basado en máquinas; (2) que está diseñado para operar con distintos niveles de autonomía; (3) que puede mostrar capacidad de adaptación tras su despliegue; (4) y que, para objetivos explícitos o implícitos; (5) infiere, a partir de la entrada que recibe, cómo generar salidas (6) como predicciones, contenidos, recomendaciones o decisiones (7) que pueden influir en entornos físicos o virtuales” (aptdo.9).
D) Contenido de las Directrices: los siete factores capitales
Seguidamente, la Comunicación entra a referirse a cada uno de los siete factores (advertimos que reproduciremos literalmente los apartados que consideramos decisivos en los que resaltaremos en negrita las expresiones que nos parecen más significativas):
1. Sistema basado en máquinas
La Comunicación dice: “El término «basado en máquinas» se refiere al hecho de que los sistemas de IA se desarrollan con máquinas y se ejecutan en ellas. El término «máquina» puede entenderse como los componentes de hardware y software que permiten el funcionamiento del sistema de IA. Los componentes de hardware se refieren a los elementos físicos de la máquina, como unidades de procesamiento, memoria, dispositivos de almacenamiento, unidades de red e interfaces de entrada/salida, que proporcionan la infraestructura para el cálculo. Los componentes de software abarcan el código informático, las instrucciones, los programas, los sistemas operativos y las aplicaciones que gestionan la forma en que el hardware procesa los datos y realiza las tareas (aptdo.11).
2. Autonomía
La Comunicación dice: “El segundo elemento de la definición se refiere a que el sistema esté «diseñado para funcionar con distintos niveles de autonomía». El considerando 12 de la Ley de IA aclara que los términos «diversos niveles de autonomía» significan que los sistemas de IA están diseñados para funcionar con «cierto grado de independencia de las acciones respecto de la intervención humana y de capacidades para funcionar sin intervención humana” (aptdo.14).
3. Adaptabilidad
La Comunicación dice: “El tercer elemento de la definición del artículo 3, apartado 1, de la Ley de IA es que el sistema «puede mostrar capacidad de adaptación tras su despliegue». Los conceptos de autonomía y adaptabilidad son dos conceptos distintos pero estrechamente relacionados. A menudo se discuten juntos, pero representan dimensiones diferentes de la funcionalidad de un sistema de IA. El considerando 12 de la Ley de IA aclara que la «capacidad de adaptación» se refiere a las capacidades de autoaprendizaje, que permiten que el comportamiento del sistema cambie mientras se utiliza. El nuevo comportamiento del sistema adaptado puede producir resultados diferentes de los del sistema anterior para las mismas entradas” (aptdo.22).
4. Objetivos del sistema de IA
La Comunicación dice: “El cuarto elemento de la definición son los objetivos del sistema de IA. Los sistemas de IA están diseñados para funcionar con arreglo a uno o varios objetivos. Los objetivos del sistema pueden definirse explícita o implícitamente. Los objetivos explícitos se refieren a metas claramente establecidas que el desarrollador codifica directamente en el sistema. Por ejemplo, pueden especificarse como la optimización de una función de costes, una probabilidad o una recompensa acumulativa. Los objetivos implícitos se refieren a metas que no se declaran explícitamente pero que pueden deducirse del comportamiento o de los supuestos subyacentes del sistema. Estos objetivos pueden surgir de los datos de entrenamiento o de la interacción del sistema de IA con su entorno” (aptdo.24).
5. Inferir cómo generar resultados utilizando técnicas de IA
La Comunicación dice: “El quinto elemento de un sistema de IA es que debe ser capaz de inferir, a partir de la entrada que recibe, cómo generar salidas. El considerando 12 de la Ley de IA aclara que «[una] característica clave de los sistemas de IA es su capacidad de inferir». Como se explica con más detalle en dicho considerando, los sistemas de IA deben distinguirse de «los sistemas de software o enfoques de programación tradicionales más sencillos y no deben abarcar los sistemas que se basan en las reglas definidas únicamente por personas físicas para ejecutar automáticamente operaciones». Esta capacidad de inferir es, por tanto, una condición clave e indispensable que distingue a los sistemas de IA de otros tipos de sistemas” (aptdo.26).
La noción de este quinto elemento se desglosa en otros dos -que, a su vez, se descomponen en varios ejemplos– que nos parecen enormemente interesantes y que son:
5.1. Técnicas de IA que permiten la inferencia
La Comunicación dice: “Centrándose específicamente en la fase de construcción del sistema de IA, el considerando 12 de la Ley de IA aclara además que «[l]as técnicas que permiten la inferencia mientras se construye un sistema de IA incluyen enfoques de aprendizaje automático que aprenden de los datos cómo alcanzar determinados objetivos, y enfoques basados en la lógica y el conocimiento que infieren a partir del conocimiento codificado o la representación simbólica de la tarea que debe resolverse». Estas técnicas deben entenderse como «técnicas de IA» (aptdo.30).
5.2. Sistemas fuera del ámbito de la definición de sistema de IA
La Comunicación dice: “El considerando 12 también explica que la definición de sistema de IA debe distinguir los sistemas de IA de «los sistemas de software o enfoques de programación tradicionales más sencillos y no debe abarcar los sistemas que se basan en las reglas definidas únicamente por personas físicas para ejecutar operaciones automáticamente» (aptdo.40). Y añade que “algunos sistemas tienen la capacidad de inferir de forma limitada pero, sin embargo, pueden quedar fuera del ámbito de aplicación de la definición de sistema de IA debido a su capacidad limitada para analizar patrones y ajustar de forma autónoma su producción. Tales sistemas pueden incluir” (aptdo.41):
5.2.1. Sistemas para mejorar la optimización matemática
La Comunicación dice: “Los sistemas utilizados para mejorar la optimización matemática o para acelerar y aproximar métodos de optimización tradicionales y bien establecidos, como los métodos de regresión lineal o logística, quedan fuera del ámbito de la definición de sistema de IA. Esto se debe a que, si bien estos modelos tienen la capacidad de inferir, no trascienden el «procesamiento básico de datos». Un indicio de que un sistema no trasciende el procesamiento básico de datos podría ser que se haya utilizado de forma consolidada durante muchos años6. Esto incluye, por ejemplo, los modelos basados en el aprendizaje automático que aproximan funciones o parámetros en problemas de optimización manteniendo el rendimiento. Estos sistemas pretenden mejorar la eficiencia de los algoritmos de optimización utilizados en problemas computacionales. Por ejemplo, ayudan a acelerar las tareas de optimización proporcionando aproximaciones aprendidas, heurísticas o estrategias de búsqueda” (aptdo.42).
5.2.2. Tratamiento básico de datos
La Comunicación dice: “Por sistema básico de tratamiento de datos se entiende un sistema que sigue instrucciones u operaciones predefinidas y explícitas. Estos sistemas se desarrollan y despliegan para ejecutar tareas basadas en entradas o reglas manuales, sin ningún tipo de «aprendizaje, razonamiento o modelización» en ninguna fase del ciclo de vida del sistema. Funcionan basándose en reglas fijas programadas por el ser humano, sin utilizar técnicas de IA, como el aprendizaje automático o la inferencia basada en la lógica, para generar resultados. Estos sistemas básicos de procesamiento de datos incluyen, por ejemplo, sistemas de gestión de bases de datos utilizados para clasificar o filtrar datos en función de criterios específicos (por ejemplo, «encontrar todos los clientes que compraron un producto específico en el último mes»), aplicaciones de software de hojas de cálculo estándar que no incorporan funcionalidades habilitadas para la IA, y software que calcula una media de población a partir de una encuesta que posteriormente se explota en un contexto general” (aptdo.46).
5.2.3. Sistemas basados en la heurística clásica
La Comunicación dice: “Las heurísticas clásicas son técnicas de resolución de problemas que se basan en métodos basados en la experiencia para encontrar soluciones aproximadas de forma eficiente. Las técnicas heurísticas se utilizan habitualmente en situaciones de programación en las que encontrar una solución exacta es poco práctico debido a limitaciones de tiempo o recursos. Las heurísticas clásicas suelen basarse en reglas, reconocimiento de patrones o estrategias de ensayo y error, y no en el aprendizaje basado en datos. A diferencia de los modernos sistemas de aprendizaje automático, que ajustan sus modelos en función de las relaciones entrada-salida, los sistemas heurísticos clásicos aplican reglas o algoritmos predefinidos para derivar soluciones. Por ejemplo, un programa de ajedrez que utilice un algoritmo minimax con funciones de evaluación heurística puede evaluar las posiciones del tablero sin necesidad de un aprendizaje previo a partir de datos. Aunque eficaces en muchas aplicaciones, los métodos heurísticos pueden carecer de adaptabilidad y generalización en comparación con los sistemas de IA que aprenden de la experiencia” (aptdo.48).
5.2.4. Sistemas de predicción simples
La Comunicación dice: “Todos los sistemas basados en máquinas cuyo rendimiento puede lograrse mediante una regla básica de aprendizaje estadístico, aunque técnicamente puedan clasificarse como basados en enfoques de aprendizaje automático, quedan fuera del ámbito de la definición de sistema de IA, debido a su rendimiento” (aptdo.49) .
6. Salidas que pueden influir en entornos físicos o virtuales
La Comunicación dice: “El sexto elemento de la definición de sistema de IA que figura en el artículo 3, apartado 1, de la Ley de IA es que el sistema infiera «cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales». La capacidad de un sistema para generar resultados, como predicciones, contenidos y recomendaciones, basándose en las entradas que recibe y utilizando el aprendizaje automático y los enfoques lógicos y basados en el conocimiento, es fundamental para lo que hacen los sistemas de IA y lo que distingue a esos sistemas de otras formas de software. La capacidad de generar resultados y el tipo de resultados que el sistema puede generar es fundamental para comprender la funcionalidad y el impacto de un sistema de IA” (aptdo.52).
7. Interacción con el entorno
La Comunicación dice: “ El séptimo elemento de la definición de un sistema de IA es que sus resultados «pueden influir en entornos físicos o virtuales». Este elemento debe entenderse como un énfasis en el hecho de que los sistemas de IA no son pasivos, sino que influyen activamente en los entornos en los que se despliegan. La referencia a «entornos físicos o virtuales» indica que la influencia de un sistema de IA puede afectar tanto a objetos físicos tangibles (por ejemplo, un brazo robótico) como a entornos virtuales, incluidos espacios digitales, flujos de datos y ecosistemas de software” (aptdo.60).
El Documento añade que “la definición de un sistema de IA adopta una perspectiva basada en el ciclo de vida que abarca dos fases principales: la fase previa al despliegue o de «construcción» del sistema y la fase posterior al despliegue o de «uso» del sistema4. No se exige que los siete elementos establecidos en esa definición estén presentes de forma continua a lo largo de las dos fases de ese ciclo de vida. Por el contrario, la definición reconoce que determinados elementos pueden aparecer en una fase, pero no persistir a lo largo de ambas. Este enfoque para definir un sistema de IA refleja la complejidad y diversidad de los sistemas de IA, garantizando que la definición se ajusta a los objetivos de la Ley de IA al dar cabida a una amplia gama de sistemas de IA” (apartado 60).
E) Observaciones finales de la Comisión Europea
La Comunicación acaba realizando, en su epígrafe III, unas observaciones finales que nos parecen de indudable interés y se refieren a:
a) La amplitud de la definición de sistema de IA y sus consecuencias cuando dice: “La definición de sistema de IA abarca un amplio espectro de sistemas. La determinación de si un sistema de software es un sistema de IA debe basarse en la arquitectura y funcionalidad específicas de un sistema dado y debe tomar en consideración los siete elementos de la definición establecidos en el artículo 3, apartado 1, de la Ley de IA” (apartado 61).
b) La imposible determinación automática cuando dice: “No es posible una determinación automática ni listas exhaustivas de los sistemas que entran o no en la definición de sistema de IA” (apartado 62).
c) El enfoque basado en el riesgo de la LEIA y sus consecuencias regulatorias cuando señala: “Sólo determinados sistemas de IA están sujetos a obligaciones reglamentarias y a supervisión en virtud de la Ley de IA. El enfoque basado en el riesgo de la Ley de la IA significa que sólo aquellos sistemas que den lugar a los riesgos más significativos para los derechos y libertades fundamentales estarán sujetos a sus prohibiciones establecidas en el artículo 5 de la Ley de la IA, a su régimen regulador para los sistemas de IA de alto riesgo cubiertos por el artículo 6 de la Ley de la IA y a sus requisitos de transparencia para un número limitado de sistemas de IA predefinidos establecidos en el artículo 50 de la Ley de la IA. La inmensa mayoría de los sistemas, aunque se consideren sistemas de IA en el sentido del artículo 3, apartado 1, de la Ley de IA, no estarán sujetos a ningún requisito reglamentario en virtud de la Ley de IA” (apartado 63).
d) La exclusión de los modelos de IA de propósito general, cuando matiza: “La Ley de IA también se aplica a los modelos de IA de propósito general, que se regulan en el Capítulo V de la Ley de IA. El análisis de las diferencias entre los sistemas de IA y los modelos de IA de propósito general queda fuera del ámbito de las presentes Directrices” (apartado 64).