El DOUE del pasado 17.11.1.2025 (Serie L, ES) publicaba la Decisión (UE) 2025/2350 del Consejo de 13 de noviembre de 2025 “relativa a la posición que debe adoptarse, en nombre de la Unión Europea, en el Comité de Ministros del Consejo de Europa con respecto al proyecto de Recomendación sobre la igualdad y la inteligencia artificial”. Dado que esta Recomendación que pretende adoptar el Consejo de Europa incidirá en el impacto de los sistemas de IA artificial para promover la igualdad, en particular la igualdad de género, y prevenir los riesgos de discriminación; nos parece oportuno ofrecer a los lectores de este blog una síntesis de estos esfuerzos del Consejo de Europa y del Consejo de la UE; especialmente a la vista de las últimas noticias sobre la “IApendencia” o la “IAdicción” de los jóvenes.
Además, esta entrada resulta coherente con las que hemos dedicado, durante las últimas semanas, a diferentes aplicaciones de la regulación de la IA y de las consecuencias económicas de la inversión del público en «acciones de IA» (así, por ejemplo, en la entrada del pasado 14 de noviembre de 2025 sobre la “Inteligencia Artificial y especulación: ¿se aproxima una nueva “burbuja tecnológica”?”).
A) La «IApendencia» y la “IAdicción”
En los últimos tiempos, la psicología social de las sociedades desarrolladas muestra un nuevo síndrome patológico que cursa como enfermedad leve como “IApendencia” (“necesidad compulsiva de la IA para experimentar sus efectos o calmar el malestar producido por su privación”) o grave como “IAdicción” (“dependencia de la IA que opera como actividad nociva para la salud o el equilibrio psíquico”)que afecta principalmente a los jóvenes que depositan en las aplicaciones de IA -como el ChatGPT- unas expectativas para las que no están diseñadas ni son su finalidad, como por ejemplo, servir de confidentes médicos, alimenticios o sentimentales, y que pueden conducir a su alienación por su propia capacidad de manipular los sentimientos.
Hemos de confesar que -como profesores de una universidad pública- este síndrome nos alarma y nos pone, una vez más, sobre la pista de los riesgos que el abuso de las aplicaciones de IA -muchas veces propiciado por sus mismos proveedores- puede ocasionar a la sociedad.entro de los abusos potenciales de las aplicaciones de IA destacan los que pueden dañar la igualdad de género en forma de discriminaciones.
Es por ello por lo que expondremos a continuación el proceso de elaboración de la Recomendación que pretende adoptar el Consejo de Europa para promover la igualdad, en particular la igualdad de género, y prevenir los riesgos de discriminación en el uso de los sistemas de IA.
Una vez hecha esta observación preliminar y dado que, en esta entrada, nos referiremos al Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho y a su aplicación por Decisiones del Consejo de la UE; seguiremos un orden cronológico de unos y otras.
B) La Decisión (UE) 2022/2349 del Consejo, de 21 de noviembre de 2022
Mediante la Decisión (UE) 2022/2349 del Consejo, de 21 de noviembre de 2022, “por la que se autoriza la apertura de negociaciones en nombre de la Unión Europea con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho (DO L 311 de 2.12.2022, p. 138); el Consejo de la UE autorizó a la Comisión Europea para entablar negociaciones en nombre de la UE con vistas a un convenio del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho.
C) El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho de 5 de septiembre de 2024
El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho (ref. Consejo de la
Unión Europea, 12516/24 DSI/mja, TREE.2.B,. Bruselas, 20 de agosto de 2024, (OR. en), 12516/24, TELECOM 248, CYBER 231, Expediente interinstitucional: 2024/0150(NLE), ACTOS LEGISLATIVOS Y OTROS INSTRUMENTOS) hecho en Vilna, el 5 de septiembre de 2024, en francés e inglés tiene como objetivo “garantizar que las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho” (art.1). Su particular relevancia nos recomienda ofrecer una síntesis de su contenido en los siguientes apartados:
a) Presupuestos
Su Preámbulo identifica dos tipos de presupuestos:
a.1) Beneficios de la IA, entre los que destaca el “avance acelerado de la ciencia y la tecnología y de los profundos cambios provocados por las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial, que tienen potencial para promover la prosperidad humana, así como el bienestar individual y social, el desarrollo sostenible, la igualdad de género y el empoderamiento de todas las mujeres y niñas, así como otros objetivos e intereses importantes, reforzando el progreso y la innovación”.
a.2) Riegos de la IA, mostrando su preocupación “por los riesgos de discriminación en contextos digitales, en particular los que implican sistemas de inteligencia artificial, y su posible efecto de crear o agravar desigualdades, incluidas las que sufren las mujeres y las personas en situaciones vulnerables, en relación con el disfrute de sus derechos humanos y su participación plena, igualitaria y efectiva en los asuntos económicos, sociales, culturales y políticos”.
b) Ámbito de aplicación
En Convenio ofrece la “definición de sistemas de inteligencia artificial” siguiente: “un sistema automatizado que, con objetivos explícitos o implícitos, deduce de la información que recibe la forma de generar resultados como predicciones, contenidos, recomendaciones o decisiones que puedan influir en entornos físicos o virtuales. Los distintos sistemas de
inteligencia artificial varían en sus niveles de autonomía y capacidad de adaptación tras su despliegue” (art.2)
Después, delimita su ámbito de aplicación mediante las dos operaciones lógicas siguientes:
b.1) Incluye “las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial que son susceptibles de interferir en los derechos humanos, la democracia y el Estado de Derecho (…) llevadas a cabo por autoridades públicas o por agentes privados” (art.3.1)
b.2) Excluye “las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses de seguridad nacional, en el entendimiento de que dichas actividades se lleven a cabo de conformidad con el Derecho internacional aplicable, incluidas las obligaciones del Derecho internacional en materia de derechos humanos, y en el respeto de sus instituciones y procesos democrático” (art.3.2), las actividades de investigación y desarrollo relativas a sistemas de inteligencia artificial que aún no se hayan puesto a disposición para su uso, a menos que las pruebas o actividades similares se lleven a cabo de manera que puedan interferir en los derechos humanos, la democracia y el Estado de Derecho” (art.3.3) y la “materias relativas a la defensa nacional” (art.3.4).
c) Obligaciones y principios relacionados con las actividades en el marco del ciclo de vida de los sistemas de IA
c.1) Son obligaciones generales de las partes la protección de los derechos humanos (art.4), la integridad de los procesos democráticos y el respeto del Estado de Derecho( art.4).
c.2) Se identifican como principios generales comunes que cada Parte aplicará de manera adecuada a su ordenamiento jurídico nacional y a las demás obligaciones del Convenio, en relación con los sistemas de inteligencia artificial, los siguientes (arts.6 a 13): dignidad humana y autonomía individual, transparencia y supervisión, Igualdad y no discriminación, privacidad y protección de los datos personales, fiabilidad e
innovación segura. Desde el punto de vista jurídico, destacamos en principio de “rendición de cuentas y responsabilidad” que el artículo 9 explicita diciendo: “Cada Parte adoptará o mantendrá medidas para garantizar la rendición de cuentas y la responsabilidad por los efectos adversos en los derechos humanos, la democracia y el Estado de Derecho resultantes de las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial”.
d) Garantías procesales
Dado que los Estados partes del Convenio son Estados de Derecho, “adoptarán o mantendrán medidas para garantizar la disponibilidad de vías de recurso accesibles y efectivas por violaciones de los derechos humanos derivadas de las actividades en el marco del ciclo de vida de los sistemas de inteligencia artificial” y “garantizarán que, cuando un sistema de inteligencia artificial incida significativamente en el disfrute de los derechos humanos, las personas afectadas dispongan de garantías procesales, salvaguardias y derechos efectivos, de conformidad con el Derecho internacional y nacional aplicable” (arts.14 y 15).
e) Evaluación y mitigación de riesgos y efectos adversos
Dado que el enfoque de gestión de riesgos resulta predominante en todas las regulaciones vigentes de la IA, comenzando por la propia LEIA; resulta particularmente destacable el Capítulo V del Convenio (art.16) que establece que cada Estado parte deberá adoptar o mantener medidas para la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de IA, teniendo en cuenta, en particular, los efectos reales y potenciales para los derechos humanos, la democracia y el Estado de Derecho. Añade que dichas medidas se deberán graduar y diferenciar, según proceda, y deberán tener en cuenta una serie de factores tales como el contexto y el uso previsto de los sistemas de IA; la gravedad y la probabilidad de los posibles efectos; las perspectivas de las partes interesadas pertinentes y, en particular, de las personas cuyos derechos puedan verse afectados. Estas medidas para la identificación, evaluación, prevención y mitigación de los riesgos que plantean los sistemas de IA se deberán aplicar de forma continuada a lo largo de las actividades en el marco del ciclo de vida del sistema de IA; incluir el seguimiento de los riesgos y los efectos adversos en los derechos humanos, la democracia y el Estado de Derecho; incluir documentación sobre los riesgos, los efectos reales y potenciales y el enfoque de gestión de riesgos; y someter a prueba los sistemas de IA antes de ponerlos a disposición para su primer uso y cuando se modifiquen de manera significativa.
f) Aplicación y seguimiento del Convenio
Se establece que la aplicación de las disposiciones del Convenio por los Estados Parte se garantizará sin discriminación por ningún motivo, de conformidad con sus obligaciones internacionales en materia de derechos humanos; y teniendo en cuenta las necesidades y vulnerabilidades específicas en relación con el respeto de los derechos de las personas con discapacidad y de los niños (arts.17 y 18),
La misma plasticidad de la IA objeto del Convenio impone un Mecanismo de seguimiento y cooperación que establece su Capítulo VII y se basa en la Conferencia de las Partes, que estará compuesta por representantes de los Estados Parte y tendrá como funciones las de facilitar la aplicación y ejecución efectivas del mismo, incluida la identificación de cualquier problema y los efectos de cualquier reserva formulada, estudiar la posibilidad de completarlo o modificarlo; estudiar cuestiones y formular recomendaciones específicas relativas a su interpretación y aplicación; facilitar el intercambio de información sobre avances jurídicos, políticos o
tecnológicos importantes, etc.
D) La Decisión (EU) 2024/2218 del Consejo, de 28 de agosto de 2024
El DOUE del pasado 4.9.2024 publicaba La Decisión (EU) 2024/2218, “relativa a la firma, en nombre de la Unión Europea, del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho” cuyo artículo 1 autorizaba dicha firma por la Comisión Europea, en nombre de la UE.
E) La Decisión (UE) 2025/2350 del Consejo, de 13 de noviembre de 2025
En el artículo 1 de su Decisión (UE) 2025/2350 de 13 de noviembre de 2025 el Consejo de la UE acuerda: “La posición que debe adoptarse, en nombre de la Unión, en la sesión plenaria conjunta de la Comisión de Igualdad de Género (GEC) y el Comité Director sobre la Lucha contra la Discriminación, la Diversidad y la Inclusión (CDADI), así como en la reunión del Comité de Ministros, será la de no oponerse a la aprobación y la adopción de la Recomendación sobre la igualdad y la inteligencia artificial, dado que, aunque no es vinculante, puede producir efectos jurídicos en el ordenamiento jurídico de la Unión, siempre que en el texto del proyecto de Recomendación no se realicen modificaciones que recomienden medidas que sean incompatibles con las obligaciones de los proveedores y responsables del despliegue de sistemas de IA establecidas con arreglo al Reglamento (UE) 2024/1689, o las excedan” y, en su artículo 2, precisa: “La posición a que se refiere el artículo 1 será expresada por los Estados miembros de la Unión, actuando conjuntamente”, dado que la Unión no es miembro del Consejo de Europa, pero lo son todos los Estados miembros, la posición de la Unión debe ser expresada por sus Estados miembros, actuando conjuntamente (cdo.10 Decisión 2025).
F) La Recomendación del Consejo de Europa sobre la igualdad y la inteligencia artificial de noviembre de 2025
El Comité de Ministros del Consejo de Europa ha encomendado al Comité de Expertos en Inteligencia Artificial, Igualdad y Discriminación(GEC/ADI-AI) la elaboración de una Recomendación sobre el impacto de los sistemas de inteligencia artificial, su potencial para promover la igualdad —incluida la igualdad de género— y los riesgos que pueden entrañar en materia de no discriminación para el año 2025.
El proyecto de Recomendación se ha basado en el “Estudio sobre el impacto de los sistemas de inteligencia artificial, su potencial para promover la igualdad, incluida la igualdad de género, y los riesgos que pueden causar en relación con la no discriminación”, adoptado por el GEC y el CDADI en 2023. Se trata del Estudio del Prof. Frederik Zuiderveen Borgesius sobre discriminación, IA y algoritmos que concluye, entre otras cosas -en sus pags.72 y 73- que “la IA ofrece muchas posibilidades interesantes para mejorar nuestras sociedades. Pero la toma de decisiones basada en la IA también conlleva riesgos: a menudo es opaca y puede tener efectos discriminatorios, por ejemplo, cuando un sistema de IA aprende a partir de datos que reflejan decisiones humanas sesgadas”.
Añade que “tanto en el sector público como en el privado, las organizaciones pueden tomar decisiones basadas en la IA con efectos de gran alcance para las personas”. Así, concluye que “los organismos del sector público pueden utilizar la IA para la vigilancia policial predictiva o las recomendaciones sobre sentencias, y para tomar decisiones sobre, por ejemplo, pensiones, ayudas a la vivienda o prestaciones por desempleo” y que “el sector privado también puede tomar decisiones basadas en la IA que tienen importantes consecuencias para las personas, como las decisiones relativas al empleo, la vivienda o el crédito”.
Resultan particularmente relevantes sus conclusiones cuantitativas cuando observa que “muchas pequeñas decisiones, tomadas en conjunto, pueden tener grandes efectos. Un anuncio publicitario dirigido a un público específico rara vez supone un problema importante, pero cuando se acumulan, la publicidad dirigida puede excluir a algunos grupos. Y la diferenciación de precios impulsada por la IA podría llevar a que determinados grupos de la sociedad paguen sistemáticamente más”.
En lo que se refiere a la regulación de la IA, el Estudio concluye que “los instrumentos jurídicos más relevantes para mitigar los riesgos de discriminación impulsada por la IA son la legislación contra la discriminación y la legislación sobre protección de datos. Si se aplican de manera eficaz, ambos instrumentos jurídicos podrían ayudar a combatir la discriminación ilegal. Los Estados miembros del Consejo de Europa, los organismos de supervisión de los derechos humanos, como la Comisión Europea contra el Racismo y la Intolerancia, y los organismos de igualdad deberían aspirar a una mejor aplicación de las normas vigentes contra la discriminación”.
Pero el Estudio añade que la IA también abre la puerta a nuevos tipos de diferenciación injusta (o discriminación) que escapan a las leyes actuales. La mayoría de las leyes contra la discriminación solo se aplican a la discriminación basada en características protegidas, como el origen racial. Dichas leyes no se aplican si las organizaciones diferencian en función de clases recién inventadas que no guardan relación con las características protegidas. Sin embargo, esta diferenciación podría seguir siendo injusta, por ejemplo, cuando refuerza la desigualdad social. Probablemente necesitemos una regulación adicional para proteger la equidad y los derechos humanos en el ámbito de la IA. Pero regular la IA en general no es el enfoque adecuado, ya que el uso de los sistemas de IA es demasiado variado para un único conjunto de normas. Necesitamos normas específicas para cada sector, ya que en cada uno de ellos están en juego valores diferentes y surgen problemas distintos. Es necesario seguir debatiendo y realizando investigaciones interdisciplinarias. Si tomamos las decisiones correctas ahora, podremos disfrutar de las numerosas ventajas de la IA y minimizar los riesgos de discriminación injusta”.
Se prevé que la Recomendación sea aprobada por la Comisión de Igualdad de Género (GEC) y el Comité Director sobre la Lucha contra la Discriminación, la Diversidad y la Inclusión (CDADI) del Consejo de Europa durante su sesión plenaria conjunta en noviembre de 2025 y que sea adoptada formalmente por el Comité de Ministros del Consejo de Europa.
G) Efectos “cruzados” con la LEIA (Reglamento (UE) 2024/1689)
Por último, conviene advertir que tanto el Convenio Marco como la Recomendación del Consejo de Europa deben aplicarse en la UE exclusivamente a través del Reglamento (UE) 2024/1689 y de otras disposiciones pertinentes del acervo de la Unión, cuando proceda (Cdo.5 Decisión 2025). En particular, la Recomendación no será jurídicamente vinculante para los Estados miembros del Consejo de Europa; pero podrá producir efectos jurídicos, a saber, en el contexto de la aplicación de la LEIA, donde podrá influir de manera determinante en la legislación de la Unión contemplada en el artículo 40.3, y el artículo 56.1 de la LEIA.