La Ley Europea de Inteligencia Artificial (LEIA), que entró en vigor el 1 de agosto de 2024, pretende fomentar el desarrollo y el despliegue de la IA responsable y fiable en la UE. En particular, las obligaciones de transparencia serán aplicables a partir del 2 de agosto de 2026. Estas obligaciones impondrán a los implementadores y proveedores de IA generativa un deber de informar a las personas cuando interactúen con un sistema de IA y especialmente cuando están expuestas a sistemas de reconocimiento de emociones o categorización biométrica, y al contenido generado o manipulado por un sistema de IA.
Para desarrollar estos deberes, la Comisión Europea puso en marcha, el pasado mes de septiembre, una consulta para elaborar directrices y un código de buenas prácticas sobre sistemas de IA transparentes sobre la base de las disposiciones de la LEIA. La atención sostenida que hemos prestado en este blog y fuera de él al proceso de desarrollo de la LEIA nos mueve a ofrecer a nuestros lectores, una síntesis de dicha consulta.
A) Origen y justificación de la Consulta: La Oficina de IA.
La Consulta (Ref.: “European Commission. Directorate-general for Communications Networks, Content and Technology. Artificial Intelligence Office. Artificial Intelligence Regulation and Compliance. Brussels. CNECT.A.2/. Stakeholder consultation on transparency requirements for certain AI systems under Article 50 AI Act”) parte de la base del apartado 7 del art.50 de la LEIA que establece la siguiente previsión: “La Oficina de IA fomentará y facilitará la elaboración de códigos de buenas prácticas a escala de la Unión para promover la aplicación efectiva de las obligaciones relativas a la detección y el etiquetado de contenidos generados o manipulados de manera artificial. La Comisión podrá adoptar actos de ejecución a fin de aprobar dichos códigos de buenas prácticas, de conformidad con el procedimiento establecido en el artículo 56, apartado 6. Si considera que el código no es adecuado, la Comisión podrá adoptar un acto de ejecución que especifique normas comunes para el cumplimiento de las citadas obligaciones de conformidad con el procedimiento de examen establecido en el artículo 98, apartado 2”.
Recordemos que la Oficina de IA se define en la LEIA como “la función de la Comisión consistente en contribuir a la implantación, el seguimiento y la supervisión de los sistemas de IA y modelos de IA de uso general, y a la gobernanza de la IA prevista por la Decisión de la Comisión de 24 de enero de 2024; las referencias hechas en el presente Reglamento a la Oficina de IA se entenderán hechas a la Comisión” (art.3.47). Se regula en el artículo 64 de la LEIA que abre la sección 1 -sobre “gobernanza a escala de la Unión”- del Capítulo VII -sobre gobernanza- que se ocupa también, en su artículo 65, de la “creación y estructura del Comité Europeo de Inteligencia Artificial«.
B) Objetivo de las Directrices y del Código de buenas prácticas sobre sistemas de IA transparentes
La Consulta tuvo como objetivo aportar información para que la Comisión Europea elabore dos documentos:
a) Las Directrices sobre sistemas de IA transparentes. Para ello, la Comisión invitó a los proveedores y desplegadores de modelos y sistemas de IA interactivos y generativos, así como a los sistemas de categorización biométrica y reconocimiento de emociones, a las organizaciones de los sectores público y privado, a los expertos académicos y de investigación, a los representantes de la sociedad civil, a las autoridades de supervisión y a los ciudadanos a que compartieran sus puntos de vista sobre la cuestión.
b) Un Código de buenas prácticas sobre sistemas de IA transparentes. Para ello, la Comisión realizó una convocatoria de manifestaciones de interés para que las partes interesadas en su creación.
Ambos documentos que elaborará la Comisión Europea a raíz de esta consulta tendrán dos tipos de beneficiarios:
a) Los desplegadores y proveedores de sistemas de IA generativa a quienes ayudarán a detectar y etiquetar contenidos generados o manipulados por IA.
b) Los usuarios de sistemas de IA generativa a quienes ayudarán a estar informados cuando interactúen con un sistema de IA.
C) Aspectos de la IA transparente
Dado que los documentos que elaborará la Comisión Europea sobre la base de la información recopilada en la Consulta desarrollarán las “obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA” que establece el art.50 de la LEIA que integra su capítulo IV, dicha Consulta ha versado sobre los seis aspectos siguientes que se corresponden con los respectivos apartados de aquel precepto y son:
a) Consciencia de los usuarios de su interacción con un sistema de IA
El apartado 1 del art.50 de la LEIA dispone: “Los proveedores garantizarán que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen y desarrollen de forma que las personas físicas de que se trate estén informadas de que están interactuando con un sistema de IA, excepto cuando resulte evidente desde el punto de vista de una persona física razonablemente informada, atenta y perspicaz, teniendo en cuenta las circunstancias y el contexto de utilización. Esta obligación no se aplicará a los sistemas de IA autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos, con sujeción a las garantías adecuadas para los derechos y libertades de terceros, salvo que estos sistemas estén a disposición del público para denunciar un delito penal”.
Respecto de esta consciencia de los usuarios de su interacción con un sistema de IA, procede recordar la noción de alfabetización en materia de IA, definida en la LEIA como “las capacidades, los conocimientos y la comprensión que permiten a los proveedores, responsables del despliegue y demás personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto del presente Reglamento, llevar a cabo un despliegue informado de los sistemas de IA y tomar conciencia de las oportunidades y los riesgos que plantea la IA, así como de los perjuicios que puede causar” (art.3.56) e impuesta a los proveedores y responsables del despliegue de sistemas de IA quienes -de acuerdo con el artículo 4 de la LEIA- “deberán adoptar medidas para garantizar que, en la mayor medida posible, su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA tengan un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los colectivos de personas en que se van a utilizar dichos sistemas”.
Por lo anterior, la Sección 1 del Cuestionario incluyó preguntas sobre el concepto de sistemas interactivos de IA, la excepción aplicable en caso de que la interacción directa con personas pueda considerarse obvia, su uso para actividades de aplicación de la ley y formas prácticas de diseñar los sistemas de manera que se notifique a las personas sobre la interacción con los sistemas de IA.
b) Identificación de los resultados de salida del sistema de IA como productos generados o manipulados de manera artificial
El apartado 2 del art.50 de la LEIA dispone: “Los proveedores de sistemas de IA, entre los que se incluyen los sistemas de IA de uso general, que generen contenido sintético de audio, imagen, vídeo o texto, velarán por que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina y que sea posible detectar que han sido generados o manipulados de manera artificial. Los proveedores velarán por que sus soluciones técnicas sean eficaces, interoperables, sólidas y fiables en la medida en que sea técnicamente viable, teniendo en cuenta las particularidades y limitaciones de los diversos tipos de contenido, los costes de aplicación y el estado actual de la técnica generalmente reconocido, según se refleje en las normas técnicas pertinentes. Esta obligación no se aplicará en la medida en que los sistemas de IA desempeñen una función de apoyo a la edición estándar o no alteren sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos”.
Por lo tanto, la Sección 2 del Cuestionario incluyó preguntas relacionadas con el concepto de sistemas de IA que generan o manipulan contenido sintético, las excepciones aplicables al marcado de contenido generado o manipulado por IA, su uso para actividades de aplicación de la ley, las soluciones técnicas de vanguardia existentes para marcar y detectar contenido generado o manipulado por IA y los criterios para la evaluación de las técnicas de marcado.
c) Transparencia especial de los sistemas de reconocimiento de emociones o de un sistema de categorización biométrica
El apartado 3 del art.50 de la LEIA dispone: “Los responsables del despliegue de un sistema de reconocimiento de emociones o de un sistema de categorización biométrica informarán del funcionamiento del sistema a las personas físicas expuestas a él y tratarán sus datos personales de conformidad con los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y con la Directiva (UE) 2016/680, según corresponda. Esta obligación no se aplicará a los sistemas de IA utilizados para la categorización biométrica y el reconocimiento de emociones que hayan sido autorizados por ley para detectar, prevenir e investigar delitos, con sujeción a las garantías adecuadas para los derechos y libertades de terceros y de conformidad con el Derecho de la Unión”.
Procede recordar que la LEIA define los sistemas de reconocimiento de emociones, como “un sistema de IA destinado a distinguir o inferir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos” (art.3.39) y los sistemas de categorización biométrica como “un sistema de IA destinado a incluir a las personas físicas en categorías específicas en función de sus datos biométricos, a menos que sea accesorio a otro servicio comercial y estrictamente necesario por razones técnicas objetivas” (art.3.40).
Por lo tanto, la Sección 3 del Cuestionario incluyó preguntas sobre el concepto de exposición al reconocimiento de emociones y los sistemas de categorización biométrica, su uso para actividades de aplicación de la ley y formas prácticas de informar a las personas físicas sobre el funcionamiento del sistema.
d) Transparencia especial de los sistemas que generen o manipulen imágenes o contenidos de audio o vídeo que constituyan una ultrasuplantación
El apartado 4 del art.50 de la LEIA dispone: “Los responsables del despliegue de un sistema de IA que genere o manipule imágenes o contenidos de audio o vídeo que constituyan una ultrasuplantación harán público que estos contenidos o imágenes han sido generados o manipulados de manera artificial. Esta obligación no se aplicará cuando la ley autorice su uso para para detectar, prevenir, investigar o enjuiciar delitos. Cuando el contenido forme parte de una obra o programa manifiestamente creativos, satíricos, artísticos, de ficción o análogos, las obligaciones de transparencia establecidas en el presente apartado se limitarán a la obligación de hacer pública la existencia de dicho contenido generado o manipulado artificialmente de una manera adecuada que no dificulte la exhibición o el disfrute de la obra. Los responsables del despliegue de un sistema de IA que genere o manipule texto que se publique con el fin de informar al público sobre asuntos de interés público divulgarán que el texto se ha generado o manipulado de manera artificial. Esta obligación no se aplicará cuando el uso esté autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos, o cuando el contenido generado por IA haya sido sometido a un proceso de revisión humana o de control editorial y cuando una persona física o jurídica tenga la responsabilidad editorial por la publicación del contenido”.
Dada su novedad, procede recordar que la “ultrasuplantación” se define en la LEIA como “un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos” (art.3.60
Por lo tanto, la Sección 4 del Cuestionario incluyó, en primer lugar preguntas relacionadas con el concepto de los sistemas de IA que generan deepfakes, el concepto de obras o programas evidentemente artísticos, creativos, satíricos, ficticios o análogos, el uso del sistema para actividades de aplicación de la ley y las mejores prácticas para revelar el origen artificialmente generado o manipulado de los deepfakes (incluso cuando forman parte de obras artísticas o creativas). En segundo lugar, la sección incluyó cuestiones relacionadas con el concepto de sistemas de IA que generan o manipulan textos publicados con el fin de informar al público sobre asuntos de interés público, la excepción aplicable en caso de que el texto esté sujeto a revisión humana o control editorial y una persona física o jurídica tenga la responsabilidad editorial, el uso exento para actividades de aplicación de la ley y las mejores prácticas para informar al público sobre el origen generado o manipulado artificialmente de dicho contenido.
e) Requisitos de accesibilidad aplicables
El apartado 5 del art.50 de la LEIA dispone: “La información a que se refieren los apartados 1 a 4 se facilitará a las personas físicas de que se trate de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición. La información se ajustará a los requisitos de accesibilidad aplicables”.
Por lo tanto, la Sección 5 del Cuestionario incluyó otras cuestiones horizontales relacionadas con la aplicación del artículo 50 de la Ley de IA, abarcando una serie de cuestiones relacionadas con aspectos horizontales del artículo 50 de la Ley de IA. En primer lugar, abordaba los requisitos del artículo 50, apartado 5, de la Ley de IA, que se aplican de manera horizontal al facilitar la información exigida en los apartados 1 a 4 del artículo 50. En segundo lugar, la sección abordaba el artículo 50, apartado 6, y la interacción entre los requisitos de la Ley de IA del artículo 50, apartados 1 a 5, y otras obligaciones de transparencia de la Ley de IA u otra legislación de la Unión o nacional. Por último, también solicitaba recomendaciones y buenas prácticas para el Código de prácticas.
f) Compatiblidad de las obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA
El apartado 6 del art.50 de la LEIA dispone: “Los apartados 1 a 4 no afectarán a los requisitos y obligaciones establecidos en el capítulo III y se entenderán sin perjuicio de otras obligaciones de transparencia establecidas en el Derecho nacional o de la Unión para los responsables del despliegue de sistemas de IA”.
Dado que esta previsión normativa abordaba la interacción entre el artículo 50 y los requisitos aplicables a los sistemas de IA de alto riesgo en virtud de la Ley de IA, así como con otras obligaciones de transparencia establecidas en la legislación de la Unión o nacional para los responsables del despliegue de sistemas de IA; la Consulta anunciaba que, de conformidad con el artículo 96, apartado 1, letra d), de la LEIA, la Comisión publicará directrices sobre la aplicación práctica de las obligaciones de transparencia establecidas en el artículo 50 de la LEIA.