La llegada del Papa Madrid en el día de mañana nos brinda una magnífica ocasión para ofrecer a los lectores de este blog una serie de reflexiones regulatorias sobre las interesantísimas referencias a la Inteligencia Artificial contenidas en el capítulo tercero de la “Carta Encíclica Magnifica Humanitas del Santo Padre León XIV sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”. En concreto, se trata del Capítulo tercero que lleva por sugerente título “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA” (apartados 90 a 130). Sirva esta entrada de modesta contribución de bienvenida al Santo Padre.
A) Advertencias metodológicas
La honestidad intelectual me obliga a comenzar estas reflexiones regulatorias haciendo sendas advertencias dirigidas a los lectores:
a) La primera es de carácter personal y resulta pertinente realizarla poque, en términos forenses, pudiera ser ”tachado” como testigo por “tener interés el asunto” ya que soy cristiano católico y considero que la religión que profeso es, sin duda alguna, la más desarrollada en términos culturales, éticos y lógicos. Buena muestra de lo que digo es que mi religión esta poblada -como todas la religiones- de mitos, que en nuestro caso, resultan amables (en sentido literal “dignos de ser amados”) por estar basados en el amor fraterno de la especie humana.
b) Mi segunda advertencia es de carácter técnico para aclarar que hago las reflexiones que siguen desde una perspectiva jurídica, en base, principalmente, a la Ley Europea de Inteligencia Artificial con el propósito de complementar -desde el máximo de los respetos y en lo que pueda ser beneficioso para la Iglesia- las reflexiones teológicas del capítulo tercero de la “Carta Encíclica Magnifica Humanitas”.
B) Reflexiones generales
Vaya por delante que, a nuestro entender, las reflexiones teológicas sobre la “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA” contenidas en el capítulo tercero de la “Carta Encíclica Magnifica Humanitas” abordan los temas esenciales para una buena regulación y gobierno de la IA. Una aproximación general, nos permite identificar los siguientes aspectos:
a) Una perspectiva de coste (riesgos) / beneficio (oportunidades)
Esta perspectiva -que ha sido común a todos los documentos y normas internacionales sobre la IA- se refleja en el apartado 90 de la Encíclica que plantea una suerte de elección entre el bueno y el mal camino que puede seguir la IA valiéndose de sendas imágenes bíblicas en los términos siguientes:
“90. Después de haber recordado los principios que iluminan la Doctrina social, deseo dirigir la mirada hacia algunos desafíos que afectan a nuestro modo de vivir este tiempo. La imagen bíblica que acompaña estas páginas es la de una construcción: por un lado, la torre de Babel, donde la obra común está guiada por un proyecto de dominio que termina por deshumanizar (cf. Gn 11,1-9); por otro lado, las ruinas de Jerusalén, que con Nehemías se reconstruyen pieza por pieza, como una labor de responsabilidad compartida (cf. Ne 2-6). Estamos llamados a interrogarnos sobre el gran proyecto de nuestra época: ¿qué estamos construyendo? Mientras el desarrollo tecnológico cambia rápidamente lenguajes, relaciones, instituciones y formas de poder, nosotros, los creyentes, debemos y podemos elegir en qué proyecto trabajar y con qué estilo, para custodiar y valorar la magnífica humanidad que nos ha sido brindada como don. No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana”.
En este sentido, resulta pertinente recordar que esta aproximación coincide con el objetivo general de la Ley Europea de Inteligencia Artificial (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial) que consiste en estimular los beneficios de la IA mejorando el funcionamiento del mercado interior, promoviendo la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable; y prevenir los riesgos que el uso de los sistemas de IA presenta en forma de los efectos perjudiciales en la UE.
(El lector interesado en este aspecto puede consultar puede consultar las págs.18 y ss. de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” identificada detalladamente en la nota bibliográfica final).
b) El “presentismo”, la ignorancia y la obsolescencia de la IA: su omnipotencia falaz
La Encíclica nos advierte del “presentismo”, la ignorancia, la obsolescencia innata y la omnipotencia falaz de la IA que, como toda obra del ser humano, es imperfecta y, por ende, falible. Así, el su apartado 98 nos dice:
“98. Es oportuno anteponer dos consideraciones: la primera es que cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas. En segundo lugar, todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo. Las inteligencias artificiales modernas están más “cultivadas” que “construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA “crece”. En consecuencia, los aspectos científicos fundamentales — como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”.
Estas certeras reflexiones nos incitan a alertar sobre el que podríamos bautizar como “síndrome Frankenstein”, tomando la imagen del relato de Mary Shelley publicado en 1818, para indicar cómo la IA -cuyos “aspectos científicos fundamentales (…) siguen siendo desconocidos” (tal y como indica el apartado 98 de la Encíclica que acabamos de transcribir)- puede generar resultados incontrolados y dañinos para el ser humano. Una prueba de este “síndrome Frankenstein” que ya afecta a la IA son las denominadas “alucinaciones” o “espejismos” que el uso de la IA generativa puede deslizar en los escritos de los profesionales y, en particular, de los abogados. En general, podeos ratificar la prueba de aquel “síndrome Frankenstein” de la IA cuando vemos que que estudios internos recientes de OpenAI y de Google muestran que el número de “alucinaciones” o “espejismos” se incrementan en los nuevos modelos de IA generativa. Por ejemplo, el modelo o3 de identificación de personalidades de OpenAI arroja un 33% de “alucinaciones”, porcentaje superior al modelo o1 (el lector interesado puede consultar la entrada de este mismo blog de 25 de mayo de 29026 sobre la “Responsabilidad de los abogados por las “alucinaciones” de la IA generativa utilizada en sus escritos: Circular del CGAE número 3/2026 de 10 de abril”).
En cuanto a la obsolescencia de la IA denunciada en el apartado 98 de la Encíclica cuando nos dice que “cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo”; desde nuestra humildad recordamos que hemos dejado constancia de esta inestabilidad esencial de la IA en la presentación de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” a la que nos hemos referido donde “Advertimos al lector que la regulación de la IA resulta esencialmente inestable, característica motivada por el ritmo crecientemente acelerado de los avances tecnológicos diarios de esta última que impiden que la regulación los alcance en una especie de “maldición de inabarcabilidad”. Ello se refleja en dos ámbitos fundamentales: en la regulación de la UE, porque la LEIA esta llamada a sufrir un proceso expansivo del modelo “big bang” en forma de Reglamentos de normas técnicas y de desarrollo de la Comisión Europea”. En la regulación internacional, porque, por ejemplo, los Principios y los Códigos de Conducta elaborados en el seno del G-7 están abocados a procesos de mutaciones adaptativas” (pag.2).
c) El “desarme” y su correcto sentido
Esta manifestación de la Encíclica ha sido objeto de críticas en medios de comunicación vinculados a los gigantes tecnológicos. Criticas que solo pueden entenderse desde la ignorancia -interesada o negligente- de lo que dice el apartado 110 de la Encíclica:
“110. Quisiera, por último, usar una palabra muy importante para mí: “desarmar”. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora”.
Coincidimos por completo con estas afirmaciones que hace ya once años calificamos de “humanismo digital” en nuestra monografía sobre las “Leyes Europeas de Mercados y de Servicios Digitales” (Editorial Reus. Colección de Derecho Mercantil. Madrid (2025), 166 pp. ISBN: 978-84-290-2929-) en cuya pág.15 nos referíamos a que, “para articular un Sistema Europeo Digital partiendo de la Declaración Europea de 23 de enero de 2023 sobre los Derechos y Principios Digitales para la Década Digital (2023/C 23/01) (DEPDD), hemos de identificar su axioma que es el “humanismo digital” que se asienta en la Declaración de los Derechos Humanos que, a su vez, reflejan la cultura judeo-cristiana que estructura -desde hace milenios- Europa y, por ello, la UE. Este humanismo digital se refleja en la primera manifestación de las instituciones firmantes de la DEDD cuando dicen: “Aspiramos a promover una vía europea para la transformación digital basada en los valores europeos y los derechos fundamentales de la UE, que sitúe a las personas en el centro, reafirme los derechos humanos universales y beneficie a todas las personas, empresas y a la sociedad en su conjunto” (y) Por consiguiente, declaramos lo siguiente: (…)”.
B) Reflexiones específicas
Tal y como anticipamos en el apartado A) de esta misma entrada, las reflexiones teológicas sobre la “Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA” contenidas en el capítulo tercero de la “Carta Encíclica Magnifica Humanitas” abordan los temas esenciales para una buena regulación y gobierno de la IA no solo en sus aspectos generales ya citados, sino también en los siguientes temas específicos:
a) La noción de inteligencia artificial
Esta perspectiva lógicamente constitutiva de toda regulación de la IA se refleja en el apartado 99 de la Encíclica cuando nos dice:
“99. No es posible dar una definición única y completa de la IA. Lo que podemos decir es que hay que evitar el equívoco de equiparar esta “inteligencia” a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido ultimo de las situaciones ni asumen el peso de las consecuencias. Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatia o comprension, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio. Incluso cuando dichos instrumentos se presentan como capaces de “aprender”, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es mas bien una adaptacion estadistica a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior”.
Estas limitaciones consustanciales a la IA se infieren también de la propia definición de sistema de IA sita en el art.3.1) de la LEIA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”. Que nosotros hemos definido metafóricamente “alambiques podigiosos” que procesan grandes cantidades de datos o información bruta que se alojan en el canal de entrada para generar -mediante un método de transformación algorítmica que le permite interactuar con su entorno y aprender en consecuencia- un producto de salida en forma de información neta o destilada.
(El lector interesado puede consultar nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida en sus págs.9 y ss. )
b) Los sesgos peligrosos que produce la IA
Esta advertencia preventiva resulta esencial para la recta comprensión y la regulación de la IA y se refleja en los apartados siguientes de la Encíclica:
“100. A la luz de cuanto se ha dicho, podemos comprender mejor por que la IA puede ser una valiosa ayuda y, al mismo tiempo, exija un enfoque prudente y cauteloso. En los últimos anos su uso privado ha crecido notablemente, y desde distintos ámbitos se reflexiona sobre las oportunidades y los riesgos vinculados a su rápida difusión. En el uso personal, tres aspectos, en particular, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana. La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad. La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos. La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal. Cuando la palabra es simulada, esta no construye una relación, sino una apariencia. La imitación artificial de la relación de cuidado o de acompanamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que esta hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro”.
En este momento, el lector nos permitirá traer a colación dos riesgos de la IA que hemos bautizado con los neologismos de “IApendencia” y la “IAdicción” en los términos siguientes: “En los últimos tiempos, la psicología social de las sociedades desarrolladas muestra un nuevo síndrome patológico que cursa como enfermedad leve como “IApendencia” (“necesidad compulsiva de la IA para experimentar sus efectos o calmar el malestar producido por su privación”) o grave como “IAdicción” (“dependencia de la IA que opera como actividad nociva para la salud o el equilibrio psíquico”) que afecta principalmente a los jóvenes que depositan en las aplicaciones de IA -como el ChatGPT- unas expectativas para las que no están diseñadas ni son su finalidad, como por ejemplo, servir de confidentes médicos, alimenticios o sentimentales, y que pueden conducir a su alienación por su propia capacidad de manipular los sentimientos. neologismos que hemos creado y que vienen al caso”.
El lector interesado en los sistemas de IA de riesgo inaceptable, fundamentalmente debido a sus sesgos biométricos y conductuales; y, por lo tanto, prohibidos por el artículo 5 de la LEIA puede consultar nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida en su pág.67 y ss.)
c) El oligopolio de los gigantes tecnológicos desarrolladores de la IA y sus consecuencias
Esta perspectiva de la competencia empresarial, esencial en toda regulación de la IA que aspire a su buen gobierno, encuentra eco en los apartados 108 y 109 de la Encíclica cuando nos dicen:
“108. En efecto, como ocurre con todo gran avance tecnológico, la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. A la luz del bien común y del destino universal de los bienes, este fenómeno suscita seria preocupación: pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos. Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad; las comunidades y los cuerpos intermedios no pueden ser reducidos a destinatarios de decisiones tomadas en otros lugares, sino que deben poder contribuir al discernimiento y a la vigilancia. Además, la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. Estos son fruto del aporte de muchos y no pueden ser vendidos o confiados a unos pocos. Hace falta una creatividad capaz de gestionarlos como uno de los bienes comunes o colectivos, en la lógica del compartir, como ya sugería san Juan Pablo II a propósito de los bienes colectivos.
109. Los principios de la Doctrina social nos ayudan a leer esta nueva realidad. En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA. Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos. Hablar de justicia pide cuestionar las geografías del poder que definen quién puede programar los modelos y quién es sólo objeto de esa programación, y reconocer que la justicia social no es sólo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño”.
Esta referencia nos parece particularmente acertada desde el momento en el que el mercado de la IA se nos presenta como un oligopolio de los gigantes tecnológicos con sus consecuencias negativas en forma de conductas restrictivas de la sana competencia ya sean concertadas o abusivas, con daños, en ambos casos, para los usuarios y los inversores.
(El lector interesado puede consultar nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida en su págs.7 y ss.)
d) El control público de la IA
El control público de la IA es la pieza que completa su regulación y garantiza su cumplimiento. Es por ello por lo que este control, esencial en toda regulación de la IA que aspire a su buen gobierno, encuentra eco en el apartado 95 de la Encíclica que nos dice:
“95. Aquí es necesario reconocer un aspecto decisivo, que ya he mencionado antes: en muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación. Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades. 96. Frente a esta concentración de poder en el mundo digital, los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario: la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. Estos principios exigen verificar si el poder de las infraestructuras digitales y de los algoritmos favorece realmente la participación y la responsabilidad, protege a los más vulnerables, asegura un acceso equitativo a las oportunidades y se ordena al bien de todos. Con estas premisas podemos entonces considerar más de cerca qué es la inteligencia artificial, qué posibilidades abre y qué riesgos comporta”.
En relación con lo dicho por la Encíclica, resulta pertinente recordar que la segunda fase del funcionamiento de los sistemas de IA por la LEIA reside en su supervisión y abarca, en primer lugar, su régimen de transparencia, donde procede distinguir entre las obligaciones de transparencia que se imponen a los proveedores y a los responsables del despliegue de determinados sistemas de IA; amén de identificar determinados factores regulatorios comunes a dichas obligaciones de transparencia. El segundo aspecto de supervisión del funcionamiento de los sistemas de IA por la LEIA reside en su gobernanza que se articula en un doble nivel de las autoridades nacionales encargadas de garantizar el cumplimiento de la LEIA y de las autoridades de la UE, comenzando por la propia Comisión y siguiendo por los organismos especiales de la UE en materia de IA, como son la Oficina de IA, el Comité Europeo de Inteligencia Artificial, la Comisión Técnica Científica y el Foro Consultivo.
(El lector interesado puede consultar el capítulo 5, pág.96 y ss., de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida)
Únicamente nos parece oportuno recordar que los riesgos de abuso de la IA no solo proceden de las empresas privadas que, en los Estados democráticos y con los oportunos controles, la desarrollan; sino también, y en mayor medida, de las empresas de los Estados totalitarios que están perfeccionando hasta límites insospechados la IA generativa con fines de control de sus propios ciudadanos y espionaje de los países libres. A estos efectos, nos parece pertinente recordar que, en el contexto internacional, cabe diferenciar cuatro modelos de regulación de la IA que son: a) El modelo europeo de regulación imperativa unificada basado en la Ley Europea de Inteligencia Artificial (LEIA) (Reglamento (UE) 2024/1689), por el que se establecen normas armonizadas en materia de inteligencia artificial. b) El modelo chino de control estatal basado, desde el año 2022, en tres clases de mecanismos de intervención contundente: la regulación de los algoritmos, las reglas contra los -supuestos- bulos y un sistema sofisticado de autorizaciones públicas. c) El modelo de algunos miembros del G7, de adhesión voluntaria a determinados Códigos de Conducta. d) El modelo estadounidense de regulación dispersa mediante leyes de algunos Estados, ordenes ejecutivas del Presidente, guías de algunas agencias federales y controles de exportación de chips. La Orden ejecutiva de 11 de diciembre de 2025 del Presidente de los EEUU sobre la Inteligencia Artificial impacta sobre este último modelo para desregularlo, liberalizarlo y evitar la atomización de las leyes estatales”.
(El lector interesado puede consultar el capítulo 2, pág.26 y ss., de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida)
e) La responsabilidad de los desarrolladores y usuarios de la IA
El binomio clásico de poder y responsabilidad que nos dice que el crecimiento del primero debe venir acompañado de una superior exigencia de la segunda (a mayor poder, mayor responsabilidad) encuentra su más cumplida aplicación en el territorio de la IA. Por ello, este binomio no podía estar ausente de la Encíclica, que le dedica una especialísima atención en los siguientes apartados 102 y ss. que forman parte del epígrafe dedicado a la “Responsabilidad, transparencia y gobernanza de la IA”:
“105. Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado pueden ser poco transparentes, y eso hace más difícil atribuir responsabilidades y corregir los errores. Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad” (accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas.
106. Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana. Esta exigencia es aún más urgente porque existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos. No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea. De otro modo, el cambio será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo”.
(El lector interesado puede consultar el capítulo 7, pág.129 y ss., de nuestra monografía sobre “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024” antes referida)
Bibliografía: Tapia, A.J. “La Ley Europea de Inteligencia Artificial. Reglamento (UE) 2024/1689 de 13 de junio de 2024”, Ed. American Publishers Inc ((226 páginas, ISBN-10 1972989502, ISBN-13 978-1972989500, disponible en AMAZON en versión Kindle y tapa blanda) a la que nos referimos en la entrada de esta mismo blog del pasado 18 de mayo de 2026: