Close

Digitalización financiera: Los 7 principios regulatorios de una Inteligencia Artificial Ética (IAE) en la UE. Resolución del Parlamento Europeo de 20 de octubre de 2020 sobre los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas

La pandemia del COVID 19, la digitalización financiera, la inteligencia artificial y la responsabilidad de los operadores financieros

Tanto en este blog como fuera de él venimos insistiendo -desde el inicio mismo de la pandemia del COVID 19- que resulta necesario y urgente hacer una reflexión en profundidad sobre cómo será el mundo posterior a esta pandemia que nos asola y, en particular, como será el sistema financiero cada vez más global. Y, en este proceso reflexivo, la atenta observación de la realidad nos ha venido confirmando que la crisis causada por el COVID 19 ha operado como una suerte de acelerador –trágico- de los dos vectores esenciales que ya venían determinando el presente y determinarán, desde ahora y con mayor razón y urgencia, el futuro del mercado financiero: la sostenibilidad y la digitalización. Veremos como la conexión directa entre ambos vectores se manifiesta en el Considerando D del Informe del Parlamento Europeo de 20 de octubre de 2020 sobre los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas del que nos ocupamos en detalle más adelante.

En cuanto a la digitalización, en un mundo que ha obligado a confinar y alejar físicamente a unas personas de otras, la digitalización de nuestro ocio y de nuestro trabajo se impondrá como una auténtica “ley de hierro” que ha pasado de ser una oportunidad a convertirse en una necesidad inaplazable. En particular, el mercado financiero operará básicamente a través de las tecnofinanzas (Fintech) y los tecnoseguros (Insurtech).

Si damos un paso más en nuestro proceso discursivo, hemos de constatar que la inteligencia artificial es el instrumento principal de la digitalización financiera, como sucede, por ejemplo, con los algoritmos que sustentan los denominados “contratos inteligentes” (“smart contracts”) o autoejecutables.

Y la reflexión pertinente que viene a continuación, desde el punto de vista jurídico-regulatorio, nos debe llevar a la eventual responsabilidad -civil, administrativa o criminal- que puede derivar para de los operadores financieros de la aplicación la inteligencia artificial en el proceso de digitalización.

Documentos de la UE sobre inteligencia artificial y responsabilidad

En particular, en este blog nos hemos ocupado de los documentos producidos en los últimos años por las Instituciones de la UE que interesan a la responsabilidad derivada del uso de la inteligencia artificial en el mercado financiero, como han sido la Comunicación de la Comisión Europea de 8 de abril de 2019 y el Informe del Grupo de Expertos de la Comisión Europea de 2019. Con ocasión de su comentario, nos hemos referido, a la importancia de la inteligencia artificial (IA) en el mercado financiero y a dos fenómenos particularmente relevantes -desde el punto de vista jurídico o regulatorio- que son, por una parte, la paradoja de la trasparencia digital; y, por otra parte, el mito de los algoritmos neutrales (ver la nota final de esta entrada).

Resoluciones del Parlamento Europeo de 20 de octubre de 2020 sobre la inteligencia artificial y la responsabilidad asociada

En esta entrada y en la siguiente haremos referencia sintética a las dos Resoluciones del Parlamento Europeo (PE) de 20 de octubre de 2020 siguientes:

a) La Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)) que lleva por título “Marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas” (P9_TA-PROV(2020)0275). A ella nos referimos seguidamente.

b) La Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL)) que lleva por título “Régimen de responsabilidad civil en materia de inteligencia artificial” (P9_TA-PROV(2020)0276). A ella nos referiremos en la entrada que publicaremos mañana D.m.

La Resolución del Parlamento Europeo de 20 de octubre de 2020 sobre los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (Resolución sobre la Inteligencia Artificial Ética, RIAE)

Elementos de la Propuesta del PE sobre la Inteligencia Artificial Ética

Esta RIAE articula una propuesta del PE que consta de los siguientes elementos: un «Reglamento sobre principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas»; el papel de coordinación a escala de la Unión por parte de la Comisión o cualquier institución, órgano u organismo pertinente de la Unión que pueda designarse en este contexto y una certificación europea de conformidad ética; el papel de apoyo de la Comisión Europea; etc. (ver los “principios y objetivos de la propuesta solicitada” en el Anexo a la Resolución sobre las “Recomendaciones detalladas respecto al contenido de la propuesta solicitada”).

En particular la propuesta de Reglamento sobre principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas aneja a la RIAE señala que “tiene por objeto establecer un marco regulador de la Unión, global y con visión de futuro, de principios éticos y obligaciones jurídicas para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas en la Unión” (art.1).

Aspectos de la RIAE predicables del mercado financiero en especial

Esta RIAE se refiere, en general, a los aspectos éticos de la inteligencia artificial e incide, en especial, sobre algunos aspectos particularmente relevantes para la regulación de la digitalización financiera. Entre estos aspectos predicables, en especial, del mercado financiero podemos destacar los siguientes:

a) La inteligencia artificial antropocéntrica y antropogénica, cuando dice, en su introducción: “Considerando que los seres humanos son quienes desarrollan, despliegan y utilizan la inteligencia artificial, la robótica y las tecnologías conexas, y que sus elecciones determinan el potencial de dichas tecnologías para beneficiar a la sociedad” y añade: “Considerando que la inteligencia artificial, la robótica y las tecnologías conexas que tienen potencial para generar oportunidades para las empresas y beneficios para los ciudadanos y que pueden tener un impacto directo en todos los aspectos de nuestras sociedades, incluidos los derechos fundamentales y los valores y principios sociales y económicos, así como tener una influencia duradera en todos los ámbitos de actividad, se están fomentando y desarrollando con gran rapidez”.

b) Impacto en el mercado laboral, cuando dice, en su introducción: “Considerando que la inteligencia artificial, la robótica y las tecnologías conexas conducirán a cambios sustanciales en el mercado laboral y en el lugar de trabajo; que pueden llegar a sustituir a trabajadores que realizan actividades repetitivas”.

c) Enfoque holístico y de riesgo, cuando dice, en su introducción: “Considerando que el ámbito del marco regulador de la Unión para la inteligencia artificial ha de ser adecuado y proporcionado y debe ser objeto de una minuciosa evaluación; que, si bien debe abarcar una amplia gama de tecnologías y componentes de estas, incluidos los algoritmos, los programas informáticos y los datos utilizados o producidos por dichas tecnologías, es necesario un enfoque específico basado en el riesgo para evitar que se obstaculicen las innovaciones en el futuro y se creen cargas innecesarias, especialmente para las pymes” y añade: “Considerando que la variedad de aplicaciones que se basan en la inteligencia artificial, la robótica y las tecnologías conexas hace difícil alcanzar una solución única que resulte adecuada para toda la gama de riesgos».

d) Regulación a nivel europeo imprescindible, cuando dice, en su introducción: “Considerando que tal marco regulador reviste una importancia fundamental a la hora de evitar la fragmentación del mercado interior resultante de las divergencias entre legislaciones nacionales y contribuirá a fomentar las tan necesarias inversiones, a desarrollar infraestructuras de datos y a apoyar la investigación; que debe consistir en obligaciones jurídicas comunes y principios éticos, tal como se establecen en la propuesta de Reglamento solicitada en el anexo a la presente Resolución; que se debe crear de conformidad con las directrices para la mejora de la legislación” y añade: “Considerando que, además de las adaptaciones de la legislación vigente, las cuestiones de carácter ético y jurídico relacionadas con la inteligencia artificial deben abordarse a través de un marco regulador del Derecho de la Unión efectivo, global y con visión de futuro que refleje los principios y valores de la Unión consagrados en los Tratados y en la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta»), que evite el exceso de regulación, se limite a subsanar las lagunas jurídicas existentes y aumente la seguridad jurídica para las empresas y para los ciudadanos, incluyendo en particular medidas de carácter obligatorio al objeto de evitar prácticas que irían sin duda alguna en menoscabo de los derechos fundamentales”.

Los 7 principios regulatorios de una Inteligencia Artificial Ética (IAE) en la UE

Podemos identificar en esta Resolución sobre la Inteligencia Artificial Ética (RIAE) 7 principios regulatorios básicos relacionados con la digitalización financiera que son:

a) Control de riesgos

Este primer enfoque regulatorio resulta especialmente sensible para la digitalización financiera -porque recordemos que el mercado financiero es un mercado que gestiona riesgos futuros (por ejemplo, en su sector asegurador o del mercado de valores)- se manifiesta en varias partes de la RIAE. Así, el PE “hace hincapié en que toda futura regulación ha de seguir un enfoque basado en el riesgo y orientado al futuro para regular la inteligencia artificial, la robótica y las tecnologías conexas, con normas tecnológicamente aplicables a todos los sectores y con normas sectoriales cuando proceda; señala que, a fin de garantizar la aplicación uniforme del sistema de evaluación de riesgos y el respeto de las obligaciones jurídicas conexas para asegurar la igualdad de condiciones entre los Estados miembros y prevenir la fragmentación del mercado interior, es necesaria una lista exhaustiva y acumulativa de sectores de alto riesgo y de usos o fines de alto riesgo; subraya que tal lista debe someterse a una reevaluación periódica«.

En concreto, el PE “considera que, para determinar si la inteligencia artificial, la robótica y las tecnologías conexas deben considerarse de alto riesgo y, por lo tanto, estar sujetas al obligado cumplimiento de las obligaciones jurídicas y los principios éticos tal como se establecen en el marco regulador para la inteligencia artificial, es necesario basarse siempre en una evaluación ex ante imparcial, regulada y externa apoyada en criterios concretos y definidos (…) que, a este respecto, la inteligencia artificial, la robótica y las tecnologías conexas deben considerarse de alto riesgo cuando su desarrollo, despliegue y uso entrañen un riesgo significativo de causar lesiones o daños a particulares o a la sociedad, vulnerando los derechos fundamentales y las normas de seguridad establecidas en el Derecho de la Unión; considera que, a efectos de evaluar si las tecnologías de inteligencia artificial entrañan un riesgo de ese tipo, deben tenerse en cuenta el sector en el que se desarrollan, despliegan o utilizan, su uso o finalidad específicos y la gravedad de la lesión o daño que cabe esperar que se produzca; opina que los criterios primero y segundo, es decir el sector y el uso o finalidad específicos, deben considerarse de forma acumulativa; (…) subraya que la evaluación de riesgos de estas tecnologías debe efectuarse sobre la base de una lista exhaustiva y acumulativa de sectores de alto riesgo y de usos o fines de alto riesgo; se muestra firmemente convencido de que debe haber coherencia dentro de la Unión en lo que respecta a la evaluación de riesgos de estas tecnologías, especialmente cuando se evalúan a la luz de su conformidad con el marco regulador para la inteligencia artificial y de conformidad con cualquier otra legislación sectorial aplicable” (apartado 12 y ss.).

b) Seguridad, transparencia y rendición de cuentas

Este segundo principio regulatorio relevante para la digitalización financiera -porque recordemos que el mercado financiero es, en esencia, un mercado cibernético cuya materia prima última es la información- se manifiesta en varios apartados de esta RIAE cuando el PE “recuerda que el derecho a la información de los consumidores constituye un principio fundamental en virtud del Derecho de la Unión, y subraya que, en consecuencia, debe respetarse plenamente en relación con la inteligencia artificial, la robótica y las tecnologías conexas; opina que ello ha de incluir en particular la transparencia en lo que respecta a la interacción con los sistemas de inteligencia artificial, incluidos los procesos de automatización, y en cuanto a su modo de funcionamiento, sus capacidades, por ejemplo la manera en que se filtra y presenta la información, su exactitud y sus limitaciones; considera que dicha información debe ser facilitada a las autoridades nacionales de control y a las autoridades nacionales de protección de los consumidores” (apartado 17 y ss.).

c) Igualdad

Este tercer principio regulatorio relacionado para la digitalización financiera (por ejemplo, en la selección de asegurados por las entidades aseguradoras) también se manifiesta en varios apartados de esta RIAE cuando el PE se refiere a una regulación “sin sesgo y sin discriminación” y “recuerda que la inteligencia artificial, dependiendo de su desarrollo y de su uso, puede crear y reforzar sesgos, también a través de sesgos inherentes a los conjuntos de datos subyacentes, y, por lo tanto, crear diversas formas de discriminación automatizada, incluida la discriminación indirecta, en particular en relación con grupos de personas con características similares; pide a la Comisión y a los Estados miembros que adopten todas las medidas posibles para evitar tales sesgos y para garantizar la plena protección de los derechos fundamentales” (apartado 27 y ss.).

d) Responsabilidad

Este cuarto principio regulatorio especialmente sensible para la digitalización financiera se manifiesta en dos formas:

d.1) En una forma genérica de responsabilidad social, donde las entidades financieras juegan un rol de liderazgo, cuando esta RIAE se refiere a la “responsabilidad social y paridad de género” y recoge que el PE “hace hincapié en que la inteligencia artificial, la robótica y las tecnologías conexas socialmente responsables tienen un papel que desempeñar en la búsqueda de soluciones que salvaguarden y promuevan los valores fundamentales de nuestra sociedad, como la democracia, el Estado de Derecho, la pluralidad e independencia de los medios de comunicación y una información objetiva y de libre acceso, la salud y la prosperidad económica, la igualdad de oportunidades, los derechos sociales y laborales de los trabajadores, una educación de calidad, la protección de la infancia, la diversidad cultural y lingüística, la paridad de género, la alfabetización digital, la innovación y la creatividad; recuerda la necesidad de velar por que los intereses de todos los ciudadanos, incluidos los que están marginados o en situación de vulnerabilidad, como las personas con discapacidad, sean tenidos en cuenta y estén representados debidamente (…) Subraya la importancia que reviste conseguir un alto nivel de alfabetización digital general y formar profesionales altamente cualificados en este ámbito, así como garantizar el reconocimiento recíproco de estas formaciones en toda la Unión; hace hincapié en la necesidad de contar con diversos equipos de desarrolladores e ingenieros que trabajen conjuntamente con los principales agentes de la sociedad, a fin de evitar que los sesgos culturales y de género se incluyan involuntariamente en los algoritmos, sistemas y aplicaciones de la inteligencia artificial; apoya la creación de programas educativos y actividades de sensibilización pública en torno al impacto social, jurídico y ético de la inteligencia artificial» (apartado 37 y ss.).

d.2) En una forma específica de responsabilidad civil, donde las entidades financieras deben garantizar la cobertura por los daños que puedan causar a su clientela a resultas del empleo de la inteligencia artificial (por ejemplo, los daños exigibles a un banco por ejecución errónea de servicios de pagos digitales). En este punto, nos remitimos a la Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial (2020/2014(INL), a la que nos referiremos en la entrada siguiente de este blog.

e) Sostenibilidad

Este quinto principio regulatorio especialmente sensible para la digitalización financiera destaca la conexión directa entre los dos vectores esenciales de la regulación financiera a los que nos referimos al comienzo de esta entrada (digitalización y sostenibilidad) que se manifiesta desde el Considerando D de esta RIAE cuando el PE dice: “el desarrollo de la inteligencia artificial, la robótica y las tecnologías conexas puede contribuir asimismo a alcanzar los objetivos de sostenibilidad del Pacto Verde Europeo en gran diversidad de sectores; que las tecnologías digitales pueden potenciar el impacto de las políticas en la protección medioambiental; que también pueden contribuir a reducir la congestión del tráfico y las emisiones de gases de efecto invernadero y de contaminantes atmosféricos”.

Insiste esta RIAE más adelante cuando se refiere al “medio ambiente y sostenibilidad” y señala que el PE “afirma que los gobiernos y las empresas deben utilizar la inteligencia artificial, la robótica y las tecnologías conexas para beneficiar a las personas y al planeta y contribuir a la consecución del desarrollo sostenible, la conservación del medio ambiente, la neutralidad climática y los objetivos de la economía circular; considera que el desarrollo, el despliegue y el uso de estas tecnologías deben contribuir a la transición verde, proteger el medio ambiente y minimizar y reparar los daños causados al medio ambiente durante su ciclo de vida y a lo largo de toda la cadena de suministro, en consonancia con el Derecho de la Unión”.

f) Gobernabilidad

Este sexto principio regulatorio de la IAE especialmente relacionado con la digitalización financiera se manifiesta en esta RIAE cuando el PE se refiere a la “buena gobernanza” diciendo que el PE “hace hincapié en que una gobernanza adecuada del desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas, especialmente las tecnologías de alto riesgo, también mediante la adopción de medidas centradas en la rendición de cuentas y el tratamiento de los posibles riesgos de sesgo y discriminación, puede hacer que aumente la seguridad y la confianza de los ciudadanos en dichas tecnologías” (apartado 72 y ss.)

g) Protección de los consumidores

Este séptimo principio regulatorio de la IAE relacionado con la digitalización financiera se manifiesta en esta RIAE cuando el PE se refiere a los “consumidores y mercado interior” diciendo: “subraya la importancia de que haya un marco regulador para la inteligencia artificial que se aplique en aquellos casos en que los consumidores, dentro de la Unión, sean usuarios de un sistema algorítmico, estén sujetos a tal sistema, sean los destinatarios de tal sistema o estén orientados a él, independientemente del lugar en que estén establecidas las entidades que desarrollen, comercialicen o utilicen dicho sistema; estima además que, en aras de la seguridad jurídica, las normas establecidas en dicho marco deben aplicarse a todos los desarrolladores y a toda la cadena de valor, a saber, el desarrollo, el despliegue y el uso de las tecnologías pertinentes y sus componentes, y deben garantizar un alto nivel de protección de los consumidores” (apartado 78 y ss.).

La Certificación Europea de Conformidad Ética

En la RIAE ofrece un particular interés esta Certificación Europea de Conformidad Ética (CECA) de la que señala que el PE “propone que, en el marco de la coordinación al nivel de la Unión, se elaboren criterios comunes y un procedimiento de solicitud para la concesión de un certificado europeo de conformidad ética, también a raíz de una solicitud de cualquier desarrollador, desplegador o usuario de tecnologías no consideradas de alto riesgo que desee certificar la evaluación positiva de la conformidad que haya llevado a cabo la autoridad nacional de control correspondiente (…) Considera que este certificado europeo de conformidad ética fomentaría la ética por diseño a lo largo de toda la cadena de suministro de los ecosistemas de inteligencia artificial; sugiere, por tanto, que esta certificación pueda ser, en el caso de las tecnologías de alto riesgo, un requisito previo obligatorio para la admisibilidad en los procedimientos de contratación pública sobre inteligencia artificial, robótica y tecnologías conexas” (apartado 135 y ss.).

Nota bibliográfica: El lector interesado puede ver las entradas de este blog de 18 de junio de 2019 sobre “Los siete requisitos esenciales para una inteligencia artificial fiable. Comunicación de la Comisión Europea de 8 de abril de 2019”; de 14 de enero de 2020 sobre “Responsabilidad derivada del uso de la inteligencia artificial. Informe del Grupo de Expertos de la Comisión Europea de 2019 (1). Características esenciales de los regímenes de responsabilidad derivada de la inteligencia artificial y el uso de otras tecnologías digitales”; de 15 de enero de 2020 sobre “Responsabilidad derivada de la inteligencia artificial en los mercados financieros. Informe del Grupo de Expertos de la Comisión Europea de 2019 (2) Cobertura preventiva de responsabilidad mediante los seguros de responsabilidad civil y los fondos de compensación”.