En la web de la CNMV del pasado mes de junio se publicó un anuncio sobre la “Consulta pública sobre la utilización de inteligencia artificial en el sector financiero” que hacía la Comisión Europea con un plazo límite para las eventuales respuestas del 13 de septiembre de 2024. Damos cuenta telegráfica del documento, dada su relevancia para el futuro inmediato del mercado financiero y su renovada actualidad a la vista de la publicación, en el DOUE del pasado viernes 12 de julio, del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) (RIA).
A) La referencia del anuncio de la CNMV a la Consulta pública de la Comisión Europea
Resulta de utilidad comenzar refiriéndonos al anuncio de la CNMV sobre la “Consulta pública de la Comisión Europea sobre la utilización de inteligencia artificial en el sector financiero” que identifica 5 aspectos particularmente relevantes que son:
a) Destinatarios
Sus destinatarios son todas las partes interesadas del sector financiero, incluidas empresas y asociaciones de consumidores; añadiendo que la Comisión espera recibir, en particular, las opiniones de empresas del sector financiero que prestan o utilizan servicios con sistemas de inteligencia artificial (IA).
b) Finalidad y contenido
El objetivo de la consulta que consiste en recabar información por parte de los servicios de la Comisión sobre la aplicación y el impacto de la IA en los servicios financieros a la luz del desarrollo de su práctica en estos. Este muestreo empírico resultará de especial utilidad porque las respuestas facilitarán el análisis del desarrollo y riesgo de mercado relacionado con la IA para la implementación del RIA en el sector financiero. Es por ello por lo que la consulta está centrada en los objetivos del acervo vigente del sector financiero ya que el RIA no pretende el desarrollo de otros objetivos legislativos en dicho sector; como, por ejemplo, pudiera ser el de la competitividad; sino que limita sus propósitos a la mejora de la implementación efectiva del marco regulatorio vigente en el sector financiero.
La metodología de la consulta abarca tanto respuestas con varias opciones como preguntas de desarrollo.
El cuestionario consta de tres partes: La primera, constituida por preguntas de tipo general sobre el desarrollo de la IA, la segunda, con preguntas relativas a casos prácticos del sector financiero y la tercera, sobre el impacto del RIA en el sector financiero.
c) Concepto de sistema de IA
Como no podía ser de otro modo, la consulta parte de la base de la definición de sistema de IA sita en el art.3.1) del RIA como “un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales”.
Recordamos a los lectores de este blog, por si les fuera de alguna utilidad, que nos hemos permitido la licencia recurrir a la metáfora del alambique instrumental para definir la inteligencia artificial. De modo tal que, adaptando la definición de alambique que nos ofrece el Diccionario de la RAE como “utensilio que sirve para destilar una sustancia volátil, compuesto fundamentalmente de un recipiente para calentar el líquido y de un conducto por el que sale la sustancia destilada”; concluimos definiendo ideográficamente los sistemas de IA como “sistemas que procesan grandes cantidades de datos o información bruta que se alojan en el canal de entrada para generar -mediante un método de transformación algorítmica que le permite interactuar con su entorno y aprender en consecuencia- un producto de información neta o destilada” (utilizamos esta metáfora, por última vez, en la entrada de este blog del pasado día 1 de julio de 2024 sobre los “Riesgos y oportunidades de la aplicación de los sistemas de inteligencia artificial en la actividad bancaria. Ponencia en el Congreso “La normativa europea sobre inteligencia artificial a debate” celebrado los días 27 y 28 junio de 2024 en la Universidad de Las Palmas de Gran Canaria”
d) Respuestas
Tras advertir que el plazo de finalización de la consulta es el 13 de septiembre de 2024, el anuncio de la CNMV incluye un ruego de que se le remita copia de las respuestas remitidas por correo electrónico a la siguiente dirección: documentosinternacional@cnmv.es o por correo ordinario a la siguiente dirección: Dirección de Asuntos Internacionales, CNMV, c/ Edison 4, 28006 Madrid
e) Resultados
La CNMV señala que “en función del progreso realizado, la Comisión publicará un informe con los resultados y el análisis de las principales tendencias y problemas surgidos del uso de las aplicaciones de IA en los servicios financieros”.
B) El Documento de Consulta pública de la Comisión Europea sobre la utilización de inteligencia artificial en el sector financiero
B.1) Las consideraciones introductorias sobre el uso de los sistemas de IA en el sector financiero: el enfoque riesgo/beneficio
El Documento de Consulta pública sobre la utilización de inteligencia artificial en el sector financiero publicado por la Comisión Europea (“Consultation document. Targeted consultation on artificial intelligence in the financial sector”. European Commission. Directorate-general for financial stability, financial services and capital markets Union. Horizontal policies. Digital finance) incluye, en su Introducción, algunas consideraciones sobre el uso de los sistemas de IA en el sector financiero, conforme al enfoque de análisis riesgo/beneficio, que nos parecen interesantes. En tal sentido comienza diciendo que “en los servicios financieros y fuera de ellos, existe una amplia tendencia impulsada por la tecnología hacia un mayor uso de la IA. La Comisión destacó la necesidad de una consulta específica sobre el uso de la IA en los servicios financieros. El objetivo es identificar los principales casos de uso y los beneficios, obstáculos y riesgos relacionados con el desarrollo de aplicaciones de IA en el sector financiero”. En términos generales dice que “la Ley de IA está concebida para complementar el acervo ya existente en materia de servicios financieros, que, aunque no está explícitamente dirigido a regular la IA, constituye un marco importante para gestionar los riesgos conexos en aplicaciones específicas e incluye varios requisitos pertinentes para las entidades financieras a la hora de prestar servicios financieros. Para ello, persigue objetivos que garanticen la salud de los mercados financieros, como la transparencia, la integridad del mercado, la protección de los inversores y la estabilidad financiera. Por ejemplo, cuando prestan servicios de inversión, incluso mediante el uso de IA, como los algoritmos de negociación, las empresas de inversión deben cumplir el marco MIFID/R y las normas sobre abuso de mercado”.
B.2) Las preguntas generales sobre el uso de los sistemas de IA en el sector financiero
De entre las 32 preguntas generales sobre las aplicaciones de la IA en los servicios financieros que formula la Parte 1 (pág.5 y ss.) del El Documento de Consulta, nos parece particularmente interesantes las que constatan el enfoque de análisis del tipo riesgo/beneficio subyacente de tal manera que:
a) Beneficios
La Pregunta 7 señala: “por favor, puntúe los siguientes beneficios de más significativo (10) a menos significativo”; beneficios que podemos clasificar en las tres categorías siguientes:
a.1) Beneficios Tecnológicos
a.1.1) Automatización de tareas rutinarias: La IA puede automatizar tareas repetitivas como la introducción de datos, el procesamiento de transacciones y la verificación de documentos, liberando tiempo para que los empleados se centren en actividades más complejas y estratégicas.
a.1.2) Mejora de la toma de decisiones: La IA puede analizar grandes cantidades de datos y proporcionar perspectivas que pueden ayudar a las instituciones financieras a tomar mejores decisiones de inversión, evaluar los riesgos crediticios y optimizar sus operaciones.
a.1.3) Mejora de la seguridad: La IA puede mejorar las medidas de seguridad identificando posibles amenazas a la seguridad, detectando patrones de comportamiento inusuales y proporcionando alertas en tiempo real para evitar brechas de seguridad.
a.2) Beneficios Económicos
a.2.1) Gestión de riesgos: La IA puede analizar y predecir las tendencias del mercado, evaluar los riesgos crediticios e identificar posibles oportunidades de inversión, ayudando a las instituciones financieras a tomar decisiones más informadas y gestionar los riesgos de manera más eficaz.
a.2.1) Ahorro de costes: al automatizar los procesos y mejorar la eficiencia, la IA puede ayudar a las instituciones financieras a reducir los costes operativos.
a.2.2) Asesoramiento financiero personalizado: La IA puede analizar los datos de los clientes para proporcionar asesoramiento y recomendaciones financieras personalizadas, ayudando a los clientes a tomar mejores decisiones financieras y mejorar su bienestar financiero.
a.2.3) Mejora del servicio al cliente: La IA se puede utilizar para ofrecer un servicio de atención al cliente personalizado y eficiente, como los chatbots que pueden responder a las consultas de los clientes y proporcionar asistencia las 24 horas del día, los 7 días de la semana
a.3) Beneficios Jurídicos
a.3.1) Detección de fraudes: Los algoritmos de IA pueden analizar grandes cantidades de datos para detectar patrones y anomalías que puedan indicar actividades fraudulentas, ayudando a reducir las pérdidas financieras de empresas y clientes.
a.3.2) Cumplimiento y apoyo normativo: La IA puede ayudar a las instituciones financieras a cumplir la normativa analizando e interpretando los complejos requisitos reglamentarios y supervisando las transacciones para detectar actividades sospechosas.
b) Riesgos
La Pregunta 9 señala: “por favor, puntúe los siguientes los siguientes retos y riesgos del más importante (10) al menos importante”; retos y riesgos que podemos clasificar en las tres categorías siguientes:
b.1) Riesgos Tecnológicos
b.1.1) Falta de acceso a los datos necesarios, en general.
b.1.2) Falta de acceso a los datos en un formato digital adecuado.
b.1.3) Falta de acceso a la tecnología de tratamiento de datos adecuada, por ejemplo, la computación en nube.
b.1.4) Déficit de competencias: el desarrollo de la IA requiere competencias tecnológicas específicas, que escasean.
b.1.5) Ciberseguridad: Los sistemas de IA podrían ser objetivo de los ciberdelincuentes, lo que daría lugar a posibles violaciones de datos o a la manipulación de los sistemas de IA.
b.1.6) Dificultades de integración: la integración de las tecnologías de IA en los sistemas y procesos existentes puede resultar compleja y costosa
b.2) Riesgos Económicos
b.2.1) Falta de confianza en relación con los niveles de rendimiento/ aspectos de seguridad/ soluciones certificadas/ fiabilidad de la tecnología.
b.2.2) Innovación: la capacidad de aprovechar la combinación de la IA con otras tecnologías para mejorar su potencial y generar nuevos servicios.
b.2.3) Riesgos de reputación derivados de comportamientos o resultados indeseables de la IA.
b.2.4) Fiabilidad: a medida que las instituciones financieras confían cada vez más en la IA, la fiabilidad de estos sistemas se convierte en primordial. Cualquier fallo o error (por ejemplo, en la gestión de riesgos) puede provocar importantes pérdidas financieras.
b.2.5) Desplazamiento de puestos de trabajo: el uso de la IA puede llegar a automatizar determinadas funciones del sector financiero, lo que provocaría el desplazamiento de puestos de trabajo.
b.2.6) Coste adicional: el despliegue y uso de la IA requiere una inversión inicial y recursos continuos (adquisición o desarrollo de aplicaciones, mantenimiento de las mismas actualizadas, formación/cualificaciones).
b.3) Riesgos Jurídicos
b.3.1) Privacidad de los datos: es crucial garantizar la confidencialidad de la información financiera sensible.
b.3.2) Cumplimiento de la normativa financiera: los servicios financieros están muy regulados y no todos los tipos de aplicaciones de IA se ajustan a los requisitos de esta normativa.
b.3.3) Transparencia y explicabilidad: Los algoritmos de IA pueden ser complejos y opacos. Puede ser difícil para los humanos entender cómo la IA llega a determinadas conclusiones, lo que puede crear problemas de confianza y responsabilidad.
b.3.4) Sesgo y discriminación: Los modelos de IA se entrenan utilizando datos, y si los datos están sesgados, el modelo de IA también puede estar sesgado, lo que lleva a resultados injustos.
b.3.5) Riesgos de responsabilidad: inseguridad jurídica sobre quién asume la responsabilidad en caso de daños generados por el mal funcionamiento de las aplicaciones de IA.
B.3) Las preguntas especiales sobre el uso de los sistemas de IA en los diferentes ámbitos del mercado financiero
La Parte 2 (pág.11 y ss.) del Documento de Consulta formula las preguntas relacionadas con casos de uso específicos en los servicios financieros diferenciando cinco sectores que son: banca y pagos, infraestructuras de mercado, mercados de valores, seguros y pensiones, gestión de activos y otros sectores. Por nuestra parte, para mayor claridad nos referiremos a las preguntas de los tres sectores clásicos en los que se fragmenta la regulación vigente de los mercados financieros en la UE que son:
B.3.1) Mercado bancario
Las preguntas referidas a la “banca y pagos” (pág.11 y ss.) comienzan con una breve presentación que dice: “En la banca, los posibles casos de uso de la IA van desde la evaluación del riesgo crediticio y la calificación crediticia hasta el asesoramiento, el cumplimiento, la alerta temprana (por ejemplo, de actividad inusual en las redes sociales / retirada masiva de depósitos), el fraude/AML y el servicio de atención al cliente”
Añade la referencia al acervo esencial de la regulación europea vigente en la materia integrado por la Ley de IA (para los casos de uso de alto riesgo identificados, como la solvencia y la calificación crediticia de las personas físicas), la Directiva sobre crédito al consumo y la Directiva sobre crédito hipotecario (solvencia de las personas físicas y roboasesoramiento), el Reglamento sobre requisitos de capital (RRC) (por ejemplo, disposiciones sobre gestión de riesgos en relación con la evaluación del riesgo de crédito), las Directivas sobre servicios de pago (DSP) (por ejemplo, para la detección del fraude) y la Directiva contra el blanqueo de capitales (por ejemplo, para los casos de uso del riesgo de blanqueo de capitales).
B.3.2) Mercado de instrumentos financieros
Podemos incluir en este apartado tres tipos de preguntas:
a) Mercados de valores
Las preguntas referidas a los mercados de valores (pág.13 y ss.) comienzan con una breve presentación que dice: “En los mercados de valores, los posibles casos de uso de la IA van desde la evaluación de riesgos a la ejecución de operaciones (por ejemplo, negociación algorítmica), el roboasesoramiento, el cumplimiento de la normativa y el abuso del mercado o el servicio de atención al cliente”. Dedica una atención especial al roboasesoramiento: cuando dice: “Según la próxima Ley de IA, existen requisitos específicos de transparencia para los sistemas de IA que no sean de alto riesgo. Los requisitos implican que estos sistemas de IA se desarrollen y utilicen de una manera que permita hacer conscientes a los seres humanos de que comunicarse o interactuar con un sistema de IA. Esto se aplicaría, por ejemplo, a casos de uso como el robo-asesoramiento u otras aplicaciones de IA personalizadas para el cliente”.
Añade la referencia al acervo esencial de la regulación europea vigente en la materia integrado por la Directiva sobre Mercados de Instrumentos Financieros (MiFID) (por ejemplo, sobre negociación y roboasesoramiento) y el Reglamento sobre abuso de mercado (MAR) (por ejemplo, para casos de uso de detección de abuso de mercado).
b) Infraestructuras del mercado
Las preguntas referidas a las Infraestructuras del mercado (pág.12 y ss.) comienzan con una breve presentación que dice: “Según la Autoridad Europea de Valores y Mercados (AEVM), en la actualidad las infraestructuras de los mercados financieros no utilizan ampliamente la IA en sus operaciones. Sin embargo, el uso de sistemas de IA en la post-negociación está emergiendo y es probable que adquiera mayor relevancia en el futuro, por ejemplo para predecir fallos en la liquidación, detección de anomalías, verificación de datos y controles de calidad de los datos”.
El lector puede encontrar numerosas referencias a las infraestructuras del mercado y a la post-contratación en este blog y fuera de él (por ejemplo, en nuestros estudios sobre “La regulación de la post-contratación en los mercados secundarios de valores”, Boletín de la CNMV (julio 2017), pp. 11-28; y “La post-contratación en los mercados secundarios de valores”, RDMV n.º 20 (2017), 52 pp.).
c) Gestión de activos
Las preguntas referidas a la gestión de activos (pág.17 y ss.) comienzan con una breve presentación que dice: “En la gestión de activos, los posibles casos de uso de la IA van desde la gestión de riesgos y carteras, el robo-asesoramiento, el cumplimiento de la normativa y el abuso del mercado hasta el servicio al cliente”.
Añade la referencia al acervo esencial de la regulación europea vigente en la materia integrado por la legislación sobre Organismos de Inversión Colectiva en Valores Mobiliarios (OICVM), la Directiva sobre gestores de fondos de inversión alternativos (AIFMD) o la Directiva sobre Mercados de Instrumentos Financieros (MiFID).
B.3.3) Mercado de seguros
Las preguntas referidas a los “seguros y pensiones” (pág.15 y ss.) comienzan con una breve presentación que dice: “En el sector de los seguros, los posibles casos de uso de la IA abarcan desde la tarificación y suscripción de seguros hasta el asesoramiento, el cumplimiento, la detección de fraudes/AML y la atención al cliente”.
Añade la referencia al acervo esencial de la regulación europea vigente en la materia integrado por la Ley de IA (para los casos de uso de alto riesgo identificados, como la evaluación del riesgo y la tarificación de seguros de vida y salud en relación con personas físicas), la Directiva de Intermediación de Seguros (IDD) (por ejemplo, el robo-asesoramiento), la normativa aobre Solvencia II y los organismos de previsión para la jubilación (OPJ) (por ejemplo, disposiciones sobre gestión de riesgos en relación con la evaluación del riesgo de los seguros) y la Directiva contra el blanqueo de capitales (AMLD) (por ejemplo, casos de uso de AML).