En la entrada del pasado día 17 del mes en curso sobre “La creación de un ecosistema europeo de inteligencia artificial excelente y fiable: El Libro Blanco de la Comisión Europea sobre la inteligencia artificial” dábamos cuenta de la finalidad y del contenido del “Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza” publicado por la Comisión Europea en Bruselas el 19.2.2020, (COM (2020) 65 final).
En justa continuidad, procedemos a dar, ahora, cuenta del Dictamen del Comité Europeo de las Regiones – Libro Blanco sobre la inteligencia artificial – Un enfoque europeo orientado a la excelencia y la confianza (2020/C 440/14) publicado en el DOUE de 18.12.2020 (pág. C 440/79 y ss.).
Contexto del Dictamen
Este Dictamen del Comité Europeo de las Regiones se ubica en un contexto regulatorio respecto del cual “observa que el Libro Blanco sobre la IA y las políticas que de él se derivan deben considerarse junto con las dos Comunicaciones que lo acompañan, tituladas respectivamente «Configurar el futuro digital de Europa» y «Una Estrategia Europea de Datos». Por otra parte, el Libro Blanco se inscribe en la perspectiva de varios ámbitos de acción de la Comisión, como la nueva Agenda de Capacidades para Europa y la Recomendación relativa a un conjunto de instrumentos comunes de la Unión para la utilización de la tecnología y los datos a fin de combatir y superar la crisis de la COVID-19, en particular por lo que respecta a las aplicaciones móviles y a la utilización de datos de movilidad anonimizados” (apartado 10). Además, el Comité Europeo de las Regiones “insiste, no obstante, en que el debate sobre las futuras políticas destinadas a reforzar la confianza en la IA debería abordar también aspectos como la propiedad de los datos, los algoritmos, las plataformas y la protección de los valores públicos en dichas plataformas, así como la cuestión de saber quién se beneficia, en última instancia, de las aplicaciones de IA y quién paga el precio (y si es socialmente aceptable)” (apartado 13).
Contenido del Dictamen: 5 aspectos básicos
El examen del Dictamen del Comité Europeo de las Regiones nos permite detectar -dentro del contenido caótco propio de este tipo de dictámenes de organismos políticos que integran los pareceres de los diferentes Estados miembros de la UE a partir de una técnica de negociación cuasi-diplomática- algunas ideas interesantes para la regulación de la IA que pasamos a exponer de forma ordenada agrupándolos en los 5 aspectos siguientes:
a) La necesaria sistematización de la regulación de la IA, cuando “subraya que debido al gran número de ámbitos de acción diferentes concernidos por la IA, estos corren el riesgo de que se diluya la coherencia entre ellos y de que evolucionen al margen (…) sugiere a la Comisión que defina una hoja de ruta y un enfoque que favorezcan la coherencia entre los diferentes ámbitos de acción” (apartados 14 y 15)
b) La coherencia geográfica de la regulación de la IA, cuando el Comité Europeo de las Regiones “hace hincapié en que la política europea debería apostar decididamente por el fortalecimiento de las redes locales y regionales multidisciplinares que reúnen a ciudadanos, administraciones, instituciones del conocimiento y empresas, así como por la inversión en (la organización y la estimulación de) estas redes. El CDR considera que los centros de innovación propuestos por la Comisión deben desempeñar un papel fundamental en este sentido” (…) “destaca que, dentro de estos ecosistemas, los entes locales y regionales hacen todo lo posible para afrontar un amplio abanico de retos sociales. Pueden desempeñar un papel determinante si se quieren acelerar, en este contexto, las innovaciones que tienen un impacto real” (…) “subraya que los entes locales y regionales son quienes están mejor situados para contribuir a crear un entorno que favorezca el aumento de la inversión en la IA durante los próximos años y extender la confianza en la inteligencia artificial a los diferentes eslabones de las cadenas de valor. En efecto, dada su cercanía, los entes locales y regionales pueden fomentar la creación de redes multidisciplinares locales” (…) y “considera, no obstante, que este compromiso de la Comisión en favor del desarrollo de la IA en el sector público no se debe limitar a las tecnologías de IA que ya han demostrado su éxito en sectores predefinidos. En efecto, los entes locales y regionales pueden desempeñar un papel importante en la aceleración de (nuevas) tecnologías de IA, en calidad de «launching customer» (clientes precursores); (apartados 16, 21, 22 y 27).
Dada la íntima relación que existe entre la IA y la digitalización, debemos poner este aspecto en conexión con la discriminación geográfica, como uno de los dos focos importantes de discriminación que alimentan la brecha digital porque la población que vive en zonas rurales disfruta de menores oportunidades y mayores inconvenientes de la comunicación digital que, en ocasiones, llega al aislamiento completo. A esta discriminación geográfica digital nos referimos en la entrada de este blog del pasado día 21 de los corrientes sobre “Las dos megatendencias globales de la regulación financiera: digitalización y sostenibilidad: Dictamen exploratorio del CESE de 11 de diciembre de 2020”.
c) La graduación del riesgo de los sistemas de IA para dosificar la intensidad de su regulación, especialmente, en cuanto a la responsabilidad civil derivada se refiere manifestado el CDR que “suscribe el enfoque de la Comisión de regular adicionalmente la IA de alto riesgo; (…) considera que los principales criterios que permiten determinar si la IA es de alto riesgo son, por una parte, la medida en que el ser humano puede influir en la toma de decisiones y, por otra, la incidencia de estas decisiones en los derechos y las actuaciones efectivas de los ciudadanos; (…) y “considera que un enfoque que vaya más allá de la mera promulgación de una legislación relativa a la IA de alto riesgo resultará beneficioso para cualquier política futura en favor del ecosistema de confianza. La política futura necesita un enfoque sociotécnico continuo y sistemático, que consiste en examinar la tecnología desde todos los puntos de vista y a través de diferentes prismas. En lo que respecta a la formulación de las políticas y la normativa, se requiere un enfoque multidisciplinar en el que los responsables políticos, el sector universitario de diferentes ámbitos, los interlocutores sociales, las empresas y los entes locales y regionales cooperen y supervisen en todo momento la evolución de la situación y difundan los resultados al respecto con la misma transparencia” (apartados 50, 51 y 65).
d) La canalización adecuada de los recursos públicos destinados al fomento de los sistemas de IA en dos sentidos:
d.1) En general, el CDR “estima que las subvenciones deberían concentrarse en aplicaciones de IA específicas que se presten a una implantación a mayor escala. Con el fin de aprovechar al máximo las posibilidades que ofrece la IA, sería conveniente promover los proyectos de pequeña envergadura y limitar su carga financiera, de modo que resulte más atractivo para los entes locales y regionales participar en proyectos financiados por la UE”; y cuando entre a tratar de la “gobernanza multinivel y asociación público privada (…) coincide en la necesidad de adoptar un enfoque europeo común en materia de IA a fin de alcanzar una envergadura suficiente y evitar la fragmentación del mercado único; (…) destaca, no obstante, que un enfoque europeo de la gobernanza debe basarse en una sociedad abierta, inclusiva y descentralizada, en la que todos los ciudadanos puedan participar, ser creativos y desarrollar su espíritu empresarial; (…) afirma que la cuestión principal que se plantea es saber cómo pueden participar eficazmente el sector político, los ciudadanos y las pymes en el desarrollo de las aplicaciones de IA y de las normas éticas y la normativa al respecto, y cómo puede influir la comprensión de los ingresos previstos de los ecosistemas en el (re)ajuste de las políticas y la normativa; (…) y “destaca el importante papel que desempeñan las redes descentralizadas de ciudadanos y de economías locales en la participación del sector político, los ciudadanos y las empresas en el desarrollo de las aplicaciones de IA, así como de las normas éticas y la reglamentación al respecto. En efecto, la fuerza de las comunidades y las redes sociales reside en una cooperación local y regional abierta, interconectada y específica que favorezca la innovación y el desarrollo de nuevas economías” (apartados 24, 70, 71 y 73).
d.2) En especial, en la situación pandémica en la que vivimos cuando el CDR destaca que la IA «puede contribuir a responder a los desafíos de la sociedad en ámbitos como la salud (el ejemplo reciente más notable es la lucha contra la pandemia de la COVID-19), la seguridad, el clima, la movilidad y el transporte, las ayudas sociales, la industria de tecnología avanzada, el comercio al por menor, la agricultura, el turismo y los servicios públicos» (apartado 17).
e) El retorno adecuado de los recursos públicos que se destinen al fomento de los sistemas de IA cuando el CDR “destaca que los representantes políticos, los responsables de la toma de decisiones y la sociedad se enfrentan a un reto fundamental: ¿cómo garantizar que la balanza entre los efectos y los impactos deseados y no deseados se inclina hacia el lado adecuado? ¿Y cómo conseguir que haya margen suficiente para poder aprovechar las posibilidades que ofrece la IA e incrementar la confianza depositada por los ciudadanos en ella? Con el avance de las aplicaciones de IA, en especial los algoritmos predictivos, en muchos organismos públicos y gubernamentales (órganos judiciales, fuerzas o cuerpos de seguridad, fuerzas armadas, etc.), es necesario adoptar de manera urgente un marco regulador que prevea un control estricto de lo que es necesario y proporcionado, que ofrezca salvaguardias y vías de recurso adecuadas y que defina claramente las responsabilidades y la rendición de cuentas, así como una supervisión pública apropiada” (apartado 45).