La omnipresencia de la Inteligencia Artificial (IA) en nuestra sociedad global resulta tan útil como peligrosa cuando su uso degenera en abuso en forma de manipulación de la conducta de los ciudadanos en beneficio de los gigantes tecnológicos que, en su búsqueda sistémicamente insaciable de beneficios cada vez mayores para satisfacción de intereses privados o estatales, no tiene escrúpulos para insertar en los sistemas y modelos de IA algoritmos contrarios a los derechos humanos elementales de pensamiento y expresión. Es por ello por lo que debemos saludar las normas públicas obligatorias -cuya máxima expresión es la LEIA- y los códigos de conducta privados que ordenan de forma imperativa o autorregulan los usos de la IA.
A) Leyes (“hard law”) y códigos de conducta (“soft law”) sobre el uso de la IA
La plasticidad de la propia IA requiere que las normas de “hard law” se vean completadas por regulaciones de “soft law” que, en forma de Códigos de Conducta voluntarios, precisen los criterios para el buen uso de la IA entre grupos de población homogéneos. En este sentido, los Colegios Profesionales son sedes idóneas para establecer y publicar los criterios para el buen uso de la IA en el ámbito de una profesión determinada.
En el sentido señalado, la entrada de este mismo blog de 30 de mayo de 2024 nos permitió dar cuenta sintética del “Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial (“Report and Recommendations of the New York State Bar Association Task Force on Artificial Intelligence”) aprobado el 6 de abril de 2024 por la Cámara de Delegados del Colegio de Abogados del Estado de Nueva York (NYSBA) (el lector interesado puede consultar dicha entrada titulada: “Inteligencia Artificial y Abogacía. Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York de abril de 2024”).
B) Contexto europeo: La Guía sobre el uso de la IA por parte de los abogados y bufetes de abogados en Europa de 2022
a) Finalidad
El 31 de marzo de 2022 el Consejo de Abogados y Sociedades de Abogados de Europa (Council of Bars and Law Societies of Europe, CCBE y la Fundación Europea de Abogados (European Lawyers Foundation, ANBI – Dutch Public Benefit Organisation ELF) presentaron su “Guía sobre el uso de la IA por parte de los abogados y bufetes de abogados en Europa” (“Guide on the use of Artificial Intelligence-based tools by lawyers and law firms in the EU 2022”) que era el producto final del proyecto CCBE-ELF denominado AI4Lawyers, financiado con el apoyo del Programa de Justicia de la Unión Europea y cuyo objetivo era proporcionar una mejor comprensión a los abogados y a los pequeños y medianos bufetes de abogados sobre cómo aprovechar las oportunidades que ofrecen las nuevas tecnologías, como los sistemas conversacionales, que pueden abrir nuevos canales de servicio a los clientes.
Para facilitar la comprensión de la finalidad esta Guía, documento de presentación sirve de la técnica expositiva de la respuesta a las dos preguntas retóricas siguientes:
a.1) ¿Qué valor añadido aporta la Guía CCBE-ELF? Respondiendo: “la Guía pretende proporcionar un nivel básico de comprensión a los abogados interesados en este campo, especialmente a los que trabajan como profesionales independientes o en pequeños bufetes”.
a.2) ¿Podría dar ejemplos concretos de cómo las tecnologías de IA pueden ayudar a los abogados en su práctica diaria? Facilitando dos ejemplos interesantes que son:
a.2.1) En el plano legal, dice: “durante muchos años en mi trabajo profesional, tuve que servir a los clientes con conjuntos personalizados de contratos de la industria de las TI lo más rápido posible y de forma muy coherente, que siempre requerían una actualización periódica debido a los cambios en los procesos del cliente y las normas reglamentarias (…)”.
a.2.2) En el plano jurisprudencial, señala: “las técnicas avanzadas de búsqueda basadas en un corpus cada vez mayor de decisiones judiciales pueden garantizar que el abogado no se vea inundado por el creciente número de resultados de la búsqueda, y las herramientas de búsqueda pueden ayudar a los abogados a proporcionar sólo los resultados más relevantes para la consulta dada (…).”
b) Contenido
Esta Guía CCBE-ELF 2022 da respuesta detallada, en sus 53 páginas, a la siguientes cuestiones relevantes en la materia:
b.1) ¿Qué oportunidades ofrecen la inteligencia artificial y las tecnologías relacionadas a los pequeños bufetes de abogados?
b.2) ¿Cuáles son los términos básicos relacionados con las herramientas de IA como los conjuntos de datos, benchmarks y modelos, herramientas lingüísticas y representación del conocimiento?
b.3) ¿Qué oportunidades ofrece la IA para los colegios y las sociedades de abogados?
b.4) ¿Qué categorías de funciones de las herramientas de IA tienen especial relación con las actividades habituales de los abogados? Identificando los siguientes instrumentos de IA: herramientas de apoyo a la redacción, herramientas de asistencia a la escritura, herramientas de ensamblaje de documentos, herramientas para convertir datos jurídicos y bases de conocimiento en texto, análisis de documentos, análisis de las actividades basadas en la jurisprudencia, herramientas de conversión de voz a texto, chatbots y asistencia en la administración interna de la oficina mediante herramientas de IA.
b.5) ¿Qué escenarios probables pueden producirse a raíz del uso de la IA por los abogados? Identificando, entre otros, los siguientes: negociaciones contractuales bilaterales sobre una plataforma y tiempo de grabación, reunión con el cliente y encargo de asuntos, preparación para el trabajo judicial, servicios para un empresario profesional, etc.
b.6) ¿Qué riesgos profesionales típicos pueden derivarse del uso de la IA por los abogados? Identificando, entre otros, los siguientes: riesgos de naturaleza tecnológica, tales como los riesgos derivados del uso de la computación en la nube y las plataformas en línea para proporcionar acceso a herramientas de IA, basándose en resultados sin una explicación y comprensión adecuadas y otros riesgos relacionados con el rendimiento de las herramientas de IA; riesgos para la privacidad; riesgos derivados de las obligaciones profesionales,; riesgos para la competencia profesional, como los peligros de probar nuevas tecnologías, integración de procesos técnicos y humanos, equilibrio entre las promesas y las capacidades reales; riesgos relacionados con las obligaciones de secreto profesional del abogado; y riesgos relacionados con la independencia del abogado.
c) Conclusiones
Esta Guía CCBE-ELF 2022 acaba ofreciendo, entre otras, las conclusiones siguientes: “para prepararse mejor para defender estos valores (los esenciales de la abogacía), los abogados, los colegios de abogados y las asociaciones jurídicas deben comprender más a fondo los riesgos de la transformación, y eso solo se puede lograr utilizando las herramientas de IA con prudencia. Esto debe hacerse incluso si las herramientas actuales distan mucho de ser perfectas o están adaptadas a diferentes jurisdicciones o idiomas, lo que se ve agravado por la fragmentación del mercado de herramientas informáticas para abogados en los Estados miembros de la UE (…). Es posible que las herramientas actuales no proporcionen toda la información que los abogados consideran necesaria y que carezcan de sentido financiero o de utilidad práctica. Sin embargo, ya existen aplicaciones de IA que pueden probar incluso los bufetes de abogados más pequeños, por supuesto, con la debida precaución, en áreas específicas de bajo riesgo y comprendiendo la relevancia de los riesgos expuestos en esta guía. El uso de cada vez más herramientas de IA es inevitable a largo plazo, ya que no es algo que ninguna profesión pueda evitar; no obstante, los abogados deben prestar atención para asegurarse de que dichas herramientas se utilicen de forma que no perjudiquen a los clientes ni al estado de derecho, y que nuestro uso de las herramientas no conduzca en modo alguno a reducir la protección de los más débiles que se espera que proporcione un sistema jurídico. Por último, debemos advertir que esta guía solo evalúa determinadas áreas de riesgo relacionadas con la IA. Las tecnologías aquí mencionadas podrían seguir sin ser deseables en lo que respecta a sus implicaciones, por ejemplo, para el estado de derecho, los valores fundamentales de la profesión o los derechos humanos”.
Al hilo de esta última advertencia, queremos advertir por nuestra parte al lector de este blog que esta Guía y sus conclusiones deben ser actualizadas a noviembre de 2025, ya que proceden de marzo de 2022 y la velocidad relativa del progreso de la IA convierte un periodo de tres años en el equivalente a 30 años o incluso a un siglo.
C) la Guía ICAM de Buenas Prácticas para el uso de la Inteligencia Artificial (IA) en la Abogacía de 2025
a) Finalidad
Ahora, nos alegra sobremanera dar noticia de la Guía ICAM de Buenas Prácticas para el uso de la Inteligencia Artificial (IA) en la Abogacía que pretende “ofrecer un marco de referencia claro y práctico para integrar estas tecnologías de forma responsable, transparente y conforme a derecho. Su objetivo no es solo informar, sino también inspirar confianza en que innovación y ética pueden avanzar de la mano, asegurando que la profesión continúe desempeñando su función esencial en un entorno digital cada vez más complejo”.
La Guía nace como un “documento pionero dentro del panorama colegial europeo, al ofrecer no solo un glosario de conceptos clave y una síntesis de los marcos regulatorios aplicables, sino también criterios éticos y recomendaciones operativas que orientan la práctica profesional”. En concreto, trata de “asegurar que valores irrenunciables como la independencia, el secreto profesional, la lealtad al cliente o el derecho de defensa encuentren plena vigencia en el ecosistema digital”. Por ello, “su utilidad radica no solo en advertir sobre riesgos, sino también en señalar caminos seguros para aprovechar la innovación con garantías”.
b) Las “Buenas Prácticas” de la Guía ICAM
El Capítulo 2 de la Guía recoge su “columna vertebral” en forma de 6 Buenas Prácticas, lo que, a nuestro entender, constituye un acierto porque nos parece más útil el lenguaje asertivo que el meramente especulativo. Estas Buenas Prácticas consisten en:
b.1) “Comprender el funcionamiento de la IA” que significa: “Antes de integrar cualquier herramienta de Inteligencia Artificial en los procesos de trabajo de un despacho es esencial conocer en qué consiste esta tecnología, cómo funciona y qué se puede esperar realmente de ella”. En torno a esta Buena Práctica, la Guía ofrece consideraciones adicionales interesantes -en forma de preguntas retóricas- sobre la diferencia entre la IA y la IA generativa, los fundamentos de la IA generativa y cómo funciona, y qué se puede esperar (y qué no) de la IA generativa en el ámbito legal.
b.2) “Realizar una evaluación de necesidades y de todas las posibles soluciones tecnológicas” que significa: “También, como paso previo, se debe realizar un análisis estratégico que identifique las necesidades específicas del profesional del derecho y del despacho y evalúe las diversas soluciones tecnológicas disponibles. Este enfoque permite optimizar procesos, gestionar riesgos y asegurar el cumplimiento de la normativa”. Con ocasión de esta Buena Práctica, la Guía ofrece consideraciones adicionales interesantes sobre la identificación de necesidades, la evaluación de soluciones tecnológicas, la selección del responsable de las herramientas y el empleo de la IA proporcional y justificado.
b.3) “Garantizar el cumplimiento normativo” que significa: “La abogacía es una profesión sujeta a normas y a principios deontológicos. Por su parte, la IA, además, es una tecnología objeto de una amplia regulación, incluyendo un reciente Reglamento Europeo. Cualquier tecnología que se integre en la práctica legal debe tener en cuenta estas dos realidades”. Con ocasión de esta Buena Práctica, la Guía constata algunas de las obligaciones básicas clave de la LEIA referidas a la supervisión humana, la transparencia, la evaluación de impacto, la gestión de riesgos, la innovación responsable, la protección de datos y la confidencialidad, la gobernanza, documentación y registro y el respeto a los Derechos Fundamentales y mitigación de sesgos.
b.4) “Capacitación y competencia técnica” que significa: “Además del cumplimiento normativo, los profesionales de la abogacía y despachos deben asegurar que su equipo cuente con el nivel de competencia tecnológica necesario para comprender, supervisar y evaluar el funcionamiento de las herramientas de IA. Todo ello en consonancia con la obligación legal de alfabetización en materia de IA descrita en el artículo 4 de la AI Act”. Esta Buena Práctica se proyecta en varias recomendaciones de “Invertir en formación continua para abogados/as y personal, incluyendo cursos, talleres y seminarios sobre tecnologías emergentes y sus implicaciones legales. Todo ello siguiendo las indicaciones y/o recomendaciones o buenas prácticas publicadas por las autoridades competentes”; “Realizar pruebas internas y evaluaciones acerca del grado de conocimiento, de la fiabilidad, nivel de interoperabilidad y límites de las herramientas antes de su integración en la práctica profesional diaria”; “fomentar la actualización periódica en competencias tecnológicas, asegurando una adecuada integración de la IA en los procesos legales”; y “promover las comunidades de aprendizaje en IA en los despachos”.
b.5) “Fomentar la colaboración interdisciplinaria” que significa: “La integración responsable de la IA en el ámbito legal requiere la colaboración entre abogados/as, tecnólogos y expertos en seguridad de la información, gobierno del dato, deontología, ética y cumplimiento normativo. Es necesario fomentar la colaboración interdisciplinar para abordar los desafíos complejos de la implementación de la IA”. Esta Buena Práctica se proyecta en varias recomendaciones de “crear equipos formados por representantes de diversas áreas (legal, tecnológica, seguridad de la información, gobierno del dato, privacidad, ética y cumplimiento, etc.) para evaluar, supervisar y optimizar el uso holístico e integrado de la IA en el despacho”; “promover y participar de forma activa y colaborativa en eventos formativos y de discusión en los que participen profesionales de distintas disciplinas para compartir conocimientos, experiencias y mejores prácticas”; e “incorporar esta interdisciplinariedad en los marcos de gobernanza interna de la IA y en la asignación clara de roles y responsabilidades dentro del despacho”.
b.6) “Supervisión de terceros” que significa: “El uso de herramientas de IA por parte de proveedores externos debe estar sujeto al mismo rigor que se aplique internamente, evitando delegar funciones esenciales sin la debida supervisión, de manera que se pueda probar en todo momento la adecuada diligencia proactiva en el cumplimiento de criterios legales, éticos y deontológicos”. También esta Buena Práctica se proyecta en varias recomendaciones consistentes en “asegurarse de que los proveedores de servicios de IA cumplan con estándares éticos y normativos equivalentes”; “supervisar el trabajo de terceros y no profesionales del derecho, garantizando que la IA complemente y no reemplace el juicio profesional”; y “evitar el uso de herramientas que puedan generar asesoramiento jurídico sin supervisión humana, o mermar otro tipo de garantías básicas conforme la normativa vigente, para no vulnerar la misma ni las reglas de práctica autorizada”.
c) El glosario de la Guía ICAM
El Capítulo 3 de la Guía ofrece un glosario que nos parece extremadamente útil para normalizar la selva de conceptos que anidan en torno a la IA tales como “alucinaciones de la IA” (“situaciones en las que un sistema de IA genera información incorrecta, engañosa o sin base en los datos reales, lo que puede llevar a resultados inesperados o problemáticos”), “análisis predictivo (“Uso de la IA para predecir eventos futuros basándose en datos históricos”), “aprendizaje automático” o ”machine learning” (“subcampo de la IA que permite a los sistemas aprender patrones a partir de datos y generalizar a casos nuevos, logrando de este modo mejorar su rendimiento sin necesidad de programación explícita para cada tarea”), “bias o sesgo” (“inclinación o prejuicio no deseado en los resultados de la IA, a menudo debido a datos de entrenamiento no representativos”), etc.
d) Los anexos de la Guía ICAM: Normativa sobre IA y vigencia
La Guía se completa con sendos Anexos igualmente útiles:
a) El Anexo I de “referencias básicas” a la normativa sobre IA y a su ubicación en la red: Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD)., Reglamento General de Protección de Datos (RGPD), Reglamento Europeo sobre Inteligencia Artificial (AI Act), “Guía para el uso de herramientas de Inteligencia Artificial por abogados y despachos en la UE”, Consejo de Colegios de la Abogacía de Europa (CCBE); “Política de Uso de la IA en la Administración de Justicia” del Ministerio de Justicia de España. Y “Orientaciones sobre Inteligencia Artificial”, Agencia Española de Protección de Datos (AEPD).
b) El Anexo II sobre los “plazos de aplicación del Reglamento UE sobre IA” en el que se aclara: “El Reglamento de la Unión Europea sobre la Inteligencia Artificial (AI Act) entró en vigor el 1 de agosto de 2024. Su implementación es progresiva, con diferentes obligaciones que entran en vigor en fechas específicas. A continuación, se detallan las fechas clave: 2 de febrero de 2025: Entran en vigor las prohibiciones de sistemas de IA que se consideran de riesgo inaceptable, como aquellos que manipulan a usuarios mediante técnicas engañosas o que utilizan reconocimiento facial en público sin justificación legal. También las obligaciones de alfabetización en materia de IA. 2 de agosto de 2025: Se aplican las normas de gobernanza y las obligaciones para los modelos de IA de uso general. Además, los Estados miembros deben haber designado a las autoridades nacionales competentes para supervisar la aplicación de las normas aplicables a los sistemas de IA y llevar a cabo actividades de vigilancia del mercado, a través del establecimiento del correspondiente régimen sancionador. 2 de agosto de 2026: La mayoría de las disposiciones del AI Act entran en vigor, incluyendo las obligaciones para los sistemas de IA de alto riesgo enumerados en el Anexo III del reglamento. Esto abarca sistemas de IA en áreas como biometría, infraestructuras críticas, educación, empleo, acceso a servicios públicos esenciales, aplicación de la ley, inmigración y administración de justicia. 2 de agosto de 2027: Los proveedores de modelos de IA de propósito general que hayan sido comercializados o puestos en servicio antes del 2 de agosto de 2025 deben cumplir con las obligaciones establecidas en el AI Act antes de esta fecha.