El pasado día el 6 de abril de 2024, la Cámara de Delegados del Colegio de Abogados del Estado de Nueva York (NYSBA) aprobó el Informe y recomendaciones del Grupo de Trabajo sobre Inteligencia Artificial (“Report and Recommendations of the New York State Bar Association Task Force on Artificial Intelligence”). La atención continua que hemos mantenido en este blog sobre la regulación de la Inteligencia Artificial en general y sobre sus aplicaciones en los mercados financieros en particular (baste citar como muestra la entrada de 13.12.2023 sobre los “Principios regulatorios de la Ley Europea de Inteligencia Artificial a la vista del consenso alcanzado por el Parlamento Europeo y el Consejo el 8 de diciembre de 2023: ¿quo vadis Europa?” y las otras muchas que en ella se citan), así como el impacto que esta tecnología tendrá sobre las profesiones jurídicas nos incitan a ofrecer a sus lectores una apretada síntesis de dicho documento.
A) Autoría y oportunidad
La autoría del extenso documento de Informe y recomendaciones es del Grupo de Trabajo sobre Inteligencia Artificial del Colegio de Abogados del Estado de Nueva York que presento este Informe que examina el impacto jurídico, social y ético de la inteligencia artificial (IA) y la IA generativa en la abogacía; además de revisar el software basado en IA, la tecnología de IA generativa y otras herramientas de aprendizaje automático que pueden mejorar la profesión. El Informe también plantea los riesgos de comprensión que los abogados pueden tener respecto de esta tecnología nueva y desconocida, así como los riesgos de inteligibilidad para los tribunales preocupados por la integridad del proceso judicial. Es por ello por lo que el informe hace recomendaciones para su adopción por el NYSBA, incluyendo directrices propuestas para el uso responsable de la IA.
La oportunidad de este Informe se justifica sobre la base del rápido crecimiento y la sofisticación de la IA que tienen, y seguirán teniendo, un impacto monumental en todas las profesiones, incluidos los abogados, los bufetes de abogados y sus clientes. Es por ello por lo que el NYSBA busca abordar de manera proactiva cómo la IA puede ayudar mejor a los que interactúan con el sistema legal, evaluando lo que necesita ser regulado e identificando qué protecciones se deben establecer como salvaguardas contra el mal uso o abuso, desde los coches autoconducidos hasta el ChatGPT, pasando por las armas impresas en 3-D, En su Introducción, el Informe dice: “Si este es nuestro momento prometeico en la evolución de la IA, ahora es el momento de comprender, adoptar, utilizar y analizar mejor esta tecnología”.
En cuanto a los sujetos implicados, el NYSBA ha reunido a profesionales del derecho de distintas especialidades. En Informe dice: “Tenemos decanos de facultades de Derecho que buscan claridad sobre la educación de las mentes jurídicas en esta era digital. Contamos con profesionales del ámbito tecnológico que asesoran a sus clientes sobre el uso de la IA. Hay quienes despliegan con entusiasmo herramientas basadas en la IA y quienes desconfían de los riesgos. El Grupo de Trabajo también tiene una perspectiva internacional, pues entiende que la IA tendrá un efecto global, no sólo regional”.
Por último, nos parece muy relevante del carácter y finalidad de este Informe su referencia final a la “conclusión” que consta en su pág.61 y donde advierte de forma paradójica: “Este informe no ofrece «conclusiones». A medida que la IA siga evolucionando, también lo hará el trabajo de la NYSBA y de los grupos encargados de la supervisión continua. Como profesión, debemos seguir perfeccionando las directrices iniciales sugeridas en este informe y auditar la eficacia de las normas y reglamentos propuestos. Comparamos este viaje con la mentalidad de los antiguos exploradores: ser cautelosos, curiosos, vigilantes y valientes”.
B) Contenido
En Informe se estructura en cinco partes referidas a (1) la evolución de la IA y la IA generativa; (2) los beneficios y riesgos del uso de la IA y la IA generativa; (3) el impacto de la tecnología en la profesión jurídica; (4) visión general y recomendaciones legislativas; y (5) directrices propuestas.
En concreto, estos apartados desarrollan, entra otros, los aspectos siguientes:
B.1) Evolución de la IA y la IA Generativa
En sus págs.11 a 18, el Informe ofrece una definición y una explicación de la IA y sus aplicaciones; de sus funciones y de su tipología. Noe parece particularmente didáctica la exposición de la cronología de la IA que va desde la mitología del ordenador digital programable (década de 1940), hasta el theseus o ratón teledirigido (1950) avanzando hacia el Taller del Dartmouth College (verano de 1956), el Perceptron Mark I o red neuronal artificial (1958), el Invierno de la IA (década de 1970), el Segundo invierno de la IA (década de 1980), el desarrollo del aprendizaje automático (décadas de 1990 y 2000), la AlexNet con los Sistemas de aprendizaje profundo (2012), la Introducción de las redes generativas adversariales (2014), las Capacidades de reconocimiento de lenguaje e imágenes (2015) y, por último, el Chatbot.
B.2) Beneficios y riesgos del uso de la IA y la IA generativa
En sus págs.20 a 28, el Informe ofrece un sumario de los Beneficios y riesgos del uso de la IA y la IA generativa:
B.2.1) En cuanto a sus Beneficios, trata de sus beneficios generales, de los avances sanitarios y sobre la longevidad humana, del desarrollo ético de la IA de la salud y seguridad pública, de sus contribuciones a la calidad de vida, de los avances científicos, en el espacio y en la exploración, de su impacto medioambiental global benéfico, de la optimización de la educación y de su aportación al desarrollo económico.
B.2.2) En el capítulo de Riesgos, el Informe trata de la ampliación de la brecha de la justicia, de las amenazas para la privacidad y vigilancia de datos y para la seguridad. Trata también de las cuestiones sociales y éticas que suscita la IA, la posible desinformación, su impacto económico perturbador, los retos legales y normativos que plantea la IA y la posible pérdida de la centralidad y el control humanos.
B.3) Impacto en la profesión jurídica
En sus págs.29 a 50, el Informe hace un elenco interesantísimo de los impactos de la IA en la profesión jurídica entendida en un sentido amplio que abarca su impacto ético, su impacto sobre diferentes deberes de conducta de los abogados tales como el de competencia / tecnosolucionismo, de confidencialidad y privacidad, de supervisión, sobre el ejercicio no autorizado de la abogacía y sobre el privilegio abogado-cliente, así como sobre el producto del trabajo del abogado. Nos parece particularmente interesante la parte que el Informe dedica a la transparencia ante el tribunal, las obligaciones éticas de los jueces, el acceso a la justicia, las organizaciones pro bono que utilizan IA generativa, el uso de la IA por no abogados, las implicaciones de la IA para los Jueces y los Robo-Tribunales, la reacción y la respuesta judicial a la IA Generativa.
B.4) Panorama legislativo y recomendaciones
En sus págs.53 y ss. el Informe ofrece un panorama legislativo y unas recomendaciones que exponemos a continuación.
C) Recomendaciones
El Informe recoge 4 tipos de Recomendaciones que el Grupo de Trabajo sobre Inteligencia Artificial dirige al Colegio de Abogados del Estado de Nueva York y que versan sobre las siguientes materias:
a) Adoptar directrices: El Grupo de Trabajo recomienda que el NYSBA adopte las directrices sobre IA/AI Generativa descritas en este informe y encargue a una sección o comité permanente la supervisión de las actualizaciones periódicas de dichas directrices.
b) Centrarse en la educación: El Grupo de Trabajo recomienda que el NYSBA priorice la educación además de la legislación, centrándose en educar a jueces, abogados, estudiantes de derecho y reguladores para que entiendan la tecnología y puedan aplicar la legislación existente para regularla.
c) Identificar riesgos para una nueva regulación: Los legisladores y los reguladores deben identificar los riesgos asociados a la tecnología que no se abordan en las leyes existentes, lo que probablemente implicará extensas audiencias y estudios con la participación de expertos en IA, y según sea necesario, adoptar reglamentos y leyes para hacer frente a esos riesgos.
d) Examinar la función del Derecho en la gobernanza de la IA: El rápido avance de la IA nos lleva a examinar la función del Derecho como herramienta de gobernanza. Algunas de las funciones clave del Derecho en el contexto de la IA son: (i) expresar los valores sociales y reforzar los principios fundamentales; (ii) proteger frente a los riesgos para dichos valores y principios; y (iii) estabilizar la sociedad y aumentar la seguridad jurídica.
D) Directrices
Según acabamos de ver, la Primera Recomendación que hace el Grupo de Trabajo el NYSBA reside en que adopte las directrices sobre IA/AI Generativa descritas en este informe y encargue a una sección o comité permanente la supervisión de las actualizaciones periódicas de dichas directrices. Estas directrices se exponen en las páginas 57 a 60 y se estructuran en tres niveles de a) objeto, b) norma de conducta general de la abogacía y c) aplicación de la IA; estructura que le da una proyección práctica en la abogacía, muy de agradecer en una época en la que todo lo relacionado con la IA tiende a presentar un estado físicamente gaseoso.
a) Competencia del abogado (REGLA 1.1)
a.1) Un abogado debe proporcionar una representación competente a un cliente.
a.2) Usted tiene el deber de comprender los beneficios, riesgos e implicaciones éticas asociadas a las herramientas de la IA, incluido su uso para la comunicación, la publicidad, la investigación, la redacción jurídica y la investigación. Consulte el Apéndice B para obtener más información sobre las Herramientas.
b) Ámbito de representación (REGLA 1.2)
b.1) El abogado deberá respetar las decisiones del cliente en cuanto a los objetivos de su representación y, conforme a la regla 1.4, consultará con el cliente los medios los medios para alcanzarlos.
b.2) Considere la posibilidad de incluir en su carta de compromiso con el cliente una declaración en la que se indique que las herramientas de la IA pueden utilizarse en su representación del cliente y solicite el reconocimiento del cliente. Consulte el Apéndice C para ver un ejemplo de redacción.
c) Diligencia (REGLA 1.3)
c.1) El abogado debe actuar con razonable diligencia y prontitud en representación de un cliente
c.2) Considere la posibilidad de incluir en su carta de compromiso con el cliente una declaración en la que se indique que las herramientas de la IA pueden utilizarse en su representación del cliente y solicite el reconocimiento del cliente. Consulte el Apéndice C para ver un ejemplo de redacción.
d) Comunicación (REGLA 1.4)
d.1) El abogado deberá explicar un asunto en la medida razonablemente necesaria para permitir al cliente tomar decisiones informadas en relación con la representación.
d.2) Si bien las herramientas de la IA pueden ayudar a generar documentos o respuestas, usted debe asegurarse de mantener una comunicación directa y efectiva con su cliente y no confiar únicamente en el contenido generado por las Herramientas,
e) Honorarios (REGLA 1.5)
e.1) El abogado no podrá pactar, cobrar o percibir honorarios o gastos excesivos o ilegales.
e.2) Si las herramientas de la IA hacen que su trabajo en nombre de un cliente sea sustancialmente más eficiente, entonces su uso de (o la falta de uso de) dichas Herramientas puede ser considerado como factor para determinar si los honorarios que cobró por una determinada tarea o asunto eran razonables. Si va a añadir un «recargo» (es decir, una cantidad por encima del coste real) al utilizar determinadas Herramientas, deberá indicar claramente en la carta de encargo, siempre que el importe total sea razonable.
f) Confidencialidad (REGLA 1.6)
f.1) El abogado no debe revelar a sabiendas información confidencial.
f.2) Al utilizar las herramientas de la IA, debe tomar precauciones para proteger los datos sensibles del cliente y asegurarse de que ninguna Herramienta comprometa la confidencialidad. Incluso si su cliente da su consentimiento informado para que usted introduzca información confidencial en una Herramienta, debe obtener garantías de que el proveedor de la Herramienta protegerá la información confidencial de su cliente y mantendrá separada la información confidencial de cada uno de sus clientes. Además, debe supervisar periódicamente al proveedor de la Herramienta para conocer cualquier cambio que pueda poner en peligro la información confidencial.
g) Conflictos de intereses (REGLA 1.7)
g.1) Un abogado no representará a un cliente si un abogado razonable llegaría a la conclusión de que la representación implicará que el abogado represente intereses divergentes.
g.2) El uso de las herramientas de la IA en un caso particular puede comprometer potencialmente su deber de lealtad según la Regla 1.7, al crear un conflicto de intereses con otro cliente. La Regla 1.7 le impone el deber de identificar, abordar y, en su caso, solicitar el consentimiento informado del cliente para los conflictos de intereses que puedan derivarse del uso de las herramientas de la IA.
h) Responsabilidades de supervisión (REGLA 5.1)
h.1) El abogado que ejerza una autoridad directa de supervisión sobre otro abogado deberá realizar esfuerzos razonables para garantizar que el abogado supervisado se ajuste a las normas deontológicas.
h.2) Como abogado supervisor, usted tiene el deber de asegurarse de que los abogados que supervisa observen las normas deontológicas cuando utilicen las herramientas de la IA.
i) Abogados subordinados (REGLA 5.2)
i.1) Un abogado está obligado a cumplir las normas deontológicas aunque haya actuado bajo la dirección de otra persona.
i.2) Si usted, como abogado subordinado, utiliza las herramientas de la IA siguiendo las instrucciones de su abogado supervisor, está obligado independientemente a observar las normas deontológicas. Todas las reglas descritas en estas directrices se aplican igualmente a su conducta.
j) Responsabilidad de los no abogados (REGLA 5.3)
j.1) Los despachos de abogados garantizarán que el trabajo de las personas que no sean abogados y que trabajen para la empresa esté adecuadamente supervisado, según proceda.
j.2) Si las herramientas de la IA son utilizadas por personas que no son abogados o asistentes jurídicos (o las propias Herramientas se interpretan como «no abogados»), deberá supervisar su uso para garantizar el cumplimiento de las normas éticas. Además, debe asegurarse de que el trabajo producido por las Herramientas sea preciso y completo y no revele información confidencial del cliente sin el consentimiento informado
k) Independencia profesional (regla 5.4)
k.1) El abogado no deberá permitir que una persona dirija o regule su juicio profesional en la prestación de servicios jurídicos.
k.2) Aunque las herramientas de la IA no son una «persona», debe abstenerse de basarse exclusivamente en ellas o en los resultados derivados de ellas a la hora de prestar asesoramiento jurídico y mantener su criterio independiente sobre un asunto.
l) Ejercicio no autorizado de la abogacía (UPl) (regla 5.5)
l.1) Un abogado no debe ayudar a un no abogado en el ejercicio no autorizado de la abogacía.
l.2) Comprenda que la supervisión humana es necesaria para evitar problemas de UPL cuando el uso de las herramientas de la IA que deben aumentar, pero no sustituir, su trabajo jurídico.
m) Servicio voluntario pro bono (regla 6.1)
m.1) Se recomienda encarecidamente a los abogados que presten servicios jurídicos pro bono en beneficio de personas sin recursos.
m.2) Las herramientas de la IA pueden permitirle aumentar sustancialmente la cantidad y el alcance de los servicios jurídicos pro bono que puede ofrecer. Teniendo en cuenta la Regla 6.1 se le anima a utilizar las Herramientas para mejorar su trabajo pro bono.
n) Publicidad (regla 7.1)
n.1) El abogado o despacho de abogados no podrá utilizar, difundir o participar en la utilización o difusión de cualquier publicidad que (1) contenga afirmaciones o (1) contenga declaraciones o afirmaciones falsas, engañosas o equívocas; o (2) infrinja una norma deontológica.
n.2) Usted es responsable de todo el contenido que publique, incluyendo contenido generado por las herramientas de la IA. Además, debe tener cuidado cuando utilice las herramientas de la IA con fines publicitarios o de captación de clientes para asegurarse de que cumple las directrices éticas relativas a la comunicación veraz y no engañosa.
ñ) Solicitud y recomendación de empleo profesional (regla 7.3)
ñ.1) El abogado no debe realizar ofertas de empleo mediante contacto personal o telefónico o a través de comunicación en tiempo real o interactiva por ordenador.
ñ.2) Usted no puede utilizar las herramientas de la IA para generar automáticamente llamadas telefónicas, de chat u otras formas de captación de clientes, ni podrá contratar a otra persona para que utilice las Herramientas para tales fines ya que la Regla 8.4 (Conducta indebida) le prohíbe utilizar a otros para llevar a cabo conductas en las que usted personalmente no podría participar.