CIVIL LIABILITY DERIVED FROM THE USE OF ARTIFICIAL INTELLIGENCE AND ITS INSURANCE
Abstract: The study begins by exposing the reciprocal increase in civil liability derived from the use of artificial intelligence and its insurance and the typical patrimonial risks derived from the use of artificial intelligence. In its second part, it examines the different aspects of civil liability derived from the use of artificial intelligence: its assumptions and principles based on the Proposal for a Regulation of the European Parliament and of the Council on civil liability for the operation of systems of artificial intelligence and the necessary requirements to claim civil liability derived from the use of artificial intelligence. In its third part, the study analyzes the assurance of civil liability of the operators of artificial intelligence systems, exposing their characteristics, the parties to the insurance contract, the substantial delimitation of the risk covered by reference to artificial intelligence systems and other aspects relevant. The study ends up offering the conclusions that are deduced from its content
Keywords: Civil liability, artificial intelligence, artificial intelligence systems, typical risks, coverage, insurance, Proposal for a Regulation.
Conclusions:
First. The civil liability of the operators of artificial intelligence systems and their assurance show, in recent times and will show with greater intensity in the immediate future, an interaction in the form of directly proportional reciprocal interference since, the greater the number of claims, the greater the need liability insurance, which, in turn, will favor claims, given the awareness of the user or consumer of the existence of the insurer’s solvent assets to cover the damages suffered as a result of the use of artificial intelligence systems.
Second. The contrast that is currently observed between a certain underdevelopment of the «claim culture» in the world of artificial intelligence and the notable development of the uses of such intelligence allows us to venture an exponential growth in civil liability claims -in judicial and extrajudicial seat- of consumers against operators of artificial intelligence systems in the near future
Third. It is more than foreseeable that civil liability claims against artificial intelligence system operators will increase in number and amount both for general reasons, such as the so-called “claim culture” that governs the developed countries with respect to activities, economics and the professions in general; and for specific reasons, such as the growing digitization of the economy and, in particular, of Fintech, with the massive use of algorithms (which will generate a greater risk of loss according to the function – obligation – responsibility equation).
Fourth. The civil liability of the operators of artificial intelligence systems may derive from civil offenses, in the form of contractual or extra-contractual liability, in accordance with arts.1101 and 1902, respectively, of the Civil Code; or criminal offenses, in the form of civil liability derived from a crime, a crime in accordance with art.116 of the Penal Code. Regarding the latter, the direct civil liability of the insurer that establishes in article 117 of the Penal Code stands out
Fifth The requirement of civil liability to the operators of artificial intelligence systems requires proof of the concurrence of three essential requirements: the negligent or malicious action of the operator, the damage suffered by the user who claims it and the efficient causal relationship between the two elements previous
Sixth. Regarding the first requirement of negligent or malicious action by the operator of artificial intelligence systems, failures in artificial intelligence systems can be of two types: intentional failures, legally qualifiable as malicious or seriously culpable; and unintentional or accidental failures, which may come from slight negligence or force majeure or acts of God. In turn, both failures can come from the insured operator, his employees or a third party that interferes with the operation of such systems (for example, after the marketing of a product that incorporates AI factors). Each type of failure will produce -or not- the birth of the corresponding civil liability debt and will be attributable to the respective causative party; playing, in case of doubt and in defense of the user, the principle of solidarity of the agents of the AI systems
Seventh. Regarding the second requirement of the accreditation of patrimonial damage, this damage must be characterized as real (that its existence can be proven), be economically assessable and constitute a physical or mental injury or material or non-pecuniary damage. The examination of the jurisprudence in this type of professional or business liability insurance allows us to venture that a significant part of the claims will be dismissed because the actors will not prove the property damage suffered. Without this being an obstacle to recall that, on some occasions, the courts have admitted as compensable damage the claim of reparation in natura by equivalence and have also condemned to compensate for moral damages
Eighth. As regards the third of the requirements, consisting of the accreditation of an efficient causal relationship between the negligent act of the operator of artificial intelligence systems and the patrimonial damage suffered by the user who claims; We can predict, on the basis of the examination of the jurisprudence dictated on this type of professional or business liability insurance, that a significant part of the liability claims of the operators of AI systems will be dismissed due to lack of accreditation of that relationship of causation by claimants
Ninth The civil liability insurance of artificial intelligence system operators will be carried out by means of a civil liability insurance that will present three essential characteristics: it will be a mandatory insurance for high-risk artificial intelligence systems and voluntary for the rest of the systems of artificial intelligence; It will be a business or professional liability insurance; and can be structured as an individual or group insurance
Tenth. The civil liability insurance of the operators of artificial intelligence systems will be governed by the specific regulations that are applicable to it, in the case of compulsory insurance of high-risk artificial intelligence systems and by the Insurance Contract Act, which will be applied imperatively as a general rule or device if it is an insurance for large risks that meets the requirements of art.11 of the LOSSEAR.All this without prejudice to the fact that the insurer must comply with the rules of conduct –especially regarding documentation and information- imposed by the LOSSEAR and the ROSSEAR.
Eleventh.The critical points of the civil liability insurance of the operators of artificial intelligence systems will be: the material delimitation of the coverage, with the inclusions and exclusions agreed in the policy;the temporal delimitation of the coverage, with the precision of the covered claims; the system of legal defense of the defendant operator and the direct action of the injured user against the insurance company
Twelfth. The adequate design of the civil liability insurance for the operators of artificial intelligence systems should produce a double and reciprocal benefit: for the operators, whose assets will be kept harmless from the claims of the injured users; and for users, who will have the preventive and additional guarantee provided by the insurer.
Reference: Tapia Hermida, A.J., “Civil liability derived from the use of artificial intelligence and its insurance”, Spanish Association of Lawyers Specialized in Civil Liability and Insurance Review, number 76 (2020), pp. 79 a 104. ISSN: 1887-7001
LA RESPONSABILIDAD CIVIL DERIVADA DEL USO DE LA INTELIGENCIA ARTIFICIAL Y SU ASEGURAMIENTO
Resumen: El estudio comienza exponiendo el incremento recíproco de la responsabilidad civil derivada del uso de la inteligencia artificial y su aseguramiento y los riesgos patrimoniales típicos derivados del uso de la inteligencia artificial. En su segunda parte, examina los diferentes aspectos de la responsabilidad civil derivada del uso de la inteligencia artificial: sus presupuestos y principios sobre la base de la Propuesta de Reglamento del Parlamento Europeo y del Consejo relativo a la responsabilidad civil por el funcionamiento de los sistemas de inteligencia artificial y los requisitos necesarios para reclamar la responsabilidad civil derivada del uso de la inteligencia artificial. En su parte tercera, el estudio analiza el aseguramiento de la responsabilidad civil de los operadores de sistemas de inteligencia artificial exponiendo sus características, las partes del contrato de seguro, la delimitación sustancial del riesgo cubierto por referencia a los sistemas de inteligencia artificial y otros aspectos relevantes. El estudio acaba ofreciendo las conclusiones que se deducen de su contenido.
Palabras clave: Responsabilidad civil, inteligencia artificial, sistemas de inteligencia artificial, riesgos típicos, cobertura, seguro, Propuesta de Reglamento.
Conclusiones:
Primera. La responsabilidad civil de los operadores de sistemas de inteligencia artificial y su aseguramiento muestran, en los últimos tiempos y mostrarán con mayor intensidad en un futuro inmediato, una interacción en forma de interferencia recíproca directamente proporcional ya que, a mayor número de reclamaciones, mayor necesidad del seguro de responsabilidad civil que, a su vez, favorecerá las reclamaciones, dada la conciencia del usuario o consumidor de la existencia del patrimonio solvente de la aseguradora para cubrir los daños que ha sufrido a resultas del uso de los sistemas de inteligencia artificial.
Segunda. El contraste que se observa en la actualidad entre un cierto subdesarrollo de la “cultura de la reclamación” en el mundo de la inteligencia artificial y el desarrollo notable de los usos de dicha inteligencia permite aventurar un crecimiento exponencial de las reclamaciones de responsabilidad civil -en sede judicial y extrajudicial- de los consumidores frente a los operadores de sistemas de inteligencia artificial en un futuro próximo.
Tercera. Es más que previsible que las reclamaciones de responsabilidad civil contra los operadores de sistemas de inteligencia artificial se incrementen en su número y cuantía tanto por razones generales, como es la denominada “cultura de la reclamación” que rige en las sociedades desarrolladas respecto de las actividades económicas y las profesiones en general; como por razones específicas, como son la digitalización creciente de la economía y, en particular, de las tecnofinanzas (Fintech) con el empleo masivo de algoritmos (que generarán mayor riesgo de siniestralidad conforme a la ecuación de función – obligación – responsabilidad).
Cuarta. La responsabilidad civil de los operadores de sistemas de inteligencia artificial puede derivar de ilícitos civiles, en forma de responsabilidad contractual o extracontractual, conforme a los arts. 1101 y 1902, respectivamente, del Código Civil; o de ilícitos penales, en forma de responsabilidad civil derivada de delito, delito conforme al art. 116 del Código Penal. Respecto de esta última destaca la responsabilidad civil directa del asegurador que establece en artículo 117 del Código Penal.
Quinta La exigencia de responsabilidad civil a los operadores de sistemas de inteligencia artificial requiere acreditar la concurrencia de tres requisitos esenciales: la actuación negligente o dolosa del operador, el daño sufrido por el usuario que la reclama y la relación de causalidad eficiente entre los dos elementos anteriores.
Sexta. En cuanto al primer requisito de la actuación negligente o dolosa del operador de sistemas de inteligencia artificial, los fallos en los sistemas de inteligencia artificial pueden ser de dos tipos: fallos intencionados, jurídicamente calificables como dolosos o gravemente culposos; y fallos no intencionados o casuales, que pueden proceder de negligencia leve o de fuerza mayor o caso fortuito. A su vez, ambos fallos pueden proceder del operador asegurado, de sus empleados o de un tercero que interfiera en el funcionamiento de tales sistemas (por ejemplo, después de la comercialización de un producto que incorpora factores de IA). Cada tipo de fallo producirá -o no- el nacimiento de la deuda correspondiente de responsabilidad civil y será imputable al sujeto causante respectivo; jugando, en caso de duda y en defensa del usuario, el principio de solidaridad de los agentes de los sistemas de IA.
Séptima. En cuanto se refiere al segundo requisito de la acreditación de un daño patrimonial, este daño debe caracterizarse por ser real (que pueda probarse su existencia), resultar evaluable económicamente y constituir una lesión física o mental o bien daño material o inmaterial. El examen de la jurisprudencia en este tipo de seguros de responsabilidad civil profesional o empresarial nos permite aventurar que una parte significativa de las reclamaciones se desestimarán porque los actores no acreditarán el daño patrimonial sufrido; sin que ello sea óbice para recordar que, en algunas ocasiones, los tribunales han admitido como daño resarcible la pretensión de reparación in natura por equivalencia y han condenado también a indemnizar los daños morales.
Octava. En cuanto se refiere al tercero de los requisitos, consistente en la acreditación de una relación de causalidad eficiente entre el acto negligente del operador de sistemas de inteligencia artificial y el daño patrimonial sufrido por el usuario que reclama; podemos pronosticar, sobre la base del examen de la jurisprudencia dictada sobre este tipo de seguros de responsabilidad civil profesional o empresarial, que una parte significativa de reclamaciones de responsabilidad civil de los operadores de sistemas de IA se desestimarán por falta de acreditación de aquella relación de causalidad por los reclamantes.
Novena El aseguramiento de la responsabilidad civil de los operadores de sistemas de inteligencia artificial se realizará mediante un seguro de responsabilidad civil que presentará tres características esenciales: será un seguro obligatorio para los sistemas de inteligencia artificial de alto riesgo y voluntario para el resto de sistemas de inteligencia artificial; será un seguro de responsabilidad civil empresarial o profesional; y podrá estructurarse como un seguro individual o colectivo.
Décima.. El seguro de responsabilidad civil de los de los operadores de sistemas de inteligencia artificial se regirá por la normativa específica que le resulte aplicable, cuando se trate de un seguro obligatorio de los sistemas de inteligencia artificial de alto riesgo y por la Ley de Contrato de Seguro, que se aplicará con carácter imperativo por regla general o dispositivo si se trata de un seguro por grandes riesgos que cumpla los requisitos del art. 11 de la LOSSEAR. Todo ello sin perjuicio de que el asegurador deba cumplir con las normas de conducta –especialmente en materia de documentación e información-que le imponen la LOSSEAR y el ROSSEAR.
Undécima. Los puntos críticos del seguro de responsabilidad civil de los operadores de sistemas de inteligencia artificial serán: la delimitación material de la cobertura, con las inclusiones y exclusiones pactadas en la póliza; la delimitación temporal de la cobertura, con la precisión de las reclamaciones cubiertas; el régimen de la defensa jurídica del operador demandado y de la acción directa del usuario perjudicado frente a la aseguradora.
Duodécima. El diseño adecuado del seguro de responsabilidad civil de los operadores de sistemas de inteligencia artificial deberá producir un doble y recíproco beneficio: para los operadores, cuyo patrimonio se mantendrá indemne frente a las reclamaciones de los usuarios perjudicados; y para los usuarios, que contarán con la garantía preventiva y adicional prestada por el asegurador.
Referencia: Tapia Hermida, A.J., “La responsabilidad civil derivada del uso de la inteligencia artificial y su aseguramiento”, Revista de la Asociación Española de Abogados Especializados en Responsabilidad Civil y Seguro n.º 76 (2020), pp. 79 a 104. ISSN: 1887-7001.