La responsabilidad civil como consecuencia de daños causados por la Inteligencia Artificial

Como casi siempre que un nuevo campo de actuación surge en el...

Como casi siempre que un nuevo campo de actuación surge en el seno de las relaciones humanas y el Derecho civil se asoma para regularla, dos son las materias sobre las que inicialmente se incide: la propiedad y la responsabilidad civil. El campo de la IA no es excepción. Ya en el albor de su creación, ASIMOV elaboró la famosa trilogía de reglas por las que todo robot debía de regirse: -1 Un robot no debe hacer daño a un ser humano ni, por inacción, dejar que este sufra un daño. 2 Un robot debe obedecer las órdenes que recibe de un ser humano, excepto cuando tales órdenes entran en conflicto con la primera ley. 3 Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto ni con la primera ni con la segunda ley, y finalmente un añadido, la 0 Un robot no puede dañar a la humanidad, o por inacción, permitir que la humanidad sufra daño.

El 16 de Febrero de 2017 el Parlamento Europeo emitió Resolución con recomendaciones destinadas a la Comisión sobre normas de derecho civil sobre robótica asumiendo buena parte de las recomendaciones de la Comisión, entre ellas la necesidad de una definición y clasificación de la IA -o robot autónomo inteligentes con la obligatoriedad de su inscripción en un registro especial.

La Comisión Europea emitió sobre este ámbito Comunicación al Parlamento Europeo, al Consejo de Europa, al Consejo y al Comité Europeo Económico y Social Europeo y al Comité de las Regiones el 25 de abril de 2018. En ella ya parece adelantar una definición de IA -sistema que manifiesta un comportamiento inteligente, pues es capaz de analizar su entorno y pasar a la acción, con cierto grado de autonomía, con el fin de alcanzar objetivos específicos y prevé la necesidad de elaborar un proyecto inmediato sobre las directrices éticas en relación con la IA.

En el fondo la actuación del Parlamento y de la Comisión va eminentemente dirigida a una clarificación de las consecuencias de la actuación de las IA, esto es a su impacto en la industria, en el empleo, en el desarrollo económico y en la distribución de las responsabilidades derivadas de su utilización, pero también, y esto es lo que apenas se ha incidido ulteriormente, al reconocimiento de una incipiente capacidad, denominada electrónica, que entre otras cosas serviría a juicio del Parlamento, para hacer responder a la IA del daño originado por la actividad que ella ha desarrollado.

En principio el planteamiento más extendido es el que liga la responsabilidad de una IA a una responsabilidad similar a la de un producto defectuoso, donde coexisten tanto la responsabilidad del productor, en este caso la fabricante, pero también de la que se sirve del producto, el que la transmite al destinatario final, sin perjuicio de la facultad de repetición contra aquél. En todo caso estamos en el seno de una responsabilidad por hecho ajeno, en la medida en que la ausencia de un reconocimiento de capacidad para la IA se encuentra lejos de reconocerse.

Ello genera un problema, pues por lo general se van a dar una serie de actividades concurrentes en este fenómeno. No hay que olvidar que estamos hablando de un ente creado y programado por terceros, con un mantenimiento que normalmente va ser de cargo de terceros, y con una formación inicial que le va a proporcionar alguien ajeno, generalmente quien se sirve de él, pero no necesariamente.

Si el daño se produce como consecuencia de un defectuoso funcionamiento de los elementos de ingeniería ensamblados en su estructura, estaremos ante una responsabilidad en una última instancia del fabricante o del diseñador. Si el problema ha versado sobre defecto de mantenimiento de elementos del sistema, como sensores, intercomunicadores&hellip podemos estar ante una responsabilidad del propietario, siempre y cuando tal mantenimiento no sea posible que lo realice la propia IA, lo cual vuelve a incidir sobre la responsabilidad del primero. Cuando estemos ante un problema por defecto de formación inicial, no la de auto refuerzo, propia de la IA, habrá una responsabilidad del formador encargado, que por lo general vendrá integrado dentro de la esfera de producción del fabricante, pero puede no estarlo, y mantener una autonomía en su labor. Y cabría añadir incluso un error en la codificación, esto es en la confección de los algoritmos empleados por la IA, que sería responsabilidad del codificador, lo que remite otra vez a lo expuesto con anterioridad.

Claro está que aun así estaríamos un tanto simplificando el problema. Y ello en la medida en que si, como muchos científicos piensan, una IA tiene capacidad autónoma de aprendizaje a partir de su propia experiencia y desarrolla rasgos cognitivos propios, como quiera que la finalidad de una IA es alcanzar un resultado predeterminado, realizar la tarea para la que se ha programado, y para ello se sirve de unos caminos trazados por parte del programador o formador, gracias a la inteligencia puede aprender y tomar caminos más directos y eficientes, al margen aquéllos, incluso desconocidos para el ser humano, y en esa transición provocar un daño. En estos casos estrictamente, la culpa no es atribuible al fabricante, al mantenedor o titular, al codificador o al formador. Habrá sido el propio mecanismo de raciocinio de la IA el causante directo del daño. -Es lo que vulgarmente se conoce como problemas relacionados con el efecto caja negra-

Por todo ello el sistema de responsabilidad objetiva parece en aras del principio de protección al perjudicado como el sistema más conveniente, para evitar esa pluralidad de responsabilidades que pueden frustrar una acción de reclamación por parte de la víctima, pero claro ello dificultaría la implantación de las IAs, perdiendo capacidad de modernización e innovación tecnológica, y a la postre competividad.

Buen parte de todas estas cuestiones vienen a latir en la propuesta de Directiva de adaptación de las reglas de la responsabilidad civil extracontractual a las IAS de septiembre de 2022.

La propuesta ya parte de una realidad constatable, cual es la imposibilidad de trasladar a las IAs las reglas de responsabilidad civil basadas en la culpa. Cabría pensar que cómo se va a trasladar si no se les reconoce a aquéllas capacidad alguna. Por la complejidad que la concreta atribución del real responsable, y sobre todo el alto coste económico -la prueba pericial en muchas ocasiones devendría compleja parecería, como se ha expuesto la lógica de una responsabilidad cuasi objetiva. Pero la propia resolución habla de la problemática que ello generaría de cara a la adaptación e implantación de las IAs en las empresas, si éstas se ven atemorizadas por las posibles demandas que tengan que enfrentar derivadas del uso de aquéllas con un sistema de responsabilidad objetiva.

La propuesta opta por una complementación de la responsabilidad civil derivada de productos defectuosos. Si en el mecanismo descrito, cabe entender que, dentro del proceso previo a la implantación de la IA, se da la concurrencia de los esfuerzos del productor, diseñador, formador y codificador, en todos ellos se dará la responsabilidad objetiva por productos defectuosos, que dará lugar a una indemnización por determinados tipos de daños, principalmente sufridos por particulares. Cumulativamente la propuesta incide en una responsabilidad que cubre las demandas nacionales de responsabilidad fundamentadas principalmente en la culpa de cualquier persona con el fin de indemnizar por cualquier tipo de daño y a cualquier tipo de víctima. Lo cual cubre además de los daños por culpa de fabricantes y demás intervinientes en el proceso, los daños que sean imputables a los titulares o encargados de mantenimiento de las IAs, pero el empleo del término personas me genera la duda de la responsabilidad cumulativa en los supuestos de responsabilidad causal exclusivamente atribuible a la IA -el efecto caja negra que entiendo sólo será cubiertos por la responsabilidad objetiva en los casos que prevé la regulación de productos defectuosos. Junto a ello lo que se prevé es una estricta regulación de los procesos de producción y fabricación que reduzcan las posibilidades de originar daño con carácter preventivo.

Finalmente, para garantizar una igualdad de armas, que haga más factible la tutela jurisdiccional de la víctima se pretende una regulación de la carga de la prueba del modo menos invasivo. ¿Cómo? Mediante el mecanismo de exhibición de pruebas por parte del proveedor y a través de las deducciones, presunciones iuris tantum, a través de un sistema, en mi opinión bastante complejo, con variadas excepciones, y que esencialmente vienen a diferenciar las demandas que se dirigen contra proveedores de IAs de alto riesgo o contra el usuario o titular de tales, y aún se diferencia en mayor medida si se hace un uso de aquéllas profesional o industrial, o meramente privado o particular -arts.3 y 4-.

Y así se dará esta presunción de causalidad de que el daño proviene de un sistema de IA siempre y cuando se cumplan todas las condiciones siguientes: a-, b y c-: que el demandante haya demostrado o el órgano jurisdiccional haya supuesto, de conformidad con el art.3, apado.5, la culpa del demandado o de una persona de cuyo comportamiento sea responsable el demandado, consistente en el incumplimiento de un deber de diligencia establecido por el Derecho de la Unión o nacional destinado directamente a proteger frente a los daños que se hayan producido que pueda considerarse razonablemente probable, basándose en las circunstancias del caso, que la culpa ha influido en los resultados producidos por el sistema de IA o en la no producción de resultados por parte del sistema de IA que el demandante haya demostrado que la información de salida producida por el sistema de IA o la no producción de una información de salida por parte del sistema de IA causó los daños.

Y esta presunción puede excluirse con mayor o menor probabilidad en función de si el demandado es proveedor de sistema de alto riesgo, de menos riesgo o un usuario que actúe privadamente

Y en todo caso el demandado puede probar y refutar la presunción de causalidad del daño, y que éste no se ha debido a la intervención del sistema de IA.

En conclusión: La propuesta plantea un complemento de responsabilidad a la ya existente derivada de productos defectuosos. En base a este complemento cualquier perjudicado o víctima que sufra un daño derivado de la actuación de un sistema de inteligencia artificial puede demandar no solo a los productores o proveedores, sino a cualquier persona, lo que entiendo permite actuar contra los usuarios y titulares de los mismos o los encargados de su mantenimiento.

En esta responsabilidad cumulativa, si bien no se adopta un sistema de responsabilidad objetiva, sí se establecen mecanismos para igualar la situación entre el perjudicado y supuesto responsable, jugando el mecanismo de las presunciones iuris tantum de causalidad del daño y de la culpa del demandado de concurrir una serie de requisitos, que se van modificando en función de la actividad que desarrolle el demandado.

La relevancia del tema planteado está fuera de toda duda: la ...

La relevancia del tema planteado está fuera de toda duda: la Inteligencia Artificial -IA revoluciona el estado de las cosas y del conocimiento, al menos en las formas, pero puede pretender también hacerlo en cuanto al fondo.

Como suele ser habitual, esta revolución tecnológica -y de la forma de acceder al conocimiento y a la información va muy por delante de los medios jurídicos adecuados que deben regular, entre otros aspectos, las consecuencias que su uso pueda provocar, entre ellas los perjuicios de todo tipo a empresas, organismos y a particulares.

En este marco nos encontramos con la Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial -Directiva sobre responsabilidad en materia de IA que expone que la cuestión de la responsabilidad civil figura entre los tres principales obstáculos a la utilización de la IA por parte de las empresas europeas. En una encuesta realizada con tal motivo se citó como el obstáculo externo más importante -43 % en el caso de las empresas que tienen previsto recurrir a la IA, pero que aún no lo han hecho.

Dicho texto sigue diciendo que: &ldquolas normas nacionales en vigor en materia de responsabilidad civil, particularmente las que se basan en la culpa, no son adecuadas para tramitar las denuncias de responsabilidad civil por daños causados por productos y servicios en los que se recurre a la IA. Con arreglo a dichas normas, las víctimas deben demostrar que ha habido una acción u omisión ilícita por parte de una persona que ha causado el daño. Las características específicas de la IA, incluidas su complejidad, su autonomía y su opacidad -el denominado efecto de «caja negra»-, pueden dificultar o hacer excesivamente costoso para las víctimas determinar cuál es la persona responsable y probar que se cumplen los requisitos para una demanda de responsabilidad civil admisible&rdquo.

Así pues, el objetivo de dicha propuesta es promover la introducción generalizada de una IA fiable, y lo hace, de forma sintética, de la siguiente forma:

-Por un lado, garantizando que las víctimas de daños causados por la IA obtengan una protección equivalente a la de las víctimas de daños causados por los demás productos.

-También reduce la inseguridad jurídica de las empresas que desarrollan o utilizan la IA en relación con su posible exposición a responsabilidad civil.

Pues bien, pasamos a responder las preguntas específicas formuladas en esta ocasión:

¿A quién reclamar?

En nuestro sistema de responsabilidad civil, presidido por la culpa, el art.1902 del Código Civil -CC -EDL 1889/1 dispone que: &ldquoEl que por acción u omisión causa daño a otro&hellip&rdquo, lo que lo convierte en responsable del daño con la obligación de resarcirlo. Pero ¿en el caso de los daños producidos por la IA quien es el que lo causa? Está claro que para la complejidad de la IA los postulados genéricos del art.1902 son totalmente insuficientes. Avanzando, se podría seguir con lo dispuesto en el Texto Refundido de la Ley General para la Defensa de los Consumidores y Usuarios -LGDCU -EDL 2007/205571-, que reproduce el patrón clásico de la responsabilidad por culpa, estableciendo que será responsable el productor o fabricante del producto términos de &ldquoproductor&rdquo o &ldquofabricante&rdquo que también parecen estar lejos de la realidad que concierne a la IA.

Así, en este nuevo marco tecnológico, la Resolución del Parlamento Europeo de octubre de 2020 contiene recomendaciones a la Comisión sobre el régimen de responsabilidad civil en materia de IA -2020/2014/INL-, disponiendo que la persona que crea, mantenga, controla o explota el sistema de IA, ha de ser responsable del daño o perjuicio que cause el dispositivo o la actividad que lleva a cabo el mismo. Considera, además, que la Directiva 85/374 del Consejo -EDL 2011/291762 sobre responsabilidad por los daños por productos defectuosos puede aplicarse en relación con las reclamaciones por responsabilidad civil formuladas frente al productor de un sistema de IA defectuoso.

¿Qué tipo de responsabilidad es?

Se parte de una responsabilidad basada en la culpa, criterio predominante en los ordenamientos jurídicos de los países de la UE. En nuestro caso rige el criterio general del art.1902 CC -EDL 1889/1-: &ldquoEl que por acción u omisión causa daño a otro, interviniendo culpa o negligencia, está obligado a reparar el daño causado&rdquo. La LGDCU -EDL 2007/205571 reproduce el patrón clásico de la responsabilidad por culpa. Pero, en nuestro sistema también existe una sólida tradición de objetivación de la responsabilidad cuando la actividad desarrollada crea un riesgo evidente que excede el actuar corriente, como sucede, v.gr., en la conducción de vehículos a motor, en la caza, etc. Evidentemente, la posibilidad de incluir la responsabilidad civil causada por la IA como objetiva -lo que parece claro en los casos de IA de alto riesgo requerirá de una previsión legal específica y la asunción de la necesidad de concertar seguros obligatorios.

En definitiva, se puede decir que, en el caso de un sistema de IA de alto riesgo -el que funciona de forma autónoma se abogaría por un sistema de responsabilidad objetiva del operador, y, en cambio, cuando el sistema de IA no sea de alto riesgo la responsabilidad se basará en la culpa, por lo que operador no será responsable siempre y cuando pueda demostrar que no tuvo culpa o negligencia en el daño causado.

¿Cómo se contempla en estos casos la distribución de la carga de la prueba?

En este punto se pretende conseguir un difícil equilibrio de los intereses en juego si se proclamara una inversión plena de la carga de prueba para el perjudicado sería la solución ideal para una mejor defensa de sus intereses y para la acreditación de su reclamación, pero podría acarrear que los operadores de IA desconfiaran de su uso. Hasta cierto punto somos partidarios de una inversión de la carga probatoria como consecuencia del riesgo que supone el uso de la IA -al menos en los casos de alto riesgo-, pero sentimos decir que esta no es la opción elegida actualmente por la UE.

Dicho lo anterior, el sistema que pergeña la Directiva es el siguiente:

-En los casos de daños causados por sistemas de IA de alto riesgo, las personas que soliciten una indemnización podrán instar la &ldquoexhibición de pruebas&rdquo para determinar las personas potencialmente responsables y las pruebas pertinentes de cara a una demanda, ¿a modo de diligencia preliminar del art.256 LEC -EDL 2000/77463-?

-Presunción de relación de causalidad en caso de culpa: es una presunción refutable de causalidad específica en relación con el nexo causal. Esta presunción es la medida menos gravosa para dar respuesta a la necesidad de una indemnización justa para la víctima. El demandante debe demostrar la culpa del demandado con arreglo a las normas nacionales o de la Unión aplicables, como, por ejemplo, por incumplimiento de un deber de diligencia en virtud de la Ley de IA o de otras normas establecidas a escala de la Unión, como las que regulan el uso de la supervisión y la toma de decisiones automatizadas para el trabajo en plataformas o las que regulan el funcionamiento de aeronaves no tripuladas.

La Propuesta de Directiva sobre responsabilidad en materia de IA est&am...

La Propuesta de Directiva sobre responsabilidad en materia de IA está relacionada funcionalmente con el Reglamento -UE 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 -Reglamento de Inteligencia Artificial publicado en el DOUE del día 12 de julio de 2024 -EDL 2024/13152-.

El Reglamento de IA establece los requisitos destinados a reducir los riesgos para la seguridad y los derechos fundamentales en relación con los sistemas de IA mediante la exigencia de autorizaciones, controles, seguimiento y sanciones administrativas con el fin de prevenir los daños, pero no establece el cauce para que un perjudicado por el daño causado por un sistema de IA pueda reclamar una indemnización.

La Propuesta de Directiva de IA persigue la armonización de determinadas normas nacionales de responsabilidad extracontractual basada en la culpa -subjetiva con la finalidad de garantizar que las personas que reclamen una indemnización por los daños y perjuicios que les cause un sistema de IA disfruten de un nivel de protección adecuado.

La Propuesta de Directiva de IA no armoniza los aspectos generales de la responsabilidad civil que están regulados por las normas nacionales de responsabilidad civil, como la definición de la culpa o la causalidad, los diferentes tipos de daños que dan lugar a demandas por daños y perjuicios, la distribución de la responsabilidad entre varios causantes de los daños, la concurrencia de culpas, el cálculo de los daños y perjuicios o los plazos de prescripción. Se limita a armonizar las normas que rigen la carga de la prueba para las personas que reclamen una indemnización por daños y perjuicios causados por sistemas de IA, fundamentalmente, a través del mecanismo de presunciones refutables o iuris tantum.

La Propuesta de Directiva IA solo abarca las demandas por daños y perjuicios que hayan sido causados por una información de salida -o por la no producción de una información de salida imputable a un sistema de IA cuando medie culpa de una persona, por ejemplo, el proveedor o el usuario con arreglo al Reglamento de IA. No comprende las demandas de responsabilidad cuando los daños hayan sido causados por una evaluación humana seguida de una acción u omisión humana y el sistema de IA se haya limitado a proporcionar información o asesoramiento que fue tenido en cuenta por el agente humano de que se trate. En este último caso, es posible atribuir los daños causados a una acción u omisión humana, ya que la información de salida del sistema de IA no se interpone entre la acción u omisión humana y el daño.

La Propuesta de Directiva de IA utiliza las mismas definiciones con respecto a los sistemas de IA, los proveedores y los usuarios a que se refiere el Reglamento IA, por lo que continuamente se remite a esta última norma para facilitar la determinación de los elementos subjetivos y objetivos de esta específica responsabilidad civil.

Ante la dificultad en la determinación de los sujetos responsables de los daños causados por sistemas de IA &ldquode alto riesgo&rdquo por el gran número de personas que participan en el diseño, desarrollo, introducción y funcionamiento de mismo se facilita a los perjudicados, potenciales demandantes, a modo de unas Diligencias Preliminares, que puedan solicitar a un órgano jurisdiccional que ordene la exhibición de las pruebas pertinentes antes de presentar una demanda por daños y perjuicios, siempre que presente hechos e información suficientes para acreditar la viabilidad de una demanda por daños y perjuicios y haya presentado previamente una solicitud al proveedor, a la persona sujeta a las obligaciones de un proveedor o al usuario para que exhiba dichas pruebas que obran en su poder sobre sistemas de IA de alto riesgo específicos de los que se sospeche que han causado daños y perjuicios, y que esta solicitud haya sido denegada.

Cuando un demandado en una demanda de indemnización por daños y perjuicios no exhibe las pruebas a su disposición según lo ordenado por un órgano jurisdiccional, procede establecer una presunción de incumplimiento de las obligaciones de diligencia que dichas pruebas debían demostrar.

La Propuesta de Directiva cubre la culpa constitutiva de incumplimiento de determinados requisitos enumerados en los capítulos 2 y 3 del Reglamento IA para los proveedores y usuarios de sistemas de IA de &ldquoalto riesgo&rdquo, cuyo incumplimiento puede dar lugar, en determinadas condiciones, a una presunción de causalidad.

Podrán darse situaciones en las que no se den al perjudicado las dificultades para determinar el nexo causal al disponer de suficientes pruebas y conocimientos especializados para demostrar el nexo causal, por lo que en estas estas situaciones, el órgano jurisdiccional no debe aplicar la presunción.

Por último, la Propuesta de Directiva IA es una norma de mínimos por lo que nada impide que en las legislaciones nacionales se prevea ya en este ámbito un sistema de responsabilidad civil más favorable para el perjudicado como puede ser la inversión de la carga de la prueba o un sistema de responsabilidad sin culpa o responsabilidad objetiva.

La Propuesta de Directiva IA prevé que en el plazo de cinco años se procederá a su reevaluación por si se considera adecuado establecer con carácter general un sistema de responsabilidad objetiva e, incluso un seguro obligatorio.