La IA y su futura regulación puede modificar de forma sustancial el concepto actual del derecho de daños

Primeras conclusiones del I Congreso Internacional sobre Responsabilidad Civil y Seguro del ICAM, en el que se abordaron cuestiones clave en esta materia desde el derecho comparado

Javier Escolano
Javier Escolano
Periodista jurídico

Durante dos días, el ICAM convirtió a Madrid en la capital mundial del derecho de daños. Por su salón de actos desfilaron profesionales de primer nivel de jurisdicciones como EEUU, Inglaterra, Escocia, Francia, España, Italia o Polonia, muchos de ellos vinculados a PEOPIL, asociación paneuropea del derecho de daños. Su presidenta, Ana Romero, leía el pasado viernes 10 de mayo las conclusiones de este I Congreso Internacional de Responsabilidad Civil y Seguro.

“Con la celebración de este Congreso en el ICAM y el apoyo de su sección de responsabilidad civil y seguros, y de ANAVA-RC, hemos dado un paso importante de cara a constituir una comunidad internacional de expertos en derecho de daños. A lo largo de estas dos jornadas, gracias a nuestros ponentes, hemos abordado el derecho de daños desde una perspectiva del derecho comparado. Se han generado discusiones muy fructíferas”, destacaba.

Salón de Actos del ICAM durante el I Congreso Internacional de RCyS

Esta jurista, acompañada de José Antonio Badillo, copresidente junto con Manuel Castellanos de la citada sección de RC y Seguro en el ICAM, subrayaba también que “el espíritu de PEOPIL es el de compartir y generar cambios. Conectar a profesionales del derecho de daños de todo el mundo. Esto lo queremos hacer continuamente ya que redunda en el derecho de acceso a la justicia y refuerza la confianza en el derecho de daños, herramienta crucial no solo a nivel de reparación sino para introducir mejoras en la seguridad y en la salud”.

En ese contexto, Romero hacía suyas unas palabras del ex fiscal de Sala de Seguridad Vial, Bartolomé Vargas, actualmente of counsel de penal económico de la boutique legal Monedero & Gil Crespo, “que indicaba que la clave del derecho de daños está en la persona, y el derecho de daños la pone en el centro. Durante dos días, este Congreso ha sido el centro del derecho de daños con ponencias que han analizado su problemática con las normativas comunitarias que se avecinan y de las que PEOPIL ha presentado informes a la UE”.

Por su parte, José Antonio Badillo destacaba el matiz internacional del evento, “hemos visto muchas cuestiones a nivel de derecho comparado, tanto a nivel procesal, derecho sustantivo o directivas comunitarias. Vemos que no hay tantas diferencias con países de nuestro entorno, salvo con EEUU. Nos llevamos todos una idea más globalizada de la RC, del derecho de daños y de los sistemas de nuestro entorno”.

Algo que ya fue comentado en la inauguración de este evento por el propio Eugenio Ribón, decano del ICAM, al indicar que la responsabilidad civil es uno de los pilares del Derecho. “Cualquier seguro de RC que se cree, se hace para reducir el daño a organizaciones y empresas públicas producido por terceros. Es importante definir bien en este mundo global las relaciones de la responsabilidad civil con las herramientas de IA, ahora pendiente de la directiva de producto defectuoso que está a punto de aprobarse”.

De izq. a dcha.: Ana Romero, presidenta de PEOPIL; Eugenio Ribón, Decano del ICAM; Manuel Castellanos, copresidente de la Sección de RCyS ICAM

La revolución de la IA

En el primer día de este Congreso, juristas como Iñigo Navarro, Profesor de Derecho Civil (ICADE) y Decano de la Facultad de Derecho de la Universidad Pontificia Comillas (2011-2021), y Bárbara de la Vega, Profesora Titular de Derecho Mercantil de la Universidad Carlos III de Madrid y Beneficiaria de una Ayuda a la Investigación Ignacio H. De Larramendi 2023 de Fundación MAPFRE, debatieron sobre el posible impacto de la IA en la responsabilidad civil. Este debate fue moderado por Carlos Villacorta, abogado de daños y socio de PEOPIL y de ANAVA-RC.

Para Navarro, uno de los codirectores del Observatorio LegalTech que ICADE ha puesto en marcha con el despacho Garrigues, se ha hablado de IA desde los años cincuenta, pero lo importante son las herramientas de IA generativa que han aparecido en los últimos cinco años. “Esta es una herramienta que va evolucionando año a año. Ahora se habla de la IA Generativa, pero no sabemos cuándo se va a detener”.

Otra cuestión que comentó es que “está basada en algoritmos. No piensa como nosotros pensamos, pero es predictiva. Por sus resultados, se aproxima a la inteligencia humana, sin embargo, eso la hace difícil de regular”.

En opinión de De la Vega, no debemos dejar de tener en cuenta que estamos ante una herramienta. Su perspectiva es instrumental, con lo cual, a la hora de estudiar cuestiones de responsabilidad civil y su posible culpa, no hay que obviar nuestros pilares jurídicos porque es solo un instrumento que va a cambiar de forma notable en los próximos años.

Respecto a la necesidad de regular esta tecnología emergente, “aunque tiene muchas ventajas y nos va a solucionar muchas cuestiones en nuestras vidas, conviene su regulación. Genera bastantes riesgos y no es cuestión de suprimirla, sino de regularla. Hay que establecer distintas reglas para que no dañe, sea honesta y dé a cada uno lo suyo como decía el jurisconsulto Ulpiano”, indicó Navarro.

Iñigo Navarro Profesor de Derecho Civil (ICADE). Decano de la Facultad de Derecho de la Universidad Pontificia Comillas (2011-2021).

Con más precisión, indicó que “las reglas de no dañar tienen que ver con la responsabilidad civil, aquí tenemos dos directivas que se están ultimando: una de responsabilidad civil por producto defectuoso y otra de responsabilidad civil extracontractual a la IA. Sobre la honestidad, ahí entra de lleno el Reglamento de IA, que es bastante complejo, donde queda definido lo que está prohibido y cómo tienen que funcionar esos otros niveles de riesgo”.

Navarro también recordó que frente al modelo garantista europeo de regulación de IA, EEUU y China quieren poner en el primer nivel de competitividad a esos países, “así lo han manifestado recientemente en distintos comunicados. Prima más la competencia que otra cosa. Europa tenía que hacer algo frente a estos dos gigantes mundiales. En nuestro caso, es más garantista y de protección de los derechos de terceros. Es un modelo parecido a lo que está pasando con el RGPD en la regulación”.

Por su parte, Bárbara de la Vega observa que “la regulación aprobada en el Reglamento de IA busca el equilibrio entre la innovación y los derechos fundamentales de las personas, protegiendo unos derechos mínimos. El problema es que en otros países como EEUU y China no existe dicha protección y se apuesta claramente por el negocio sin restricciones. Es difícil ser competitivos así. Nosotros legislamos de otra manera y somos bastante garantistas”.

Esta experta hace otro símil cuando habla de la normativa de secreto empresarial aprobada en el marco de la UE: “en Europa no teníamos nada, de ahí que se aprobara dicha regulación para ser más fuertes y competitivos ante los gigantes chino y norteamericano. De todas formas, en Europa se legisla de manera diferente a estos países antes mencionados”.

A juicio del experto de ICADE, “es posible que las directivas sobre producto defectuoso y regulación extracontractual que están a punto de aprobarse en la UE puedan ayudar a la regulación de la IA en materia de daños. Es importante desde esa perspectiva contar con elementos éticos que respalden dicha regulación. Los daños asociados son importantes, de ahí que sea necesaria la regulación que se ha ultimado en Europa. Habrá que ver cómo se implementan dentro de dos años en nuestro país estas otras directivas”.

Para De la Vega, “la normativa de IA aprobada hasta la fecha es muy compleja de aplicar por todas las categorías que conlleva, frente a los modelos chinos y americanos que no tienen apenas restricciones sobre el desarrollo de estas herramientas. Eso puede generar la problemática de que la normativa pueda frenar la innovación en el continente europeo. Sin embargo, creo que ha sido un acierto regular la IA porque los riesgos que subyacen de la implementación de esta normativa son muy elevados”.

Bárbara de la Vega, Profª. Titular de Derecho Mercantil de la Universidad Carlos III de Madrid

Un debate abierto sobre el derecho de daños

Ambos expertos son conscientes de la existencia de un debate abierto sobre si las herramientas de IA pueden tener personalidad jurídica y se les puede reclamar por esos daños que genera su implementación. Para Bárbara de la Vega, hay un problema ético en cuanto al control de las herramientas. Quizás la única solución es desconectar la herramienta para frenar su actividad cuando esta vaya a generar daño. “No es fácil hacerlo ni tampoco reconocer esa personalidad jurídica”, apunta.

Esta jurista es consciente de que las IA están tomando decisiones, lo que puede generar que tengan ciertas obligaciones jurídicas. Subraya que es difícil reconocer esa personalidad jurídica propia. Recuerda que en la primera fase de regulación europea se hablaba de ese reconocimiento, incluso como contrapartida de un seguro de responsabilidad civil para los supuestos de IA llamados graves. A día de hoy, se ha retirado esa postura, ya no se habla en el Reglamento y en sus considerandos del reconocimiento de su personalidad jurídica. “Es un reto para la regulación esta situación”.

Por su parte, Iñigo Navarro recordó que “si Cambridge Analytics influyó de forma notable en el referéndum del Brexit al manipularse con votos, ¿qué no se puede hacer dentro del ámbito contractual? Es posible que exista un dolo realizado con algoritmos. Junto a ello, el tema de la diligencia es importante y puede alterarse. Así también tenemos el concepto de error y de consentimiento contractual, con lo que la IA va a afectar de manera notable al mundo de los contratos”.

En su opinión, “hay que ir resolviendo las cuestiones a medida que vayan surgiendo, aunque para cuando el Tribunal Supremo defina lo que es el dolo de los algoritmos, es muy posible que dichos algoritmos hayan evolucionado hacia otra cosa. De todas formas, herramientas como el Código Civil y el consentimiento contractual nos van a ayudar a analizar las herramientas de IA”.

Para Bárbara de la Vega, se está regulando la IA de forma progresiva, según se conoce. “Sin perjuicio de una regulación común, es posible que tengamos diferentes regulaciones sectoriales, en función de dónde se vayan a aplicar esas herramientas de IA. Al final, lo conectamos con el concepto de diligencia debida. Hay una directiva sobre este tema que acaba de aprobarse. Quizás se podría aplicar de alguna forma a las herramientas de IA”.

Esta experta recordó que a día de hoy no es obligatorio tener una póliza de RC vinculada a la IA. “En el estudio que realizo para Mapfre estamos viendo cómo implementar un seguro de responsabilidad a terceros en este tipo de situaciones, como el que ya existe en ciber riesgos, pero habrá que definir muy bien sus condiciones y póliza. No tenemos un cálculo actuarial previo para definir bien sus conceptos y características”.

Mesa redonda sobre «Responsabilidad civil derivada del uso de la inteligencia artificial»

Respecto al estudio de investigación que está realizando, “estamos viendo cuáles serían los sujetos porque hay que ponerlos en consonancia con los sujetos regulados en el Reglamento de IA, hay que ver las coberturas del seguro. A día de hoy, el Reglamento de IA solo cita el seguro para actividades peligrosas o de alto riesgo, pero es solo algo genérico. Al mismo tiempo, será importante los fondos de de compensación con estos seguros”.

En el turno de preguntas se abordó la problemática de si con la demanda que se interponga contra el uso defectuoso de la IA al abogado en cuestión se podría demandar a la empresa fabricante. En el mismo sentido, se preguntó a los ponentes sobre el médico que utilice de forma negligente herramientas de IA, si es susceptible de demandarse a la empresa fabricante, además de al médico y al propio hospital. En estos casos parece que la futura directiva sobre producto defectuoso abre la puerta a dichas reclamaciones.

Javier Escolano
Javier Escolano
Periodista jurídico

Contenidos destacados

- Publicidad -spot_img
- Publicidad -spot_img

CONTENIDOS RELACIONADOS

Un año después de su relanzamiento, la Corte de Arbitraje del...

José Ignacio Monedero, presidente de la institución como diputado de la Junta de Gobierno del Colegio, se muestra satisfecho de los hitos conseguidos hasta el momento

La banca española, ejemplo a la hora de financiar y desarrollar...

Expertos de entidades públicas y privadas debatieron en el Congreso de Derecho Bancario sobre los criterios ESG en el sector financiero

El Observatorio de Segunda Oportunidad del ICAM arranca su andadura advirtiendo...

Con 2.182 concursos de personas físicas en 2023, Madrid se queda lejos de los 4.622 gestionados en Cataluña y los 2.426 de Valencia, según el primer el informe presentado por el Observatorio

Abogados de oficio atrapados en la defensa de personas jurídicas: “trabajamos...

El Ministerio de Justicia lleva cinco años sin abonar las designaciones de oficio para defender a personas jurídicas, tal y como ha denunciado el decano del ICAM en una misiva al ministro Bolaños