El presidente de la Sección de Robótica e Inteligencia Artificial del Colegio de la Abogacía de Madrid analiza en esta entrevista las implicaciones jurídicas del uso de sistemas de inteligencia artificial en el ejercicio profesional. Desde la responsabilidad frente al cliente hasta las cláusulas que deben figurar en los contratos con proveedores tecnológicos, Santiago Mediano recuerda que la incorporación de herramientas automatizadas no reduce las exigencias éticas ni técnicas de la abogacía, sino que añade nuevas obligaciones de control, supervisión y formación constante.
Si un abogado se apoya en una herramienta de IA para redactar un escrito o asesorar a un cliente, y el sistema comete un error, ¿quién responde jurídicamente?
Desde un punto de vista estrictamente profesional, ético y jurídico, la responsabilidad frente al cliente recae de manera clara y directa sobre el abogado. El abogado tiene obligaciones muy precisas de diligencia profesional, que exigen revisar, supervisar y validar personalmente toda información, documento o asesoramiento proporcionado a su cliente, independientemente de que utilice herramientas tecnológicas en el proceso. Esto implica que el abogado no puede eximirse o atenuar su responsabilidad alegando errores atribuibles exclusivamente al sistema de IA utilizado. El abogado mantiene siempre la obligación de conocer, entender y evaluar adecuadamente el resultado obtenido con estos sistemas antes de entregar cualquier resultado al cliente.
Es importante subrayar que en la relación abogado-cliente prevalece una responsabilidad basada en la diligencia y la pericia profesional propia de la abogacía. El estándar jurídico que aplica es el de una responsabilidad por culpa profesional, donde el abogado debe demostrar haber actuado conforme a la lex artis propia de su profesión. Esto significa que el abogado deberá responder íntegramente frente a su cliente cuando no haya cumplido adecuadamente con los deberes profesionales exigidos, independientemente de que se apoye o no en tecnologías de IA.
En este contexto, la Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos, aunque contempla explícitamente la posibilidad de considerar defectuosos los sistemas de IA, no es aplicable directamente para eximir o reducir la responsabilidad del abogado frente a su cliente. La razón fundamental radica en que esta directiva está diseñada para proteger a consumidores o usuarios finales de productos defectuosos frente a fabricantes, proveedores o distribuidores. La relación entre abogado y cliente está presidida por normas específicas del derecho profesional y contractual que determinan que el abogado no es un mero usuario final frente al cliente, sino un prestador de servicios profesionales altamente especializado y sometido a estándares profesionales muy rigurosos.
Otra cuestión, sería el dirimir si el abogado podría ejercer acciones frente al proveedor del sistema de IA cuando el error se deba claramente a un defecto inherente al software o algoritmo, facilitando así una posible acción de repetición posterior. Sin embargo, frente al cliente, esta circunstancia no excluye ni atenúa la responsabilidad directa e inmediata del abogado.
El uso de la IA introduce un deber adicional de vigilancia y actualización técnica del abogado, quien debe conocer adecuadamente los límites y riesgos de estas herramientas, asegurándose de que las utiliza adecuadamente dentro de los parámetros profesionales exigidos. Si el abogado ignora estos límites o no ejerce un control suficiente sobre los resultados proporcionados por la IA, podría incurrir en una falta de diligencia que reforzaría aún más su responsabilidad jurídica frente al cliente.
En conclusión, el error cometido por un sistema de inteligencia artificial utilizado por un abogado para redactar escritos o asesorar no excluye ni limita la responsabilidad directa del abogado frente al cliente. El abogado permanece siempre obligado a verificar, supervisar y corregir cualquier información generada por estas herramientas antes de transmitirla a sus clientes. La posible responsabilidad objetiva del fabricante del software bajo la Directiva de productos defectuosos es un asunto secundario y separado que afecta únicamente las relaciones posteriores del abogado con el proveedor tecnológico, pero nunca su obligación principal frente al cliente.
¿Qué deberes de diligencia técnica y jurídica debe seguir un despacho al contratar un proveedor de tecnología legal?
La diligencia técnica y jurídica que un despacho de abogados debe observar al contratar un proveedor de tecnología legal implica un conjunto amplio y riguroso de actuaciones y precauciones. El despacho no puede limitarse a asumir pasivamente las promesas o garantías del proveedor, sino que debe adoptar una posición activa y proactiva en la evaluación, selección y supervisión de dicho proveedor tecnológico.
Desde el punto de vista técnico, los deberes de diligencia exigen que el despacho verifique exhaustivamente la calidad, seguridad y fiabilidad del producto o servicio tecnológico antes de implementarlo en su práctica diaria. Este proceso implica la realización de demostraciones prácticas y pruebas piloto bajo condiciones reales de uso, permitiendo así comprobar su funcionamiento efectivo y adecuado a las necesidades del despacho y sus clientes. Además, se deben exigir auditorías técnicas independientes del sistema para garantizar que cumple con los más altos estándares técnicos, especialmente en materias sensibles como seguridad informática, protección de datos personales y estabilidad operativa.
Una parte esencial del deber de diligencia técnica consiste en evaluar la transparencia y la explicabilidad del sistema de IA utilizado. El despacho debe comprender claramente cómo opera el algoritmo, qué criterios emplea para la toma de decisiones y cómo procesa y gestiona los datos. Esto resulta crítico para prevenir o mitigar riesgos derivados de decisiones sesgadas, discriminatorias u opacas, que podrían generar responsabilidades frente a terceros y, particularmente, frente a clientes.
Jurídicamente, el despacho tiene la obligación de revisar en profundidad los términos contractuales propuestos por el proveedor. Esto incluye la negociación de cláusulas específicas que regulen claramente aspectos esenciales como la atribución de responsabilidad en caso de fallos o defectos, las garantías ofrecidas por el proveedor respecto a la seguridad y la privacidad de la información procesada, y los compromisos explícitos en torno a la protección de datos personales en línea con el Reglamento General de Protección de Datos.
Asimismo, es indispensable incorporar en el contrato cláusulas relativas a la trazabilidad y auditoría del sistema. El despacho debe exigir al proveedor mecanismos que permitan un control efectivo sobre cómo se ha desarrollado, entrenado y actualizado el sistema de IA, además de procedimientos claros que garanticen una auditoría independiente periódica para verificar el cumplimiento normativo y técnico continuo del sistema.
El despacho debe verificar también de forma detallada el cumplimiento por parte del proveedor del Reglamento Europeo sobre Inteligencia Artificial (RIA) y de la Directiva sobre responsabilidad por productos defectuosos, asegurando así un marco normativo claro y sólido que reduzca riesgos legales futuros.
Adicionalmente, forma parte del deber de diligencia realizar una evaluación rigurosa sobre la solvencia económica y técnica del proveedor. Esto implica revisar que disponga de certificaciones oficiales adecuadas, que tenga implementados procesos internos robustos para gestionar incidentes técnicos y jurídicos, y que disponga de seguros adecuados para responder frente a posibles responsabilidades derivadas de errores técnicos o legales.
Por último, es aconsejable que el despacho establezca mecanismos periódicos de supervisión y revisión continuada del proveedor, con objeto de asegurarse que, durante toda la duración del contrato, se mantengan vigentes los estándares técnicos y jurídicos inicialmente exigidos. Esta supervisión continua es crucial para garantizar que el uso de tecnología legal se mantenga en condiciones de seguridad y legalidad, permitiendo al despacho reaccionar rápidamente ante cualquier incidente o desviación de los estándares acordados.
En definitiva, los deberes de diligencia técnica y jurídica implican una vigilancia activa y constante del despacho hacia el proveedor tecnológico, para asegurar no solo la protección efectiva de los derechos e intereses propios del despacho, sino también, y fundamentalmente, los de sus clientes.
¿Qué tipo de cláusulas contractuales debería exigir un despacho a un proveedor de IA legal?
Al contratar servicios tecnológicos que implican el uso de IA para apoyo legal, un despacho debe asegurarse de contar con cláusulas contractuales sólidas que protejan adecuadamente sus intereses y los de sus clientes frente a posibles riesgos jurídicos y técnicos. Estas cláusulas deben contemplar detalladamente diversas áreas sensibles para garantizar un marco legal claro y eficaz.
En primer lugar, son fundamentales las cláusulas de responsabilidad. Estas deben definir claramente la responsabilidad específica del proveedor por defectos en el sistema, errores operativos, fallos técnicos o daños consecuenciales derivados directamente del mal funcionamiento del software o algoritmos. Es recomendable especificar qué se considera defecto o fallo, alineándose con la terminología y los estándares establecidos en normativas como la Directiva (UE) 2024/2853 sobre productos defectuosos.
Además, deben incluirse cláusulas detalladas sobre explicabilidad y transparencia. El proveedor debería comprometerse expresamente a suministrar información completa sobre el funcionamiento interno del sistema de IA, especialmente en cuanto a la lógica y criterios utilizados por los algoritmos. Esto resulta clave para asegurar que el despacho pueda comprender cómo toma decisiones la IA y evaluar adecuadamente la idoneidad técnica y ética del sistema. La explicabilidad permite que el despacho pueda defenderse eficazmente frente a eventuales reclamaciones, auditorías o litigios que involucren decisiones tomadas por sistemas automatizados.
La trazabilidad es otra área crítica que requiere cláusulas específicas. El proveedor debe comprometerse a mantener registros precisos y detallados sobre el desarrollo del sistema, especialmente acerca de cómo se han entrenado los modelos, cuándo y cómo se han realizado actualizaciones, y qué decisiones concretas se han tomado mediante la IA. Esto es fundamental no solo para cumplir con requerimientos legales específicos de transparencia y auditabilidad, sino también para facilitar posibles investigaciones o litigios futuros que puedan surgir en torno a decisiones automatizadas o asesoramientos basados en IA.
El contrato también debe prever cláusulas claras sobre la posibilidad de realizar auditorías independientes. El despacho debe conservar el derecho explícito a solicitar y realizar auditorías técnicas y jurídicas independientes periódicas, preferentemente a cargo de terceros especializados, para certificar la fiabilidad, seguridad, cumplimiento normativo y adecuado funcionamiento del sistema durante toda la vigencia del contrato.
Otra cláusula esencial es la relativa a actualizaciones y mantenimiento. Debe exigirse al proveedor un compromiso expreso y detallado sobre la realización periódica de actualizaciones del sistema, así como la implementación continua de mejoras en seguridad informática. Esta obligación debe incluir la rápida corrección de vulnerabilidades o defectos técnicos que pudieran detectarse durante la utilización práctica del software.
La protección de los datos personales manejados por el sistema es un elemento crucial, por lo que es imprescindible una cláusula específica de protección de datos. El proveedor debe asumir compromisos estrictos de cumplimiento con el Reglamento General de Protección de Datos (RGPD), especificando concretamente obligaciones sobre cifrado, seguridad de la información, localización geográfica de servidores y procedimientos claros para el tratamiento transparente y seguro de datos personales.
Finalmente, deben incluirse cláusulas de indemnización y seguro. El proveedor debe comprometerse expresamente a indemnizar al despacho por cualquier daño directo o indirecto derivado de defectos del sistema o incumplimientos contractuales. Además, debe estar obligado contractualmente a disponer de pólizas de seguro adecuadas que cubran suficientemente los riesgos específicos asociados al uso de la inteligencia artificial en el ámbito legal, proporcionando una garantía adicional frente a posibles perjuicios.
