Moisés Barrio, Letrado del Consejo de Estado: “La IA no es tu competencia, es tu asistente”
Entrevistamos al experto y consultor internacional en regulación digital con motivo del Congreso IA, Derecho y Empresa que organiza Lefebvre el próximo 22 de mayo.
Moisés Barrio acaba de publicar «Claves Prácticas Reglamento UE de inteligencia artificial», disponible desde el 30 de abril, editado por Lefebvre. Además, participará como ponente en el Congreso IA, Derecho y Empresa organizado por Lefebvre y que se celebra en Madrid el próximo 22 de mayo.
En la obra expone de forma sistemática y práctica todos los aspectos jurídicos, técnicos y éticos para poder aplicar la norma, con referencias a los actos de desarrollo y aplicación ya aprobados por la Comisión Europea y a la jurisprudencia del TJUE que puede ayudar a interpretar los puntos controvertidos de la regulación. También analiza la futura Ley para el buen uso y la gobernanza de la inteligencia artificial en España. ¿Cuáles son los puntos más controvertidos de esta regulación y el motivo de esta controversia?
El RIA regula un campo tecnológico en rápida evolución, abarcando una amplia variedad de sistemas de IA con aplicaciones en sectores tan diversos como la salud, el transporte, los seguros, la justicia, la educación o el empleo. Esta diversidad dificulta establecer reglas generales que sean aplicables a todos los contextos sin ser excesivamente vagas o restrictivas. Asimismo, el reglamento debe coexistir con otras regulaciones europeas ya en vigor, como el Reglamento General de Protección de Datos (RGPD), la Directiva de Ciberseguridad (NIS2) o la legislación sobre responsabilidad por productos defectuosos. Esta interacción genera complejidad, ya que las empresas deben garantizar que sus sistemas de IA cumplen simultáneamente todos los marcos normativos del Derecho digital. Por eso, el libro aborda estas cuestiones de forma sistemática, proporcionando referencias a la jurisprudencia del TJUE y a los actos de la Comisión Europea, para poder esclarecer los puntos más controvertidos y orientar su aplicación práctica.
El RIA es la primera regulación jurídica general de la inteligencia artificial (IA) en la UE que será de aplicación en 2026. ¿Por qué motivos principales se establece un marco regulatorio horizontal?
Un marco regulatorio horizontal implica una normativa general aplicable a todos los sectores y usos de la IA, en contraposición a regulaciones específicas por sector, lo cual sería muy complejo de articular y aumentaría de forma injustificada la carga regulatoria. Los motivos principales para adoptar este enfoque fueron la diversidad de aplicaciones de la IA, pues esta súpertecnología prácticamente puede aplicarse a cualquier sector, la necesidad de preservar el mercado digital único, y el fomento de la confianza y seguridad jurídica en toda la Unión.
¿Cuáles son sus principales paradigmas regulatorios y en qué puntos su radica su importancia?
El RIA sigue el paradigma regulatorio basado en el riesgo, que se introdujo en el Derecho digital europeo con el RGPD. Se persigue fomentar una mayor responsabilidad de los agentes públicos y privados sobre los posibles efectos colaterales relacionados con el uso de las tecnologías digitales o el tratamiento de datos personales. Se plasma en un marco normativo de naturaleza principal, en el cual los deberes y obligaciones se escalonan y adaptan a los riesgos concretos derivados de una actividad específica. Se supera así la lógica binaria de cumplimiento/incumplimiento en términos clásicos kelsenianos por una nueva forma de “cumplimiento 2.0” habitualmente denominada cumplimiento normativo o compliance. Con ello, el RIA protege los derechos fundamentales y la seguridad de los ciudadanos sin impedir la innovación, lo que es crucial para mantener la competitividad de la UE frente a potencias como EE.UU. y China, y lo hace con medidas muy relevantes como la exención de cumplimiento del reglamento en la fase de I+D+i, el régimen simplificado de cumplimiento para PYMES y startups, los espacios controlados de pruebas o sandboxes o las habilitaciones a la Comisión Europea para adaptar la regulación, en más o en menos, al progreso tecnológico.
¿Cuál es el público objetivo a quienes va dirigido este libro? ¿puede servir de guía para los profesionales? ¿y para los que quieran acceder a la profesión?
El público destinatario del libro no es únicamente aquellos involucrados en el desarrollo, aplicación y regulación de la inteligencia artificial, tanto en el sector público o privado, sino todos los profesionales porque todos los operadores jurídicos nos vemos afectados por la utilización de la IA, que es uno de los habilitadores clave en los procesos de transformación digital en los que estamos en curso. Y naturalmente para los estudiantes de Derecho y próximos abogados, porque ha sido escrita para ser una obra ágil y rápida de leer, con explicaciones claras de los puntos clave del RIA. Esto la hace accesible para estudiantes, recién graduados o profesionales en formación que aún no tienen experiencia profunda en Derecho digital.
Usted ha afirmado que los despachos y asesorías jurídicas están buscando perfiles de profesionales que entiendan no solo del ordenamiento jurídico sino también de tecnología, ¿nos diría exactamente en qué tipo de especialización deberían formarse los futuros abogados?, y los abogados en ejercicio ¿deben seguir formándose o no lo considera necesario? ¿en qué competencias?
Partiendo de la base de una sólida formación en Derecho, todo profesional tiene que comprender la tecnología en una doble dirección. Primero, como una parte de la realidad que transforma, con nuevas herramientas, la forma de realizar el trabajo y prestar los servicios en todos los sectores, tanto en el ámbito privado como público. Y segundo, desde la óptica de las consecuencias jurídicas que la disrupción tecnológica trae consigo y sobre las cuales hay que prestar asesoramiento jurídico. Por eso, los futuros abogados tienen que conocer las materias objeto del Derecho digital y las herramientas legaltech, mientras que los abogados en ejercicio nos tenemos que actualizar continuamente en herramientas tecnológicas y competencias transversales para no quedarnos atrás. La clave está en abrazar el cambio y ver la tecnología como una aliada para mejorar la práctica jurídica, no como una amenaza.
Usted participa en el Congreso IA, Derecho y Empresa de Lefebvre del próximo 22 de mayo. En esta segunda edición, ¿qué destacaría del evento como principales puntos de interés para los profesionales?
A mi juicio, el evento fomenta el diálogo abierto, el intercambio de ideas y la colaboración entre profesionales del Derecho, líderes empresariales y expertos en tecnología que realmente trabajamos con IA. Por ello, ofrece una versión real de las posibilidades y estado actual de implementación en las profesiones jurídicas. Es decir, el Congreso es una "brújula" para entender el estado del arte y próximos pasos de aplicación de la IA en el ámbito jurídico-empresarial. Por eso, el Congreso se consolida como un foro imprescindible para explorar cómo integrar la IA en la práctica diaria de despachos y asesorías jurídicas, con un enfoque en aplicaciones prácticas más que divertimentos exclusivamente profesorales.
¿Qué principales habilidades deberá tener el abogado del futuro?
El abogado del presente, porque la sociedad digital no es el futuro sino la sociedad a secas, va más allá de ser jurista. Tiene que poseer las habilidades técnicas y blandas para adaptarse a los cambios tecnológicos, sociales y regulatorios. Es preciso una mentalidad ágil para trabajar en entornos cambiantes y multidisciplinares. Por eso, es también gestor, comunicador, estratega y se maneja con éxito en los vigentes entornos VUCA en los que nos encontramos, caracterizados por la volatilidad, la incertidumbre, la complejidad y la ambigüedad. Sabe así anticiparse y mitigar los riesgos en escenarios futuros. Todo ello sin perder de vista que el jurista debe tener una sólida formación en Derecho. Las ramas del árbol no deben olvidar el troco. La clave estará en combinar el conocimiento técnico con las habilidades humanas que la IA no puede reemplazar.
Interviene habitualmente en cursos, seminarios y charlas ¿Cuáles son las principales preocupaciones relacionados con la IA que le plantean y por qué motivos?
A nivel más general, algunas voces y muchos ciudadanos albergan expectativas o expresan preocupaciones sobre la IA que no se basan en lo que la tecnología es capaz de hacer actualmente o en lo que podemos decir con seguridad que se logrará en los próximos decenios, sino en extrapolaciones que se asientan ante todo en temores y distopías. En cambio, cuando un cliente busca asesoramiento para utilizar IA, lo que me solicita es poder utilizarla con plenas garantías, asegurar que se cumple el Derecho y elegir un socio tecnológico robusto y solvente frente al en parte excesivo hype de algunos fabricantes y proveedores.
¿Nos daría su opinión profesional para enfrentar de manera precisa todas las reticencias o los miedos del sector jurídico sobre la aplicación de la IA?
A mi juicio, la clave es conocer cómo realmente funcionan las tecnologías agrupadas bajo el supraconcepto de IA. No es preciso saber programar, pero si una cierta formación técnica. Una vez que conocemos cómo funcionan las principales direcciones de la IA, y especialmente el popular aprendizaje automático, el machine learning, donde se encuadra la IA generativa, podemos determinar las posibilidades realistas que nos ofrece, los riesgos, las ventajas y la mejor forma de aprovecharnos de su potencial. No olvidemos que la IA no es magia, es un software que es, hasta cierto punto, inteligente. Por eso, como ocurre con un procesador de textos o un smart phone, la IA no es tu competencia, es tu asistente.
Reglamento UE de inteligencia artificial (Incluye los actos de desarrollo y ejecución de la AI Act)