Esta es la principal conclusión derivada del encuentro ‘La Ley Europea de Inteligencia Artificial: Impacto en las empresas (proveedoras y usuarias)”, organizado en Madrid por el despacho Herbert Smith Freehills, que ha reunido a representantes de IBM, BBVA y MAPFRE, además de expertos en la materia del bufete internacional, para analizar la ley aprobada el pasado 13 de marzo por el Parlamento Europeo. Una normativa pionera en el mundo, que posiciona a Europa en un papel de liderazgo, y que supone una gran repercusión sobre las empresas tanto proveedoras (desarrolladores y fabricantes), como usuarias de estas tecnologías.
Durante el debate, moderado por Pablo García Mexía, director de Derecho Digital del despacho, Esther Parramón, senior manager de Data Advanced Analytics en BBVA, aseguró que “se trata de una norma que no deja de lado la innovación, centrada en los casos de uso y no en la tecnología y, a la vez, garantista, creando seguridad legal, puesto que los desarrolladores y proveedores ahora tienen una norma de referencia que les dice lo que pueden hacer y lo que no, aunque no debemos olvidar que quedan muchos aspectos aún abiertos que deberán aterrizarse”. Además, en su opinión, “que todos sigamos las mismas reglas del juego fomentará la reutilización y el aprovechamiento de otros desarrollos”. A este respecto, sostuvo que desde BBVA defienden “que la regulación es siempre una oportunidad para avanzar y tomar nuevas posiciones” por lo que celebró “cualquier regulación de la IA y todas las buenas prácticas que se fomenten con el Reglamento en torno a su desarrollo”.
En la misma línea, Diego Bodas, director de Inteligencia Artificial de MAPFRE, recordó que “es esencial generar un entorno de confianza robusto para lo que es necesario estandarizar”. A su juicio, “es importante que las compañías sepamos cómo debemos actuar y esta nueva regulación es muy positiva para todos porque nos ofrece un marco al que adaptarnos”. Así, incidió en la importancia de que todos los operadores cuenten con unas mismas reglas, dado que “la estandarización reduce las necesidades de personalización de los sistemas o modelos de IA, facilitando la reutilización y permitiendo un desarrollo más eficiente y sostenible”.
Por su parte, Lidia Peyrona, directora de Asesoría Jurídica de IBM para España, Portugal, Grecia e Israel, felicitó a la UE “por su liderazgo en la aprobación de una legislación integral e inteligente sobre Inteligencia Artificial” y aseguró que “el enfoque basado en el riesgo se alinea con nuestro compromiso con las prácticas éticas de IA y contribuirá a la construcción de ecosistemas de IA abiertos y fiables. Desde IBM ponemos nuestra tecnología y experiencia a disposición de nuestros clientes y otros stakeholders para cumplir con la Ley de Inteligencia Artificial de la Unión Europea y la regulación que se vaya adoptando en el resto del mundo, de manera que entre todos podamos desplegar el enorme potencial de la IA de manera responsable”, añadió.
Bajo estos argumentos, los intervinientes coincidieron en que asistimos “a un momento de cambio de paradigma, de transformación absoluta sobre cómo van a funcionar las empresas y el mundo”. Y aseguraron que el gran reto es “la gestión de este cambio cultural” por lo que, en las empresas, es imperativa “la formación de equipos multidisciplinares para tener una visión conjunta que permita el buen desarrollo de la IA”.
Visión de futuro
En el foro, introducido por Iria Calviño, socia y directora de la práctica de sectores regulados y ESG de Herbert Smith Freehills en Madrid, también intervino Alex Cravero, socio/director de EMEA Emerging Technology Group de la firma, que aportó una visión global y apuntó los aspectos clave de una normativa “con un claro enfoque de futuro y voluntad de adaptación al desarrollo y evolución de la tecnología”, en alusión a que la ley será aplicable a los 24 meses de su entrada en vigor. Sostuvo que la importancia de la norma reside en que “la IA es una tecnología realmente transformadora que afecta a todo y a todos”, lo que “justifica la necesidad de una regulación que dote de seguridad y confianza a los usuarios y de certeza a los mercados, por un lado, e impulse la innovación, por el otro”.
Por último, los asociados del bufete Miguel Ángel Barroso y Ana Garmendia, analizaron la normativa europea desde la perspectiva de las obligaciones introducidas para las empresas proveedoras y usuarias, respectivamente. Barroso aseguró que las compañías “deben entender bien el proceso de generación de IA, para qué se va a usar una herramienta o qué equipos van a utilizarla”, entre otros extremos, “para así localizar adecuadamente los riesgos y poder cumplir con las obligaciones”. En este sentido, apeló a que las compañías proveedoras de IA cuenten con un sistema de compliance interno para atender a las exigencias que les impone la nueva norma (sistemas de gestión de calidad, sistemas adecuados de evaluación de riesgos, documentación técnica, registro de la actividad para garantizar la trazabilidad de los resultados, medidas adecuadas de supervisión humana, etc.). Por su parte, Garmendia detalló, asimismo, las numerosas y estrictas obligaciones para las empresas usuarias en materia de formación, gestión, supervisión y transparencia. Y concluyó instando a las empresas a instaurar “sistemas de gobernanza de la IA para hacer frente a estas obligaciones y evitar sanciones”, apelando a un órgano de gobierno de supervisión “que haga ese filtrado de riesgos y de uso de la herramienta para el cumplimiento adecuado de estas obligaciones y prohibiciones”.
