El pasado 2 de agosto entraron en aplicación las obligaciones de transparencia previstas en el artículo 50 del conocido como Reglamento de Inteligencia Artificial o AI Act. Así, comienza ahora una nueva etapa para la regulación europea. Ya no se trata únicamente de establecer qué sistemas puede desarrollarse o qué riesgos deben evitarse, sino también de garantizar que las personas puedan identificar cuándo están interactuando con una IA o cuándo nos encontramos ante contenido generado por esta tecnología. A partir de ahora, comienza el verdadero examen de estas obligaciones. Este próximo curso permitirá comprobar hasta qué punto las empresas adaptan sus herramientas, cómo interpretan las nuevas exigencias y, sobre todo, si la transparencia que persigue el legislador se traduce en una protección efectiva para quienes utilizan estos sistemas.
La nueva regulación afecta, especialmente, al ámbito del consumo, donde existe ya una relación estrecha entre la IA y los servicios que afectan a los consumidores. Atención al cliente, recomendaciones de productos, resolución de incidencias, generación de contenidos comerciales o la asistencia durante una contratación. Es, sin duda, una tecnología que participa en decisiones que pueden tener consecuencias económicas, por lo que conocer su intervención es vital para poder valorar la información recibida y adoptar decisiones con pleno conocimiento.
El artículo 50 del AI Act establece, entre otras cuestiones, que los proveedores deben garantizar que las personas son informadas cuando interactúan directamente con un sistema de IA, salvo que resulte evidente por las circunstancias o del contexto. Y esa información debe proporcionarse de manera clara y distinguible y desde la primera interacción. Esta obligación puede parecer sencilla, pero su alcance práctico no lo es tanto. Imaginemos, por ejemplo, que un consumidor utiliza un asistente virtual para conocer las condiciones de devolución de un producto, resolver una incidencia relacionada con una factura o consultar las características de un producto financiero. Está claro que la respuesta obtenida puede condicionar su comportamiento económico. En estos casos, la transparencia exigida se entiende como una garantía previa pueda valorar y decidir informadamente, lo cual conecta directamente con los requisitos tradicionales del Derecho de consumo, que contemplan el derecho a recibir información correcta, suficiente y comprensible sobre los bienes y servicios y establece obligaciones de información precontractual, por lo que la contratación digital no podía suponer una rebaja de estas garantías.
Precisamente, este será uno de los principales retos del nuevo Reglamento: evitar que la transparencia se convierta en un mero trámite formal. Informar al usuario de que está interactuando con una IA constituye un primer paso, pero no resuelve necesariamente todas las cuestiones. Una respuesta puede proceder de una herramienta perfectamente identificada y, sin embargo, resultar incompleta, confusa o incorrecta. Y es que la identificación de la tecnología no convierte automáticamente en fiable la información que proporciona.
Por otro lado, la utilización de la IA no puede diluir las obligaciones que corresponden al empresario frente al consumidor. Es decir, aunque la respuesta haya sido generada por una tecnología, no convierte sus consecuencias en jurídicamente huérfanas. Si el consumidor recibe información sobre las condiciones de una contratación, sus derechos o las características esenciales de un servicio, la responsabilidad empresarial no debería desaparecer porque el canal utilizado para trasmitirla sea algorítmico. La transparencia debe ir acompañada de responsabilidad.
Otra de las medidas regulatorias -y de las más esperadas- tiene que ver con los contenidos manipulados mediante IA. Ahora se establecen obligaciones específicas para facilitar su identificación y pone el foco en los contenidos deepfake y los asuntos de interés público. Esto también abre un debate interesante sobre cómo puede afectar a los consumidores. Y es que la generación artificial de imágenes, textos o recomendaciones también afecta de forma a cómo percibimos un producto o servicio.
A pesar de estos avances, nos encontramos todavía ante una regulación en fase de consolidación práctica. De hecho, la propia Comisión Europea publicó el pasado 20 de julio unas directrices destinadas a aclarar el alcance práctico de estas obligaciones y favorecer una aplicación uniforme. Por eso, será durante los próximos meses donde podremos comprobar si los avisos son realmente visibles, si los consumidores comprenden su significado, cómo responden las empresas y qué criterios adoptan las autoridades ante posibles incumplimientos.
El reto no debería consistir en conseguir que las empresas cumplan formalmente el artículo 50, sino en lograr que esa transparencia resulte verdaderamente útil para quien se encuentra al otro lado de la pantalla. Y es que el consumidor no necesita conocer la arquitectura técnica del algoritmo, sino conocer cuándo una inteligencia artificial interviene en la relación de consumo, qué papel desempeña y qué garantías tiene la información que recibe.
En nuestra opinión, esta normativa no debe analizarse de forma aislada del Derecho de consumo, ya que estas obligaciones deberán convivir con las normas que ya prohíben las prácticas comerciales engañosas y las comunicaciones capaces de alterar el comportamiento económico del consumidor. El foco no debe ser tanto cómo se regulan las máquinas, sino en si quienes las utilizan pueden seguir tomando decisiones económicas con la misma libertad y conocimiento que exige la jurisdicción para los consumidores.
Ahora corresponde al mercado, a las autoridades y también a los tribunales determinar si las nuevas reglas consiguen aquello para lo que fueron diseñadas: que la inteligencia artificial pueda integrarse en la economía sin que la innovación tecnológica implique retroceder en transparencia y protección a los ciudadanos.
ElDerecho.com no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación