La erosión de la presunción de autenticidad en el entorno digital
La capacidad de los sistemas de inteligencia artificial (en adelante, “IA”) para generar y manipular contenido audiovisual y textual con un grado de realismo sin precedentes ha alterado de forma sustancial las condiciones de confianza sobre las que se sostienen la comunicación pública, los mercados y los procesos democráticos. La presunción implícita de autenticidad del contenido digital, que ya era frágil antes de la extensión de la IA generativa, ha dejado de constituir una premisa fiable.
El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, relativo a la Inteligencia Artificial (en adelante, “RIA”), aborda este problema imponiendo obligaciones específicas de transparencia: si la producción de contenido sintético no puede prohibirse con carácter general, su naturaleza artificial sí debe ser identificable por quienes lo reciben o interactúan con el mismo.
El artículo 50 del RIA constituye la respuesta normativa central a la exigencia anterior, articulando obligaciones de transparencia de aplicación horizontal que vinculan tanto a los proveedores de sistemas de IA como a los responsables de su despliegue, con independencia de la clasificación de riesgo del sistema de IA en cuestión.
El análisis que sigue examina sistemáticamente el contenido del artículo 50 del RIA respecto a las obligaciones de marcado y etiquetado del contenido sintético generado por sistemas de IA a la luz del documento “Preguntas y respuestas sobre el Reglamento de IA: artículo 50” (en adelante, el “Q&A”), elaborado por la Comisión Europea y difundido por la Agencia Española de Supervisión de Inteligencia Artificial (en adelante, “AESIA”), así como del “First Draft Code of Practice on Transparency of AI-Generated Content” (en adelante, el “Código de Conducta de Transparencia”) desarrollado por la Comisión Europea.
Artículo 50 de RIA: sistemática y lógica regulatoria
El artículo 50 del RIA opera con carácter transversal: sus obligaciones no dependen de que el sistema de IA esté catalogado como de alto riesgo, sino del tipo de interacción que genera o del contenido que produce. El precepto distingue cuatro bloques de obligaciones: (i) transparencia en la interacción para sistemas conversacionales; (ii) marcado en formato legible por máquina para proveedores de IA generativa; (iii) información al interesado cuando se aplican sistemas de reconocimiento de emociones o categorización biométrica, y; (iv) etiquetado visible de ultrasuplantaciones o deepfakes y textos informativos generados o manipulados artificialmente.
Esta arquitectura se alinea con el objetivo enunciado en los considerandos 132, 133 y 134 del RIA de situar a las personas en condiciones de comprender cuándo interactúan con sistemas de IA o consumen contenidos generados o manipulados por estos, reduciendo el riesgo de engaño sobre el origen y la autenticidad del contenido. Estas obligaciones persiguen, en particular, mitigar la manipulación informativa, prevenir el fraude y la suplantación y salvaguardar la integridad del ecosistema informativo y del debate público.
Obligaciones de marcado técnico para proveedores (artículo 50.2 del RIA)
El artículo 50.2 del RIA impone a los proveedores de sistemas de IA que generen contenido sintético (imágenes, vídeo, audio y texto) la obligación de garantizar que dichos contenidos sean marcados en formato legible por máquina y de forma técnicamente detectable como generados artificialmente. La norma adopta una formulación de resultado: no exige una tecnología concreta, sino que el marcado sea detectable y robusto frente a operaciones ordinarias de procesamiento. Esta circunstancia traslada al proveedor la carga de acreditar la idoneidad técnica del mecanismo empleado.
En la práctica, conforme al Código de Conducta de Transparencia, el marcado puede articularse mediante tres tipos de soluciones complementarias: (i) el watermarking o marca de agua digital, que integra señales invisibles dentro del propio contenido; (ii) la incorporación de metadatos estructurados que identifiquen el origen y las transformaciones del archivo, y; (iii) sistemas de fingerprinting o huella digital que permitan vincular el contenido con el sistema que lo generó. Cada técnica presenta ventajas y limitaciones en términos de robustez, interoperabilidad y resistencia a modificaciones posteriores.
El mencionado Código de Conducta de Transparencia propone un enfoque multinivel que combine estas técnicas de forma complementaria, con el fin de reforzar la detectabilidad del contenido sin imponer soluciones tecnológicas cerradas. El estándar que se desprende del RIA no es el de invulnerabilidad técnica absoluta frente a manipulaciones deliberadas, sino el de razonable robustez frente a transformaciones previsibles del contenido, en coherencia con el principio de proporcionalidad.
Obligaciones de etiquetado para responsables del despliegue (artículo 50.4 del RIA)
Ultrasuplantaciones y contenido audiovisual
- El artículo 50.4 del RIA obliga a los responsables del despliegue que utilicen sistemas de IA para generar o manipular imágenes, audio o vídeo que aparenten ser auténticos o representar hechos, personas u objetos reales (las denominadas ultrasuplantaciones o “deepfakes”) a etiquetar el contenido de forma visible y claramente perceptible para los destinatarios. A diferencia del marcado técnico exigido al proveedor, este etiquetado tiene una dimensión comunicativa directa: su finalidad es advertir al público del carácter artificial o manipulado del material. El etiquetado debe aplicarse de manera proporcionada, atendiendo al medio de difusión y a las expectativas razonables del público destinatario.
- El artículo 50.4 del RIA contempla además una modulación específica cuando el contenido forme parte de una obra artística, creativa o satírica manifiestamente identificada como tal. En estos supuestos, la obligación de etiquetado debe aplicarse de forma compatible con la libertad de expresión y creación, sin impedir la producción o distribución de la obra, pero adoptando medidas adecuadas para salvaguardar los derechos y la reputación de las personas potencialmente afectadas.
Textos informativos sobre asuntos de interés público
- El artículo 50.4 del RIA extiende la obligación de etiquetado visible a los textos generados o manipulados mediante IA y publicados con la finalidad de informar al público sobre asuntos de interés público, como noticias o comunicados institucionales. En estos casos, debe indicarse de forma clara su carácter artificial, evitando que el destinatario atribuya el contenido a una fuente humana.
- Esta obligación no se aplicará cuando el uso del sistema de IA sea efectuado por autoridades competentes para la detección, prevención, investigación o enjuiciamiento de infracciones penales, en el ejercicio de sus funciones. Tampoco será exigible cuando el contenido generado o manipulado haya sido objeto de control editorial y una persona física o jurídica asuma la responsabilidad editorial de su publicación, siempre que dicho contenido no constituya una ultrasuplantación susceptible de inducir a error.
Código de Conducta de Transparencia y su relación con los modelos de propósito general
La mera adhesión al Código de Conducta de Transparencia no genera una presunción automática de conformidad con el RIA. No obstante, su cumplimiento efectivo puede constituir un elemento probatorio relevante a efectos de acreditar el cumplimiento del artículo 50 del RIA ante las autoridades de supervisión. En este sentido, su enfoque multinivel, basado en metadatos firmados, marcas técnicas integradas, mecanismos de detección y etiquetado perceptible, articula una estrategia de redundancia destinada a preservar la identificabilidad del contenido sintético a lo largo de la cadena de valor.
En relación con los modelos de propósito general (en adelante, “GPAI”), el Código de Conducta de Transparencia tiene en cuenta que muchos de los sistemas sujetos al artículo 50 se basan en modelos previamente desarrollados y puestos en el mercado conforme al régimen específico previsto en los artículos 53 y 55 del RIA. Dichos preceptos imponen a los proveedores de GPAI obligaciones de documentación técnica, transparencia sobre los datos de entrenamiento, información dirigida a los operadores que integren el modelo en sistemas posteriores y, en el caso de modelos con riesgos sistémicos, medidas adicionales de evaluación y mitigación de riesgos.
Sin perjuicio de que los artículos 53 y 55 del RIA no imponen directamente la obligación de marcado, sí regulan los modelos que sirven de base a muchos sistemas generativos. Por ello, forman parte del marco normativo en el que opera el mencionado artículo 50, ya que afectan al nivel técnico desde el que se genera el contenido posteriormente sujeto a obligaciones de identificación.
Riesgos técnicos y jurídicos de cumplimiento
El cumplimiento efectivo de las obligaciones de marcado técnico y etiquetado del artículo 50 del RIA plantea varias dificultades técnicas y jurídicas que condicionan su aplicación práctica.
- En primer lugar, la robustez del marcado. Las técnicas de identificación del contenido generado por IA, como los watermarks o los metadatos, pueden verse afectadas por operaciones habituales como la compresión, la conversión de formato o la edición posterior del archivo. No siempre resulta sencillo diferenciar entre una modificación ordinaria del contenido y un intento deliberado de eliminar la marca. Esta cuestión exigirá una progresiva clarificación a través de directrices técnicas y criterios interpretativos por parte de las autoridades competentes.
- En segundo lugar, la interoperabilidad. El RIA no establece un estándar técnico concreto para el marcado del contenido generado o manipulado por IA. Esta ausencia genera incertidumbre sobre la compatibilidad entre sistemas desarrollados por distintos proveedores y sobre la verificabilidad cruzada de las marcas. La falta de un estándar armonizado a nivel europeo constituye, en la actualidad, uno de los principales desafíos estructurales del régimen de transparencia.
- En tercer lugar, las dificultades específicas del texto generado. A diferencia de lo que ocurre con la imagen, el audio o el vídeo, el texto no permite incorporar con facilidad señales imperceptibles y resistentes a modificaciones posteriores. Las técnicas existentes presentan limitaciones técnicas y los sistemas de detección automática no ofrecen niveles de fiabilidad plenamente consolidados. Ello introduce tensiones relevantes en la aplicación de las obligaciones de marcado cuando el contenido generado es textual.
Por último, la delimitación del alcance de la noción de contenido “manipulado mediante IA” plantea un problema interpretativo. El artículo 50.4 del RIA no define con precisión qué grado de intervención sobre contenido preexistente resulta suficiente para que se active la obligación de etiquetado. Una interpretación estrictamente literal podría llevar a sostener que cualquier modificación realizada mediante IA, por mínima que sea, activa dicha obligación. Sin embargo, el propio precepto pone de relieve que el elemento determinante no es la mera existencia de una alteración técnica, sino su impacto en la percepción del destinatario y su potencial para inducir a error sobre la autenticidad o veracidad del contenido.
La delimitación de este umbral exige una interpretación que tenga en cuenta tanto la función de la intervención como el estado de la técnica. A fin de garantizar seguridad jurídica y una aplicación proporcionada del artículo 50 del RIA, sería conveniente que las autoridades competentes desarrollen criterios interpretativos claros sobre esta materia.
Conclusiones
El artículo 50 del RIA configura un régimen específico de transparencia aplicable al contenido generado o manipulado por IA que, por su carácter transversal y su alcance práctico, se sitúa entre los elementos más relevantes del nuevo marco europeo. No se trata de una obligación marginal, sino de una pieza estructural destinada a reforzar la confianza en el ecosistema digital.
La diferenciación entre las obligaciones del proveedor y las del responsable del despliegue resulta esencial. Por un lado, al proveedor le corresponde integrar mecanismos técnicos de marcado en el propio sistema, de modo que el contenido pueda identificarse como artificial desde su origen. Por otro, el responsable del despliegue debe garantizar la divulgación visible y comprensible frente al usuario final, especialmente en el caso de ultrasuplantaciones o de contenidos informativos de interés público. Esta distinción no es únicamente organizativa, sino que delimita ámbitos de responsabilidad diferenciados y permite atribuir el incumplimiento de manera autónoma en cada nivel de la cadena de valor.
Desde una perspectiva prospectiva, es previsible que la supervisión por parte de las autoridades competentes correspondientes se concentre en tres aspectos principales: (i) la adecuación técnica y la robustez de los sistemas de marcado implementados por los proveedores; (ii) la efectividad, claridad y visibilidad del etiquetado aplicado por los responsables del despliegue, y; (iii) la existencia de documentación suficiente que permita acreditar la trazabilidad del contenido a lo largo de su generación y distribución.
El RIA convierte la transparencia sobre el origen del contenido en una obligación básica del mercado digital. El marcado técnico deja de ser una práctica voluntaria y pasa a ser un requisito exigido por la normativa, del mismo modo que el etiquetado visible se configura como un deber de comunicación frente al público en los supuestos previstos en el artículo 50 del RIA. La solidez de los mecanismos técnicos implementados por los proveedores, la claridad y efectividad del etiquetado aplicado por los responsables del despliegue, su adecuada documentación y su coherencia con los estándares que se desarrollen en la versión final del Código de Conducta de Transparencia serán aspectos clave tanto para superar los procedimientos de evaluación de conformidad como para mitigar eventuales responsabilidades.
ElDerecho.com no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación