¿Podremos distinguir si estamos hablando con una persona o con una máquina? ¿Y saber si una imagen, un vídeo o una noticia han sido generados mediante inteligencia artificial?
El Reglamento (UE) 2024/1689 de Inteligencia Artificial (“RIA o Reglamento”) trata de responder a estas preguntas mediante una serie de obligaciones de transparencia que serán aplicables, con carácter general, a partir del 2 de agosto de 2026.
El Reglamento distingue entre los proveedores, que desarrollan y comercializan sistemas de inteligencia artificial bajo su nombre o marca, y los responsables del despliegue, es decir, las personas o empresas que los utilizan bajo su autoridad en el marco de una actividad profesional. Su artículo 50 atribuye obligaciones distintas a cada uno de ellos.
¿Cuándo debe informarse de que interactuamos con una IA?
Los proveedores de sistemas diseñados para interactuar directamente con personas, como chatbots, asistentes virtuales o avatares, deberán informar al usuario de que está interactuando con una inteligencia artificial.
La advertencia deberá facilitarse de forma clara desde el inicio, salvo que resulte evidente para una persona suficientemente informada, atenta y prudente que se encuentra ante una máquina.
Esta excepción deberá interpretarse de forma restrictiva. Por ello, cuanto más humana sea la voz, la apariencia o el comportamiento del sistema, mayor será la necesidad de identificar expresamente su naturaleza artificial.
El marcado de los contenidos generados mediante IA
Los proveedores de sistemas capaces de generar imágenes, audios, vídeos o textos deberán incorporar a sus resultados una marca legible por máquina que permita detectar que el contenido ha sido creado o manipulado mediante IA.
Se trata de una identificación técnica, mediante metadatos u otras soluciones adecuadas, y no necesariamente de una advertencia visible para el público.
Esta obligación no se aplicará cuando la IA se limite a realizar una función auxiliar de edición estándar o no altere sustancialmente los datos de entrada ni su significado. Determinadas correcciones menores de color o iluminación, así como la reducción de ruido, podrían quedar comprendidas en esta excepción, aunque la valoración dependerá de las circunstancias de cada caso.
Deepfakes: una advertencia visible para el público
Una obligación distinta afecta a las empresas y profesionales que utilicen sistemas de IA para generar o manipular contenidos que constituyan deepfakes y procedan a su difusión.
El Reglamento define estos contenidos como imágenes, audios o vídeos que se asemejan a personas, objetos, lugares o acontecimientos existentes y pueden inducir al público a pensar que son auténticos.
En estos casos no será suficiente con la marca técnica introducida por el proveedor. El responsable del despliegue deberá advertir de forma clara y perceptible que el contenido ha sido generado o manipulado artificialmente.
Como ya comentamos en una anterior entrada del Blog sobre los riesgos jurídicos de los deepfakes, esta advertencia no convierte en lícito un contenido que vulnere derechos como el honor, la propia imagen, la protección de datos o la propiedad intelectual. Únicamente añade una garantía frente al riesgo de engaño.
El Reglamento introduce una especialidad para las obras manifiestamente artísticas, creativas, satíricas o de ficción. En estos casos deberá informarse sobre la existencia del contenido generado o manipulado, aunque podrá hacerse de manera que no dificulte la exhibición o el disfrute de la obra.
No toda intervención de IA en una producción audiovisual tendrá, sin embargo, la consideración de deepfake. Según las Directrices publicadas por la Comisión Europea, los efectos especiales, los escenarios de fondo o determinados procesos técnicos de preproducción y posproducción no suelen generar una apariencia engañosa cuando el público no espera que lo representado sea real.
Textos sobre asuntos de interés público
Las obligaciones de transparencia también alcanzan a los textos generados o manipulados mediante IA cuando se publiquen para informar al público sobre asuntos de interés público, como la política, la salud, la seguridad o determinados acontecimientos económicos, científicos y culturales.
Estos textos deberán identificarse como contenido generado o manipulado mediante IA. No será necesario hacerlo cuando hayan sido sometidos a una verdadera revisión humana o control editorial y una persona física o jurídica asuma la responsabilidad sobre su publicación.
Una simple corrección ortográfica o formal no será suficiente. Deberá existir un control sustantivo del contenido, de sus fuentes y de su fiabilidad.
Consecuencias para las empresas
El incumplimiento de estas obligaciones puede dar lugar a multas de hasta 15 millones de euros o, en el caso de las empresas, de hasta el 3 % de su volumen de negocio mundial total correspondiente al ejercicio anterior, aplicándose el límite más elevado. Para las pymes, incluidas las empresas emergentes, se aplicará el menor de ambos límites.
En definitiva, el Reglamento de IA no obliga a etiquetar cualquier contenido en cuya elaboración haya intervenido una herramienta de inteligencia artificial. La obligación dependerá del tipo de sistema, del papel que ocupe la empresa, del uso concreto del contenido y de si concurre alguno de los supuestos o excepciones previstos en el artículo 50.
Por ello, las empresas que empleen estas herramientas deberán revisar sus procesos de creación y publicación y establecer mecanismos que permitan identificar la intervención de la inteligencia artificial cuando así lo exija la norma.
Autor: Marta Chavarría Romero (con ayuda de la bestia®, nuestra IA)