Si uso IA para mis contenidos... ¿Tengo que acreditar su uso?

La "nueva" norma (del 2024) de la UE obliga a acreditar el uso de IA cuando generamos contenidos, ya sean publicaciones o imágenes. Pero ¿cúando es necesario añadir "Generado por IA" en estos contenidos? 

Contenidos de texto

En este año lo lógico a la hora de crear un artículo de una web es que la IA te ayude. ¿Quién no ha entrado en ChatGPT para redactar un texto de un servicio que ofrece nuestra web? Y incluso podemos automatizar que se creen artículos directamente con rutinas de Claude Code. Esto orientado a artículos digitales... pero también se usa en contenidos editoriales (libros).

Ya sea contenido digital o editorial el criterio es el mismo:
Un libro o un artículo para una web que inicialmente has generado, o ayudado a generar con IA, pero después tú revisas, corriges, amplías y asumes la responsabilidad del texto: en principio no tienes el deber de acreditar que has usado IA.

Si utilizas IA como herramienta para ayudarte a redactar, generar ideas, estructurar capítulos, corregir textos, etc., y después haces una revisión y edición humana, el Reglamento de IA no establece que tengas que poner en el libro una etiqueta indicando que has utilizado IA.

De hecho, el artículo 50 del Reglamento contempla expresamente que determinadas obligaciones de transparencia no se aplican cuando la IA se utiliza como apoyo a la edición estándar o cuando no altera sustancialmente los datos de entrada.

Es decir. Si usas ChatGPT para generar ideas, texto, etc, PERO después tu revisas, alteras, cambias texto, validas y publicas → No tienes la obligación de acreditar.

PERO, si copias, pegas sin revisar ni aportar contenido propio → tienes la obligación de acreditar. 

Imágenes

En la creación de imágenes con IA la regulación es más compleja.

Si creas una imagen ficticia, aunque pueda parecer real, no tienes obligación de acreditar. PERO si esa imagen puede confundir al usuario con algo real, lo que la norma denomina una ultrafalsificación/deepfake entonces siempre tienes que indicar que se ha creado con IA. Es más, aunque el original sea una imagen real o aunque después la editemos y añadamos contenido propio, si puede confundir con la realidad → tienes la obligación de acreditar. Sobre todo cuando tienen esa intención, confundir al usuario usando personajes públicos en diferentes ámbitos con la intención de confundir o manipular.

Pongamos unos ejemplos.

Tienes una fotografía real de un edificio y le dices a una IA: «Elimina los coches de la calle y añade árboles». Eso es una manipulación mediante IA, pero no necesariamente un deepfake. La obligación específica del apartado 4 se refiere a contenidos de imagen, audio o vídeo que constituyan una ultrafalsificación, es decir, que puedan confundirse con algo auténtico. Por tanto, no toda modificación de una fotografía mediante IA obliga automáticamente a poner una etiqueta pública.

Le pides a una IA: «Genera una fotografía realista de una casa moderna junto al mar». En principio, no tienes que poner necesariamente un aviso visible tipo “Imagen generada por IA” simplemente por haber utilizado IA. Hay, eso sí, una obligación que afecta al proveedor del sistema de IA: los contenidos sintéticos de imagen, audio, vídeo o texto deben incorporar mecanismos que permitan detectar que han sido generados o manipulados artificialmente, en un formato legible por máquina, cuando sea técnicamente viable.

Otro ejemplo orientado a contenido editorial: haces una novela y utilizas IA para crear una imagen de un personaje ficticio, aunque sea extremadamente realista, la obligación se limita a informar de la existencia del contenido generado/manipulado artificialmente de una forma adecuada que no dificulte la presentación o disfrute de la obra.
Esto permite, por ejemplo, que no tengas que poner un enorme "ESTA IMAGEN HA SIDO GENERADA POR IA" encima de la portada de una novela. Podría bastar con una indicación apropiada en los créditos.

Ejemplo para creadores de webs, como nosotros. Si haces una web corporativa y utilizas IA para generar imágenes:

• Caso A — imagen conceptual. Una fábrica futurista que representa de manera genérica una empresa industrial. No es un deepfake. No habría, por el artículo 50.4, una obligación específica de etiquetarla públicamente como IA.
• Caso B — imagen de una persona ficticia. «Crea una fotografía de una mujer de 40 años trabajando como ingeniera». En principio, tampoco es un deepfake si no pretende representar a una persona real.
• Caso C — fotografía aparentemente real de una empresa. «Genera una fotografía realista de nuestra fábrica, mostrando las instalaciones». Aquí yo sería más prudente. Si la imagen se presenta como una fotografía real de unas instalaciones existentes cuando en realidad ha sido creada artificialmente, aunque no sea necesariamente un deepfake hay otras cuestiones legales que pueden entrar en juego, especialmente si la imagen puede inducir a error al consumidor.
• Caso D — imagen de una persona real. Coges la foto de un trabajador y mediante IA haces que aparezca realizando algo que nunca hizo. Aquí sí puedes entrar claramente en el terreno de la manipulación de una imagen de una persona real y, dependiendo del resultado, del deepfake.

Como véis en este tema de acreditar el contenido generado con IA hay muchos detalles. Esperamos haberos ayudado. Como siempre... en caso de duda es mejor acreditar.