¿Estamos viendo la realidad? La transparencia obligatoria en la era de la inteligencia artificial

Por LLuch Comins. 

Abogada. IP Legal Councel en COMINS abogados

¿Estamos viendo la realidad? La transparencia se convierte en una obligación en la era de la inteligencia artificial.

Imagina recibir un mensaje de atención al cliente y no saber si detrás hay una persona o una inteligencia artificial. Imagina ver un vídeo de una persona conocida diciendo algo que nunca dijo. O leer una noticia y descubrir después que el texto ha sido generado íntegramente por una máquina. Ahora imagina que, en ninguno de esos casos, te informan de ello.

¿Tenemos derecho a saber cuándo estamos interactuando con una inteligencia artificial o cuándo estamos viendo un contenido creado por ella? La respuesta, cada vez más, es sí.

Y no se trata únicamente de una cuestión ética o de buenas prácticas. La transparencia se ha convertido en una obligación jurídica.

Cuando ya no sabemos qué es real
La inteligencia artificial generativa ha cambiado algo fundamental: la capacidad de crear contenido que parece real.

• Una fotografía puede haber sido generada desde cero.
• Una voz puede imitar a una persona.
• Un vídeo puede mostrar un acontecimiento que nunca ocurrió.
• Un chatbot puede mantener una conversación prácticamente indistinguible de la que tendríamos con otra persona.

El problema no es que la tecnología pueda hacerlo. El problema aparece cuando no sabemos que lo que estamos viendo, escuchando o leyendo ha sido generado o manipulado mediante inteligencia artificial.

La Comisión Europea identifica precisamente estos riesgos: desinformación, fraude, suplantación de identidad, engaño a consumidores y manipulación a gran escala.

Por eso, la normativa europea ha situado la transparencia en el centro de la regulación de determinados sistemas de inteligencia artificial.

La transparencia como derecho a saber
Hasta ahora, cuando utilizábamos una página web, una aplicación o un servicio digital, asumíamos que detrás había una persona o una empresa.

Con la inteligencia artificial, esa certeza desaparece. Y eso cambia las reglas.

La transparencia pretende que las personas puedan saber con quién están interactuando y cuál es el origen de aquello que están consumiendo.

No significa que toda utilización de IA tenga que estar acompañada de un aviso. Significa algo más sencillo:

Cuando sea relevante para que una persona pueda comprender la situación en la que se encuentra, debe poder saber que hay una inteligencia artificial detrás. El Reglamento europeo de Inteligencia Artificial recoge esta idea en su artículo 50, que establece diferentes obligaciones de transparencia para determinados sistemas de IA.

¿Cómo saber si estamos hablando con una IA?

Pensemos en algo tan cotidiano como un chatbot. Entramos en la página web de una empresa, hacemos una pregunta y recibimos una respuesta inmediata.

¿Estamos hablando con una persona? ¿O con una inteligencia artificial?

El Reglamento establece que, en determinados casos, los proveedores de sistemas de IA que interactúan directamente con personas deben garantizar que estas sean informadas de que están interactuando con una máquina, salvo que resulte obvio por las circunstancias.

Y hay un detalle importante: la información debe proporcionarse desde el inicio de la interacción, de forma clara y distinguible.

La transparencia, por tanto, no consiste en esconder la información en un apartado perdido de las condiciones de uso. Si una persona necesita saber que está hablando con una IA para interpretar correctamente esa interacción, debe poder saberlo.

Contenidos generados, manipulados y deepfakes
La transparencia no termina en los chatbots. La normativa también aborda los contenidos generados o manipulados mediante inteligencia artificial. Imágenes. Vídeos. Audios. Textos. Y, especialmente, aquellos contenidos capaces de parecer auténticos cuando en realidad no lo son. Aquí aparecen los conocidos deepfakes. Un deepfake puede utilizar inteligencia artificial para crear o modificar una imagen, un vídeo o un audio de manera que parezca que una persona real ha hecho o dicho algo que nunca hizo o dijo.

La tecnología puede ser extraordinariamente convincente. Precisamente por eso, la transparencia resulta fundamental. Una imagen puede parecer real. Pero debe poder saberse si no lo es.

El artículo 50 establece obligaciones para determinados sistemas que generan o manipulan contenido. En particular, los proveedores deben diseñar sus sistemas de manera que los resultados puedan ser detectados como generados o manipulados mediante IA, mediante mecanismos que sean, entre otras características, eficaces, interoperables y robustos. Esto introduce una idea especialmente interesante: la transparencia no siempre tiene que ser visible para el ojo humano. En determinados casos, la información debe incorporarse de forma que pueda ser detectada por sistemas y herramientas tecnológicas.

Es decir, no hablamos solamente de poner un cartel que diga “hecho con IA”. También hablamos de que el contenido pueda llevar consigo información que permita identificar su origen artificial.

¿Y si vemos un vídeo de una persona que nunca dijo aquello?
Aquí la normativa adquiere una dimensión especialmente relevante. Porque un contenido generado mediante IA puede utilizarse para entretener, pero también para engañar.

• Un vídeo falso de una persona pública.
• Una grabación manipulada.
• Una imagen de un acontecimiento que nunca sucedió.
• Una voz que imita a alguien.

Cuanto más realista sea el contenido, más difícil resulta para el ciudadano distinguir entre realidad y ficción.

Por eso, determinados contenidos considerados deepfakes deben ser identificados de manera clara como generados o manipulados mediante inteligencia artificial.

La finalidad no es prohibir esta tecnología. Es permitir que quien recibe el contenido pueda interpretarlo correctamente. También importa quién utiliza la IA. El Reglamento diferencia entre quienes desarrollan y comercializan un sistema de IA y quienes lo utilizan bajo su autoridad.

En términos generales, hablamos de proveedores y responsables del despliegue. Esta diferencia es importante porque las obligaciones de transparencia no recaen siempre sobre la misma persona o empresa.

Por ejemplo, una empresa puede no haber creado la herramienta de inteligencia artificial que utiliza, pero sí ser responsable de determinadas obligaciones derivadas de su utilización. Por eso, ante cualquier sistema de IA, no basta con preguntar: “¿Qué herramienta estamos utilizando?” También hay que preguntar: “¿Qué papel ocupamos nosotros en relación con esa herramienta?”

¿Y qué pasa con los textos generados por IA?
Esta es una de las cuestiones que más puede sorprender. La normativa también contempla determinados textos generados o manipulados mediante IA que se publican sobre asuntos de interés público. Pero aquí existe un elemento esencial: la revisión humana o el control editorial.

Las Directrices de la Comisión aclaran que los textos que han sido sometidos a revisión humana o control editorial, cuando una persona asume la responsabilidad jurídica sobre su contenido, pueden quedar fuera de esta obligación específica de etiquetado.

Esto demuestra algo importante: la normativa no pretende convertir cualquier utilización de IA en una sucesión de etiquetas y advertencias. Lo que busca es evitar que las personas sean inducidas a error sobre la naturaleza de aquello que están viendo.

Por otra parte, hay una confusión que conviene evitar. Cuando hablamos de transparencia en inteligencia artificial, no significa necesariamente que una empresa tenga que explicar al consumidor todos los algoritmos, modelos matemáticos o procesos técnicos que utiliza. La transparencia de la que hablamos aquí tiene una finalidad mucho más práctica:

• Que las personas sepan cuándo interviene una inteligencia artificial y puedan valorar adecuadamente la información que reciben. Porque saber que estamos hablando con una máquina puede cambiar nuestra forma de interpretar una respuesta. Saber que una fotografía ha sido generada artificialmente puede cambiar nuestra percepción de aquello que estamos viendo. Saber que un vídeo es un deepfake puede evitar que lo confundamos con un acontecimiento real.

La información permite tomar decisiones. Y ahí está precisamente el valor de la transparencia.

Quizá lo más importante de todo esto sea que ya no estamos hablando de una regulación que llegará algún día. El artículo 50 del Reglamento de Inteligencia Artificial es aplicable desde el 2 de agosto de 2026. La Comisión Europea ha publicado, además, Directrices específicas para ayudar a proveedores y responsables del despliegue a interpretar y cumplir estas obligaciones. La regulación está entrando, por tanto, en una fase mucho más práctica.

Existe, no obstante, un periodo transitorio limitado para los sistemas puestos en el mercado antes del 2 de agosto de 2026: respecto de la obligación técnica de marcado y detección del artículo 50.2, sus proveedores deberán cumplirla desde el 2 de diciembre de 2026.

Ya no basta con preguntarse qué podrá hacer la inteligencia artificial dentro de unos años. Hay que preguntarse:

¿Cómo estamos utilizando la IA hoy?

Y, sobre todo:

¿Estamos siendo transparentes con las personas afectadas?


Una obligación jurídica, pero también una cuestión de confianza
La transparencia puede entenderse como una obligación más dentro de una normativa cada vez más extensa. Pero reducirla a eso sería quedarse en la superficie. Porque detrás de esta regulación hay una cuestión mucho más profunda: la confianza.

Si no sabemos si una persona o una máquina nos está respondiendo, si una fotografía es real o generada, si una voz pertenece realmente a quien creemos o si una noticia ha sido creada por una inteligencia artificial, nuestra relación con la información cambia.

Por eso, identificar el contenido generado o manipulado mediante IA no significa necesariamente desconfiar de la tecnología. Al contrario, significa crear las condiciones para poder confiar en ella.

La inteligencia artificial puede convertirse en una herramienta extraordinariamente útil para empresas, profesionales y ciudadanos. Pero para que esa confianza sea posible, las personas deben conservar algo esencial: el derecho a saber qué hay al otro lado de la pantalla.

Y en la era de la inteligencia artificial, quizá esa sea precisamente una de las formas más importantes de proteger la libertad de decidir. Porque no podemos decidir libremente sobre algo que no sabemos que estamos viendo.

Si utilizas la inteligencia artificial en tu día a día, quizá te puedas preguntar si eres jurídicamente transparente en ese uso público y cuáles son tus obligaciones a partir del 2 de agosto. CONSULTA con un jurista especializado en innovación digital. Cuenta con nosotros.