Imágenes, vídeos y voces falsas: la inteligencia artificial y lo que parece real
Aprende
La inteligencia artificial (IA) es un conjunto de técnicas con las que un programa aprende patrones a partir de muchísimos ejemplos y crea combinaciones nuevas. Con ella se pueden crear imágenes, vídeos y voces que parecen reales sin serlo, como escenas que nunca ocurrieron; usarlas para engañar es desinformación. Conviene distinguir tres casos: el contenido generado por completo, el contenido real manipulado, con una cara o una voz cambiadas, y el contenido real sacado de contexto.
caso qué es generado por completo nunca existió real manipulado real, pero cambiado real sacado de contexto real, pero de otro momento Tres casos A veces se notan fallos: manos o dientes raros, letras que no se leen, sombras que no cuadran, labios que no siguen la voz o un audio con pausas extrañas. Pero los programas mejoran y esos fallos se corrigen con el tiempo, así que no ver ninguno no prueba que algo sea real. Las herramientas que dicen detectar contenido hecho con IA también se equivocan.
Lo que sigue sirviendo son preguntas estables sobre el origen de lo que ves: ¿quién lo subió primero y desde cuándo?, ¿lo cuentan otras fuentes independientes?, ¿cuadran el lugar, la fecha y las personas? Buscar la imagen al revés informa de una versión anterior de la imagen, no de si la generó una IA; si no encuentra nada, no prueba nada. La urgencia empuja a actuar sin pensar: ante un audio urgente de una persona conocida que pide dinero, se la llama por otro medio o se le pregunta algo que solo sabe esa persona.
Cuatro comprobaciones Hay un riesgo contrario: como se sabe que todo puede falsificarse, alguien puede decir que una prueba real es falsa para librarse de ella. Los juristas Robert Chesney y Danielle Citron lo llamaron en 2019 el «dividendo del mentiroso».
Decir que algo está hecho con IA es un buen hábito, porque evita engañar. El reglamento europeo de IA, aprobado en 2024, obliga sobre todo a empresas y profesionales a indicar que las imágenes, vídeos o audios generados o manipulados que parecen reales lo son, con salvedades para las obras artísticas o satíricas; se aplica desde agosto de 2026 y deja fuera el uso personal. Antes de usar la cara o la voz de otra persona conviene pedirle permiso y pensar en el daño: burlarse de ella le hace daño y, según el país, puede ser delito. Si no puedes comprobarlo, no lo compartas, aunque avises de que dudas: seguiría circulando y ayudarías a difundir un engaño. Si ya lo compartiste, avisa para frenarlo.
Ejemplos
Ejemplo 1
Julita recibe un mensaje de voz inventado que suena como una persona conocida, pide dinero con urgencia y le dice que no llame. ¿Qué hace?
Un mensaje de voz (transcripción inventada)
«Soy yo. Estoy en un apuro y necesito que me mandes dinero ahora mismo. No se lo cuentes a nadie y no me llames, por favor.»
Número desconocido
- Nota la urgencia y la petición de dinero.
- No se fía de que la voz suene igual: la voz se puede imitar.
- La llama por otro medio o le pregunta algo que solo sabe esa persona.
Comprueba por otro medio antes de hacer nada.
¡Ojo! Aquí muchos creen que, si la voz suena igual, tiene que ser esa persona.
Ejemplo 2
Toño ve una publicación inventada con una foto espectacular de un puente partido. Nadie más cuenta el suceso y el perfil se creó hace dos días.
Una publicación (texto inventado)
Foto de un puente partido en dos y, detrás, un cartel de la ciudad con letras que no se leen. Pie de foto: «Anoche, en nuestra ciudad. ¡Compártelo ya!».
Perfil sin nombre, creado hace dos días
- Mira quién la subió: un perfil sin nombre, reciente.
- Busca si otras fuentes independientes cuentan el suceso: ninguna.
- Hay letras ilegibles, pero eso solo es una pista.
No la comparte: no puede comprobarla.
¡Ojo! Aquí muchos creen que una foto muy realista tiene que ser auténtica.
Ejemplo 3
Olle cuenta el caso inventado de una tienda que niega una grabación auténtica diciendo que «está hecha con IA». Guni pregunta si entonces hay que desconfiar de todo.
Una noticia (texto inventado)
La dueña de una tienda inventada dice que una grabación auténtica, en la que reconoce que vendió productos caducados, «está hecha con IA».
- Saber que se puede falsificar no vuelve falso lo auténtico.
- Una grabación se comprueba con quién la grabó, cuándo y otras fuentes.
Que algo pueda falsificarse no prueba que sea falso.
¡Ojo! Aquí muchos creen que, si algo pudo falsificarse, ya no se puede creer nada.
Un reto para pensar
Con una persona adulta, escribe tres mensajes inventados: una imagen generada por completo, una voz que pide dinero con urgencia y una foto real con otra fecha. Pide a una compañera o a un compañero que diga qué comprobaría en cada uno. Recuerda que los fallos visibles se corrigen con el tiempo, que no ver ninguno no prueba nada, que buscar la imagen al revés no dice si la generó una IA y que se pide permiso antes de usar la cara de alguien.
Practica
Rondas de 10 preguntas. Elige el nivel:
Tu nota en este tema:Sin nota aúnHaz una ronda del nivel Básico para tener nota.