¿Cómo detectar imágenes, vídeos y audios falsos generados por IA? Los Deepfakes

La inteligencia artificial (IA) nos aporta numerosas ventajas en nuestras tareas diarias: nos libera de trabajos repetitivos, mejora la precisión de las predicciones y aumenta considerablemente la productividad. Sin embargo, como ya he comentado en otros artículos, la IA también conlleva riesgos importantes, especialmente cuando hablamos de contenidos falsos o manipulados.

Hoy me gustaría profundizar en uno de los usos más controvertidos de esta tecnología: los deepfakes.

¿Qué son exactamente los Deepfakes?

Los deepfakes son imágenes, vídeos o audios creados con IA generativa que imitan de manera realista personas o situaciones que nunca han existido. Pueden recrear un rostro, clonar una voz o inventar un discurso falso con un nivel de detalle sorprendente.

Este tipo de contenidos pueden afectar profundamente la credibilidad personal, profesional y judicial de muchas personas. Además, no solo sirven para manipular: también pueden ser utilizados como excusa para negar la autenticidad de pruebas reales. Un fenómeno conocido como el efecto Liar’s Dividend, donde alguien puede decir: “Esto es un deepfake” aunque el contenido sea verídico.

La evolución de la tecnología

Hace no muchos años, crear un deepfake era una tarea compleja y cara. Se necesitaban ordenadores potentes, software especializado y muchos conocimientos técnicos. Esto limitaba su acceso a grandes corporaciones cinematográficas o a gobiernos.

Ahora, la situación ha cambiado radicalmente. No es necesario ser experto ni disponer de un gran presupuesto: cualquier persona, con unos pocos clics y poco dinero, puede generar un vídeo falso aparentemente convincente y real. Para mí, esta accesibilidad es lo que realmente me preocupa y lo que ha encendido todas mis alarmas.

Tipos de Deepfakes

Podríamos dividirlos en dos categorías principales:

–Deepfakes for Good: cuando la tecnología se utiliza con fines positivos, como recrear hechos históricos, dar vida a personajes desaparecidos o incluso ayudar en entornos educativos y artísticos.

–Deepfakes for Bad: cuando se utilizan para engañar, difamar, manipular o delinquir. Aquí encontramos la pornografía no consentida, las estafas económicas, la desinformación política y otros usos peligrosos.

Como os podéis imaginar, el riesgo real proviene de esta segunda categoría.

¿Por qué deberían preocuparnos?

Soy de la opinión de que todavía no somos plenamente conscientes del peligro que representan los deepfakes maliciosos. Pueden destruir la reputación de una persona en cuestión de minutos, influir en elecciones con vídeos falsos o poner en duda una prueba judicial clave. Sobre todo en una sociedad que constantemente comparte información y datos a través de redes sociales.

El problema no es solo que se creen deepfakes, sino que cada vez será más difícil distinguirlos de los contenidos reales. ¡Cualquier persona puede subir un vídeo o foto creada por IA en las redes sociales!

Ya adelanto que esta detección es y será una tarea compleja. En un futuro cercano, probablemente necesitaremos herramientas específicas más avanzadas o, directamente, peritos especializados para verificar qué es auténtico y qué no.

¿Cómo afecta a la prueba judicial?

A nivel judicial, los deepfakes representan un auténtico reto para los profesionales del derecho. Cada vez es más difícil determinar si una fotografía, un audio o un vídeo constituyen pruebas reales y no manipuladas. En este contexto, los peritajes técnicos y forenses adquieren una importancia creciente, ya que serán esenciales para garantizar la autenticidad de los materiales presentados y asegurar la fiabilidad de las pruebas en un procedimiento judicial.

Recursos y herramientas sobre Deepfakes

Para entender mejor este fenómeno, comparto algunos recursos prácticos. He dividido las herramientas en dos bloques: primero las que permiten crear deepfakes (para que veáis lo fácil que resulta hacerlo) y después las que ayudan a detectarlos.

Estas aplicaciones evolucionan constantemente y cada mes aparecen nuevas soluciones o mejoran las ya existentes.

Herramientas para crear Deepfakes

HeyGen – Deepfake Maker: plataforma de IA que genera deepfakes. Permite crear vídeos realistas con avatares virtuales y voz sincronizada. Ofrece más de 300 avatares personalizables y soporta hasta 175 idiomas y acentos. Permite clonar tu cara y voz para generar un avatar propio y hacer doblajes automáticos con sincronización labial perfecta. Ideal para empresas, creadores de contenido y formación online, ya que ahorra tiempo y costes en producción audiovisual. También permite traducir y adaptar vídeos para públicos internacionales, hacer anuncios, tutoriales y presentaciones corporativas. Es una herramienta potente, accesible y fácil de usar. https://www.heygen.com/tool/deepfake-maker

–HeyGen – AI Video Avatar: opción destacada de HeyGen para crear avatares parlantes y realistas a partir de una fotografía. https://www.heygen.com/avatars/ai-video-avatar

–Runway Gen-4: permite transformar imágenes, textos o vídeos en nuevo contenido visual avanzado. Ideal para deepfakes. https://runwayml.com

–Resemble AI: plataforma de IA con diferentes opciones de generación de voz. Especialmente destaca la clonación de voz realista: a partir de unos segundos de audio, crea voces sintéticas que imitan el tono, entonación y matices de la voz original. https://www.resemble.ai

-Resemble Voice Cloning: otra plataforma de IA para generar voz o audios, también con clonación realista. https://www.resemble.ai/voice-cloning

–ElevenLabs Speech Classifier: plataforma de IA para generación de voz y audios, con clonación y doblaje de voces. https://elevenlabs.io

Herramientas para detectar Deepfakes

Metadatos

Los metadatos son información oculta incrustada dentro de un archivo digital (fotografía, vídeo, audio, documento, etc.) que describe su origen, características técnicas y contexto de creación.

Aunque los metadatos pueden aportar pistas sobre el origen, la fecha, el dispositivo o el software, también pueden manipularse, borrarse o no existir. Por ello, deben combinarse con análisis forenses técnicos, verificación del contexto y, idealmente, pruebas de procedencia criptográfica.

Pueden incluir datos como:

-Fecha y hora de creación o modificación

-Formato del archivo (JPEG, MP4, PDF, etc.)

-Dispositivo y software utilizado

-Resolución, tamaño y configuraciones técnicas

Información del autor o derechos de autor

-Geolocalización (si está activada)

-Identificación del origen y la autenticidad de un archivo

-Análisis de si ha podido ser generado o modificado con inteligencia artificial (aunque no siempre sea concluyente)

-Determinación de aspectos legales como los derechos de autor

Recursos

Vídeos e imágenes

–Deepware Scanner: https://deepware.ai

–Reality Defender: https://www.realitydefender.com

–Sensity AI: https://sensity.ai/

–Detect Fakes (MIT): https://www.media.mit.edu/projects/detect-fakes/overview/

Audios

–IDLive Voice Clone Detection: https://www.idrnd.ai/idlive-voice-clone-detection/?utm_source=chatgpt.com

–AI Voice Detector (TruthScan): https://truthscan.com/ai-voice-detector?utm_source=chatgpt.com

Repositorios y recursos para investigadores

También podemos encontrar deepfakes en formato texto. Aun así, el principal reto de la inteligencia artificial en el ámbito académico no es tanto la manipulación, sino la determinación de la autoría.

Los repositorios digitales y otros recursos académicos son espacios esenciales para acceder a textos, artículos y libros que sirven de base a la investigación. Más allá de la disponibilidad y el acceso, hoy es especialmente relevante conocer el origen y la autoría de los contenidos: si han sido elaborados por un autor humano o generados con inteligencia artificial. Esta distinción, que a menudo no es sencilla, es fundamental para evaluar la fiabilidad, la calidad y el uso adecuado de cada recurso dentro del trabajo investigador.

–Copyleaks: https://copyleaks.com/es/

–AI Detector (TextDetector.ai): https://textdetector.ai/

–Compilatio AI Detector: https://www.compilatio.net/en/ai-detector-info

–QuillBot AI Detector: https://quillbot.com/ai-content-detector

–Scribbr AI Detector: https://www.scribbr.com/ai-detector/