Com detectar imatges, vídeos i àudios falsos generats per IA? Els Deepfakes

La intel·ligència artificial (IA) ens aporta nombrosos avantatges en les nostres tasques diàries: ens allibera de feines repetitives, millora la precisió de les prediccions i augmenta considerablement la productivitat. Tanmateix, com ja he comentat en altres articles, la IA també comporta riscos importants, especialment quan parlem de continguts falsos o manipulats.

Avui m’agradaria aprofundir en un dels usos més controvertits d’aquesta tecnologia: els deepfakes.

Què són exactament els Deepfakes?

Els deepfakes són imatges, vídeos o audios creats amb IA generativa que imiten de manera realista persones o situacions que mai no han existit. Poden recrear una cara, clonar una veu o inventar un discurs fals amb un nivell de detall sorprenent.

Aquest tipus de continguts poden afectar profundament la credibilitat personal, professional i judicial de moltes persones. A més, no només serveixen per manipular: també poden ser utilitzats com a excusa per negar l’autenticitat de proves reals. Un fenomen conegut com a efecte Liar’s Dividend, on algú pot dir: “Això és un deepfake” encara que el contingut sigui verídic.

L’evolució de la tecnologia

Fa no gaires anys, crear un deepfake era una tasca complexa i cara. Es necessitaven ordinadors potents, programari especialitzat i molts coneixements tècnics. Això limitava l’accés a grans corporacions cinematogràfiques o a governs.

Ara, la situació ha canviat radicalment. No cal ser expert ni tenir un gran pressupost: qualsevol persona, amb uns quants clics i pocs diners, pot generar un vídeo fals aparentment convincent i real. Per mi,  aquesta accessibilitat és el que realment em preocupa i ha encès totes les meves alarmes.

Tipus de Deepfakes:

Podríem dividir-los en dues categories principals:

–Deepfakes for Good: quan la tecnologia es fa servir amb finalitats positives, com recrear fets històrics, donar vida a personatges desapareguts o fins i tot ajudar en entorns educatius i artístics.

–Deepfakes for Bad: quan s’utilitza per enganyar, difamar, manipular o delinquir. Aquí hi trobem la pornografia no consentida, les estafes econòmiques, la desinformació política i altres usos perillosos.

Com us podeu imaginar, el risc real ve d’aquesta segona categoria.

Per què ens haurien de preocupar?

Sóc de l’opinió que encara no som plenament conscients del perill que representen els deepfakes maliciosos. Poden destruir la reputació d’una persona en qüestió de minuts, influir en eleccions amb vídeos falsos o posar en dubte una prova judicial clau. Sobretot en una societat, que constantment està compartint informació i dades per les xarxes socials. 

El problema no és només que es creïn deepfakes, sinó que cada cop serà més difícil distingir-los dels continguts reals. Qualsevol persona pot penjar un vídeo o foto creada per IA en les xarxes socials!

Ja avanço que aquesta detecció és i serà una tasca complexa. En un futur proper, probablement necessitarem eines específiques més avançades o, directament, experts pericials per verificar què és autèntic i què no.

Com afecte la prova judicial? 

A nivell judicial, els deepfakes representen un autèntic repte per als professionals del dret. Cada vegada és més difícil determinar si una fotografia, un àudio o un vídeo constitueixen proves reals i no manipulades. En aquest context, els peritatges tècnics i forenses adquireixen una importància creixent, ja que seran essencials per garantir l’autenticitat dels materials presentats i assegurar la fiabilitat de les proves en un procediment judicial.

Recursos i eines sobre Deepfakes

Per entendre millor aquest fenomen, us comparteixo alguns recursos pràctics. He dividit les eines en dos blocs: primer les que permeten crear deepfakes (perquè veieu com de fàcil és fer-ho) i després les que ajuden a detectar-los.

Aquestes aplicacions evolucionen constantment i cada mes apareixen noves solucions o milloren les ja existents.

Eines per crear Deepfakes:

–HeyGen – Deepfake Maker: HeyGen és una plataforma d’IA que genera Deepfakes més destacades. Permet crear vídeos realistes amb avatars virtuals i veu sincronitzada. Ofereix més de 300 avatars personalitzables i suporta fins a 175 idiomes i accents. Pots clonar la teva cara i veu per generar un avatar propi i fer doblatges automàtics amb sincronització labial perfecta. És ideal per a empreses, creadors de contingut i formació online, ja que estalvia temps i costos en producció audiovisual. També permet traduir i adaptar vídeos per a públics internacionals, fer anuncis, tutorials i presentacions corporatives. És una eina potent, accessible i fàcil d’utilitzar. https://www.heygen.com/tool/deepfake-maker

–HeyGen – AI Video Avatar:  Una opció força destacada de HeyGen, és crear un Avatar parlants i realistes mitjançant una fotografia. https://www.heygen.com/avatars/ai-video-avatar

–Runway Gen-4: Permet transformar imatges, textos o vídeos en nou contingut visual avançat. Ideal per els Deepfakes. https://runwayml.com

–Resemble AI: Plataforma IA que disposa de diferents opcions de generació de veu. Especialment, permet la clonació de veu realista: a partir d’uns segons d’àudio, crea veus sintètiques que imiten el to, entonació i matisos de la veu original. https://www.resemble.ai

–Resemble Voice Cloning: Un altre plataforma IA per la generació de veu o àudios. També permet la clonació realista de veus. https://www.resemble.ai/voice-cloning

–ElevenLabs Speech Classifier: Plataforma de IA de generació de veu i àudios. També permet clonació i doblatge de veus. https://elevenlabs.io

Eines per detectar Deepfakes

Metadades

Les metadades són informació oculta incrustada dins d’un fitxer digital (fotografia, vídeo, àudio, document, etc.) que descriu el seu origen, característiques tècniques i context de creació.

Tanmateix,, les metadades poden aportar pistes sobre origen, data, dispositiu o software, però es poden manipular, esborrar o no existir; per això cal combinar-les amb anàlisis forenses tècniques, verificació de context i, idealment, proves de procedència criptogràfica. 

Poden incloure dades com:

Recursos: 

Vídeos i imatges

–Deepware Scanner:  https://deepware.ai

–Reality Defender:  https://www.realitydefender.com

–Sensity AI:  https://sensity.ai/

–Detect Fakes (MIT):  https://www.media.mit.edu/projects/detect-fakes/overview/

Àudios

–IDLive Voice Clone Detection: https://www.idrnd.ai/idlive-voice-clone-detection/?utm_source=chatgpt.com

–AI Voice Detector (TruthScan): https://truthscan.com/ai-voice-detector?utm_source=chatgpt.com

Repositoris i recursos per investigadors

També podem trobar deepfakes en format text. Tot i així, el principal repte de la intel·ligència artificial en l’àmbit acadèmic no és tant la manipulació, sinó la determinació de l’autoria. Els repositoris digitals i altres recursos acadèmics són espais essencials per accedir a textos, articles i llibres que serveixen de base a la recerca. Més enllà de la disponibilitat i l’accés, avui és especialment rellevant conèixer l’origen i l’autoria dels continguts: si han estat elaborats per un autor humà o bé generats amb intel·ligència artificial. Aquesta distinció, que sovint no és senzilla, és fonamental per avaluar la fiabilitat, la qualitat i l’ús adequat de cada recurs dins del treball investigador

–Copyleaks: https://copyleaks.com/es/

– AI Detector (TextDetector.ai): https://textdetector.ai/

–Compilatio AI Detector: https://www.compilatio.net/en/ai-detector-info

–QuillBot AI Detector: https://quillbot.com/ai-content-detector

–Scribbr AI Detector: https://www.scribbr.com/ai-detector/