La inteligencia artificial (IA) nos aporta numerosas ventajas en nuestras tareas diarias: nos libera de trabajos repetitivos, mejora la precisi\u00f3n de las predicciones y aumenta considerablemente la productividad. Sin embargo, como ya he comentado en otros art\u00edculos, la IA tambi\u00e9n conlleva riesgos importantes, especialmente cuando hablamos de contenidos falsos o manipulados.<\/p>\n\n\n\n
Hoy me gustar\u00eda profundizar en uno de los usos m\u00e1s controvertidos de esta tecnolog\u00eda: los deepfakes<\/em>.<\/p>\n\n\n\n Los deepfakes<\/em> son im\u00e1genes, v\u00eddeos o audios creados con IA generativa que imitan de manera realista personas o situaciones que nunca han existido. Pueden recrear un rostro, clonar una voz o inventar un discurso falso con un nivel de detalle sorprendente.<\/p>\n\n\n\n Este tipo de contenidos pueden afectar profundamente la credibilidad personal, profesional y judicial de muchas personas. Adem\u00e1s, no solo sirven para manipular: tambi\u00e9n pueden ser utilizados como excusa para negar la autenticidad de pruebas reales. Un fen\u00f3meno conocido como el efecto Liar\u2019s Dividend<\/em>, donde alguien puede decir: \u201cEsto es un deepfake<\/em>\u201d aunque el contenido sea ver\u00eddico.<\/p>\n\n\n\n Hace no muchos a\u00f1os, crear un deepfake<\/em> era una tarea compleja y cara. Se necesitaban ordenadores potentes, software especializado y muchos conocimientos t\u00e9cnicos. Esto limitaba su acceso a grandes corporaciones cinematogr\u00e1ficas o a gobiernos.<\/p>\n\n\n\n Ahora, la situaci\u00f3n ha cambiado radicalmente. No es necesario ser experto ni disponer de un gran presupuesto: cualquier persona, con unos pocos clics y poco dinero, puede generar un v\u00eddeo falso aparentemente convincente y real. Para m\u00ed, esta accesibilidad es lo que realmente me preocupa y lo que ha encendido todas mis alarmas.<\/p>\n\n\n\n Podr\u00edamos dividirlos en dos categor\u00edas principales:<\/p>\n\n\n\n –Deepfakes for Good<\/strong>: cuando la tecnolog\u00eda se utiliza con fines positivos, como recrear hechos hist\u00f3ricos, dar vida a personajes desaparecidos o incluso ayudar en entornos educativos y art\u00edsticos.<\/p>\n\n\n\n –Deepfakes for Bad<\/strong>: cuando se utilizan para enga\u00f1ar, difamar, manipular o delinquir. Aqu\u00ed encontramos la pornograf\u00eda no consentida, las estafas econ\u00f3micas, la desinformaci\u00f3n pol\u00edtica y otros usos peligrosos.<\/p>\n\n\n\n Como os pod\u00e9is imaginar, el riesgo real proviene de esta segunda categor\u00eda.<\/p>\n\n\n\n Soy de la opini\u00f3n de que todav\u00eda no somos plenamente conscientes del peligro que representan los deepfakes<\/em> maliciosos. Pueden destruir la reputaci\u00f3n de una persona en cuesti\u00f3n de minutos, influir en elecciones con v\u00eddeos falsos o poner en duda una prueba judicial clave. Sobre todo en una sociedad que constantemente comparte informaci\u00f3n y datos a trav\u00e9s de redes sociales.<\/p>\n\n\n\n El problema no es solo que se creen deepfakes<\/em>, sino que cada vez ser\u00e1 m\u00e1s dif\u00edcil distinguirlos de los contenidos reales. \u00a1Cualquier persona puede subir un v\u00eddeo o foto creada por IA en las redes sociales!<\/p>\n\n\n\n Ya adelanto que esta detecci\u00f3n es y ser\u00e1 una tarea compleja. En un futuro cercano, probablemente necesitaremos herramientas espec\u00edficas m\u00e1s avanzadas o, directamente, peritos especializados para verificar qu\u00e9 es aut\u00e9ntico y qu\u00e9 no.<\/p>\n\n\n\n A nivel judicial, los deepfakes<\/em> representan un aut\u00e9ntico reto para los profesionales del derecho. Cada vez es m\u00e1s dif\u00edcil determinar si una fotograf\u00eda, un audio o un v\u00eddeo constituyen pruebas reales y no manipuladas. En este contexto, los peritajes t\u00e9cnicos y forenses adquieren una importancia creciente, ya que ser\u00e1n esenciales para garantizar la autenticidad de los materiales presentados y asegurar la fiabilidad de las pruebas en un procedimiento judicial.<\/p>\n\n\n\n Para entender mejor este fen\u00f3meno, comparto algunos recursos pr\u00e1cticos. He dividido las herramientas en dos bloques: primero las que permiten crear deepfakes<\/em> (para que ve\u00e1is lo f\u00e1cil que resulta hacerlo) y despu\u00e9s las que ayudan a detectarlos.<\/p>\n\n\n\n Estas aplicaciones evolucionan constantemente y cada mes aparecen nuevas soluciones o mejoran las ya existentes.<\/p>\n\n\n\n HeyGen \u2013 Deepfake Maker<\/strong>: plataforma de IA que genera deepfakes<\/em>. Permite crear v\u00eddeos realistas con avatares virtuales y voz sincronizada. Ofrece m\u00e1s de 300 avatares personalizables y soporta hasta 175 idiomas y acentos. Permite clonar tu cara y voz para generar un avatar propio y hacer doblajes autom\u00e1ticos con sincronizaci\u00f3n labial perfecta. Ideal para empresas, creadores de contenido y formaci\u00f3n online, ya que ahorra tiempo y costes en producci\u00f3n audiovisual. Tambi\u00e9n permite traducir y adaptar v\u00eddeos para p\u00fablicos internacionales, hacer anuncios, tutoriales y presentaciones corporativas. Es una herramienta potente, accesible y f\u00e1cil de usar. https:\/\/www.heygen.com\/tool\/deepfake-maker<\/a><\/p>\n\n\n\n –HeyGen \u2013 AI Video Avatar<\/strong>: opci\u00f3n destacada de HeyGen para crear avatares parlantes y realistas a partir de una fotograf\u00eda. https:\/\/www.heygen.com\/avatars\/ai-video-avatar<\/a><\/p>\n\n\n\n –Runway Gen-4<\/strong>: permite transformar im\u00e1genes, textos o v\u00eddeos en nuevo contenido visual avanzado. Ideal para deepfakes<\/em>. https:\/\/runwayml.com<\/a><\/p>\n\n\n\n –Resemble AI<\/strong>: plataforma de IA con diferentes opciones de generaci\u00f3n de voz. Especialmente destaca la clonaci\u00f3n de voz realista: a partir de unos segundos de audio, crea voces sint\u00e9ticas que imitan el tono, entonaci\u00f3n y matices de la voz original. https:\/\/www.resemble.ai<\/a><\/p>\n\n\n\n -Resemble Voice Cloning<\/strong>: otra plataforma de IA para generar voz o audios, tambi\u00e9n con clonaci\u00f3n realista. https:\/\/www.resemble.ai\/voice-cloning<\/a><\/p>\n\n\n\n –ElevenLabs Speech Classifier<\/strong>: plataforma de IA para generaci\u00f3n de voz y audios, con clonaci\u00f3n y doblaje de voces. https:\/\/elevenlabs.io<\/a><\/p>\n\n\n\n Los metadatos son informaci\u00f3n oculta incrustada dentro de un archivo digital (fotograf\u00eda, v\u00eddeo, audio, documento, etc.) que describe su origen, caracter\u00edsticas t\u00e9cnicas y contexto de creaci\u00f3n.<\/p>\n\n\n\n Aunque los metadatos pueden aportar pistas sobre el origen, la fecha, el dispositivo o el software, tambi\u00e9n pueden manipularse, borrarse o no existir. Por ello, deben combinarse con an\u00e1lisis forenses t\u00e9cnicos, verificaci\u00f3n del contexto y, idealmente, pruebas de procedencia criptogr\u00e1fica.<\/p>\n\n\n\n Pueden incluir datos como:<\/strong><\/p>\n\n\n\n -Fecha y hora de creaci\u00f3n o modificaci\u00f3n<\/p>\n\n\n\n -Formato del archivo (JPEG, MP4, PDF, etc.)<\/p>\n\n\n\n -Dispositivo y software utilizado<\/p>\n\n\n\n -Resoluci\u00f3n, tama\u00f1o y configuraciones t\u00e9cnicas<\/p>\n\n\n\n Informaci\u00f3n del autor o derechos de autor<\/p>\n\n\n\n -Geolocalizaci\u00f3n (si est\u00e1 activada)<\/p>\n\n\n\n -Identificaci\u00f3n del origen y la autenticidad de un archivo<\/p>\n\n\n\n -An\u00e1lisis de si ha podido ser generado o modificado con inteligencia artificial (aunque no siempre sea concluyente)<\/p>\n\n\n\n -Determinaci\u00f3n de aspectos legales como los derechos de autor<\/p>\n\n\n\n –Deepware Scanner:<\/strong> https:\/\/deepware.ai<\/a><\/p>\n\n\n\n –Reality Defender:<\/strong> https:\/\/www.realitydefender.com<\/a><\/p>\n\n\n\n –Sensity AI: <\/strong>https:\/\/sensity.ai\/<\/a><\/p>\n\n\n\n –Detect Fakes (MIT):<\/strong> https:\/\/www.media.mit.edu\/projects\/detect-fakes\/overview\/<\/a><\/p>\n\n\n\n –IDLive Voice Clone Detection:<\/strong> https:\/\/www.idrnd.ai\/idlive-voice-clone-detection\/?utm_source=chatgpt.com<\/a><\/p>\n\n\n\n –AI Voice Detector (TruthScan):<\/strong> https:\/\/truthscan.com\/ai-voice-detector?utm_source=chatgpt.com<\/a><\/p>\n\n\n\n Tambi\u00e9n podemos encontrar deepfakes<\/em> en formato texto. Aun as\u00ed, el principal reto de la inteligencia artificial en el \u00e1mbito acad\u00e9mico no es tanto la manipulaci\u00f3n, sino la determinaci\u00f3n de la autor\u00eda.<\/p>\n\n\n\n Los repositorios digitales y otros recursos acad\u00e9micos son espacios esenciales para acceder a textos, art\u00edculos y libros que sirven de base a la investigaci\u00f3n. M\u00e1s all\u00e1 de la disponibilidad y el acceso, hoy es especialmente relevante conocer el origen y la autor\u00eda de los contenidos: si han sido elaborados por un autor humano o generados con inteligencia artificial. Esta distinci\u00f3n, que a menudo no es sencilla, es fundamental para evaluar la fiabilidad, la calidad y el uso adecuado de cada recurso dentro del trabajo investigador.<\/p>\n\n\n\n –Copyleaks: <\/strong>https:\/\/copyleaks.com\/es\/<\/a><\/p>\n\n\n\n –AI Detector (TextDetector.ai):<\/strong> https:\/\/textdetector.ai\/<\/a><\/p>\n\n\n\n –Compilatio AI Detector: <\/strong>https:\/\/www.compilatio.net\/en\/ai-detector-info<\/a><\/p>\n\n\n\n –QuillBot AI Detector: <\/strong>https:\/\/quillbot.com\/ai-content-detector<\/a><\/p>\n\n\n\n\u00bfQu\u00e9 son exactamente los Deepfakes?<\/strong><\/h2>\n\n\n\n
La evoluci\u00f3n de la tecnolog\u00eda<\/h2>\n\n\n\n
Tipos de Deepfakes<\/em><\/h2>\n\n\n\n
\u00bfPor qu\u00e9 deber\u00edan preocuparnos?<\/h2>\n\n\n\n
\u00bfC\u00f3mo afecta a la prueba judicial?<\/strong><\/h2>\n\n\n\n
Recursos y herramientas sobre Deepfakes<\/em><\/strong><\/h2>\n\n\n\n
Herramientas para crear Deepfakes<\/em><\/strong><\/h2>\n\n\n\n
Herramientas para detectar Deepfakes<\/em><\/h2>\n\n\n\n
Metadatos<\/strong><\/h3>\n\n\n\n
Recursos<\/strong><\/h2>\n\n\n\n
V\u00eddeos e im\u00e1genes<\/strong><\/h3>\n\n\n\n
Audios<\/h3>\n\n\n\n
\n\n\n\nRepositorios y recursos para investigadores<\/strong><\/h2>\n\n\n\n