Según nos explica Malcolm Higgins, del equipo de NordVPN, los deepfakes son vídeos manipulados mediante inteligencia artificial y son una preocupación creciente para los gobiernos, las fuerzas del orden y los individuos.
Estos medios sintéticos pueden ser muy convincentes y algún día podrían socavar nuestra capacidad de confiar en nuestros propios ojos. Pero ¿qué es la tecnología deepfake? ¿Y por qué es tan peligroso?
¿Cuál es el propósito de los deepfakes?
Los deepfakes pueden tener una variedad de propósitos, que van desde envejecer a actores en éxitos de taquilla de Hollywood hasta librar peligrosas guerras de propaganda contra rivales políticos.
La tecnología deepfake puede crear vídeos convincentes de personas, incluidos políticos y celebridades, que parecen decir y hacer cosas que en realidad nunca hicieron. Los programas deepfake son relativamente accesibles y fáciles de usar y pronto podrían desempeñar un papel importante en la industria cinematográfica.
Combine esto con el hecho de que los sistemas de Inteligencia Artificial también pueden recrear el audio de voces humanas específicas de la misma manera, y un buen deepfake se convierte en una herramienta poderosa y potencialmente peligrosa.
¿Cómo se hacen los vídeos deepfake?
Los deepfakes se crean con sistemas de Inteligencia Artificial, que utilizan un proceso llamado aprendizaje profundo para ver y recrear medios. En algunos casos, estos sistemas de aprendizaje profundo utilizan una red generativa de confrontación. Básicamente, la red de IA se divide en dos componentes rivales, que compiten para aprender y mejorar su producción.
Un deepfake suele incluir imágenes de vídeo de una persona, normalmente un actor. Éste es sólo el títere sobre el que luego se proyectará otro rostro. Luego, la inteligencia artificial ve cientos de imágenes de un individuo diferente y recrea de manera realista sus características. Luego, la imagen del nuevo rostro se asigna a los movimientos del actor, sincronizando expresiones y movimientos de labios.
Aunque la IA deepfake todavía se está puliendo y mejorando, ya se encuentra en una etapa muy avanzada y puede producir resultados rápidamente con una mínima supervisión humana.
¿Quién puede hacer deepfakes?
Cualquiera puede crear vídeos e imágenes deepfake utilizando una variedad de aplicaciones gratuitas como Wombo y FaceApp. Se trata de programas sencillos que no producen resultados muy convincentes, pero son sólo la punta del iceberg.
Los artistas de efectos visuales han estado buscando formas de envejecer a los actores mayores e incluso traer de vuelta a la pantalla a celebridades fallecidas. Hemos visto intentos de rejuvenecer a Arnold Schwarzenegger en “Terminator: Dark Fate” y de resucitar a Peter Cushing en “Rogue One: A Star Wars Story”.
No se trataba de deepfakes, sino más bien de cuidadosas reconstrucciones digitales realizadas por artistas de efectos visuales. Lo sorprendente de ellos es que muchos artistas aficionados de efectos visuales hicieron sus propias versiones de las escenas relevantes de estas películas y utilizaron software deepfake para generar recreaciones faciales aún mejores. Esto demuestra un caso de uso interesante y legítimo para los deepfakes.
Puede ver algunos de estos convincentes videos generados por IA en YouTube junto con numerosos videos falsos de figuras públicas como Donald Trump, Barack Obama y Tom Cruise, todos recreados a través de esta misma tecnología.
¿Son ilegales los deepfakes?
Los deepfakes se están ganando rápidamente una mala reputación como herramientas de desinformación, noticias falsas y contenido adulto malicioso. Sin embargo, no son ilegales en sí mismos.
Hay usos legítimos para los deepfakes (el principal de ellos es su papel en los efectos digitales de las películas), pero también pueden utilizarse para prácticas ilegales, que es una de las principales razones por las que recientemente han aumentado la conciencia pública.
Los deepfakes a veces se utilizan para crear ilegalmente vídeos e imágenes pornográficas, a menudo utilizando imágenes de celebridades femeninas y figuras públicas. Incluso ha habido informes de desnudos deepfake que pueden generar automáticamente este material.
Por si esto no fuera suficientemente malo, estos vídeos falsos también pueden ser parte de la estrategia propagandística de los gobiernos para intentar socavar la confianza en sus enemigos.
