¿Es la tecnología deepfake una amenaza?
La tecnología deepfake plantea una serie de amenazas muy reales para las personas y la sociedad en general. Los videos deepfake convincentes pueden ser extremadamente dañinos si se crean como pornografía de venganza y se comparten en línea, razón por la cual muchos países están comenzando a instituir leyes para criminalizar esta actividad.
Sin embargo, los deepfakes plantean otras amenazas crecientes, que exploraremos aquí.
Noticias falsas y propaganda
Un vídeo deepfake convincente puede utilizarse como propaganda para difamar a los opositores políticos y a los gobiernos rivales. Por ejemplo, podemos mirar al año 2022, cuando, poco después de la invasión rusa de Ucrania, aparecieron en Internet vídeos falsos que mostraban al presidente ucraniano rindiéndose.
Si bien este video fue expuesto como falso, es fácil imaginar cuán dañina podría ser esta estrategia una vez que la tecnología se vuelva más difícil de detectar. Un deepfake podría utilizarse para difamar a un oponente político e influir en los votantes. Alternativamente, el uso generalizado de esta tecnología podría usarse para desacreditar un vídeo genuinamente incriminatorio.
Si detectar un video deepfake se vuelve imposible, los medios fabricados tienen el potencial de aumentar los riesgos de noticias falsas y alimentar la desconfianza en los principales medios de comunicación.
Estafas e ingeniería social
La tecnología deepfake también podría usarse para engañar a las personas para que expongan información privada o incluso regalen dinero con ataques de phishing. Si recibe un mensaje de Facebook de un amigo explicando que está varado en el extranjero y necesita asistencia financiera urgente, es posible que sospeche. Quizás los llames o les envíes un mensaje de texto desde una aplicación diferente y descubras que su cuenta de Facebook ha sido pirateada.
Ahora imagina el mismo escenario, pero en lugar de un mensaje, te envían un vídeo completamente convincente de tu amigo. El audio y el video parecen genuinos; Ahora tienes lo que parece una prueba visual de que realmente están atrapados en un aeropuerto sin suficiente dinero para el billete de vuelta a casa. Mucha gente enviaría el dinero sin sentir la necesidad de pedir más garantías, pero lo que acaban de ver podría ser un deepfake.
Gracias a la creciente sofisticación de las redes generativas de confrontación y otros sistemas de aprendizaje automático, un estafador pronto podría utilizar estos videos convincentes para facilitar el robo de identidad y ayudar en futuras estafas.
El futuro de los deepfakes
Será cada vez más difícil detectar deepfakes a medida que la tecnología mejore. Si llegamos al punto en que cualquiera con una computadora y un conocimiento básico del software VFX pueda producir un video del presidente diciendo algo escandaloso, estaremos en problemas.
Ya es difícil detectar los deepfakes, pero pronto podrían volverse imposibles de detectar. Con un sistema político polarizado, no es improbable que un deepfake pueda usarse como parte de una estrategia de campaña encubierta. Aunque el uso de la tecnología en películas y programas de televisión recientes está ayudando a crear conciencia entre el público, muchas personas aún podrían estar mal informadas con un vídeo convincente.
Un paso sencillo que puedes tomar hoy para contrarrestar los riesgos que plantean los estafadores deepfake es limitar la cantidad de imágenes que publicas en línea. La creación de un vídeo convincente generado por IA depende de que el sistema acceda a fotografías y secuencias del sujeto que intenta recrear. Le sugerimos que mantenga privados sus perfiles de redes sociales y evite publicar imágenes regulares de su rostro.
Fuente: Este artículo ha sido escrito por Malcom Higgins para NordVPN en https://nordvpn.com/es/blog/what-is-a-deepfake/
