Los deepfake arruinan vidas, más allá del dinero

En marzo de 2022, un video del presidente de Ucrania, Volodímir Zelenski​, se difundió en redes sociales anunciando la rendición de su país frente a la invasión rusa. El video, claramente falso, se constituyó en un hecho histórico, el primer uso del deepfake en un conflicto armado.

Recordemos que los deepfake son un engaño creado con Inteligencia Artificial, capaz de crear imágenes y audio convincentes que se hacen pasar por otras personas. Su nombre proviene de la mezcla de los términos deep learning y fake (falso).

Las víctimas de esta tecnología han sido desde políticos como Zelenski​ hasta estrellas de cine como Morgan Freeman. Incluso hay canales en redes sociales dedicados solo a eso, como en TikTok, con la cuenta @unreal_keanu que nos muestra a Keanu Reeves en situaciones divertidas.

Pero además de usarse para fines de entretenimiento también se ha utilizado para perpetrar crímenes como ocurrió en Emiratos Árabes Unidos donde se robaron 35 millones de dólares por medio de la clonación del audio de un cliente.

¿Cómo surgió?

Los orígenes del deepfake se remontan a 2014 cuando un estudiante de doctorado de la Universidad de Montreal, Ian Goodfellow, desarrolló un modelo de redes neuronales llamadas GAN (Generative Adversarial Networks).

Esta técnica consiste en usar dos Inteligencias Artificiales, enfrentadas entre sí, donde una crea una imagen falsa y la otra debe descubrir si es un engaño. A partir de esa retroalimentación la calidad de las suplantaciones mejora paulatinamente.

A partir de entonces, la tecnología fue mejorando y se fue popularizando hasta el punto de usarse en pornografía, en 2017, suplantando los rostros de las actrices por celebridades.

Peor aún, esta técnica también ha sido usada por novios despechados como una sofisticada forma de venganza. Esta tendencia ha aumentado tanto que algunos expertos advierten que puede convertirse en una verdadera epidemia.

Activismo y política

Incluso los deepfake pueden ir más allá de los engaños y la pornografía, pues ya ha sido usados para la manipulación política. Recientemente el New York Times dio a conocer las imágenes de unos noticieros donde los presentadores criticaban la postura estadounidense. Lo más impactante es que estos periodistas no existen.

La Inteligencia Artificial ya es capaz de inventar rostros desde cero y su crecimiento ha sido tal que existen sitios en Internet como This person does not exist que crean rostros al azar.

Como pasa con todas las tecnologías, los deepfake como tal no son ilegales y son una herramienta válida de expresión, pero al mismo tiempo han abierto una puerta hacia la extorsión, el fraude y el sabotaje político y empresarial. Algunas entidades como Google han creado listados y esfuerzos para combatir esta tendencia, pero se trata de un juego del gato y el ratón del que aún falta mucho que contar.

Si estás interesado en conocer o adquirir una de las soluciones digitales que Movistar Empresas tiene para impulsar la transformación de tu negocio ingresa aquí. Foto de Freepik