Inteligencia artificial: haciendo más reales las fake news

Marta Mallavibarrena    11 julio, 2022
Foto: Markus Winkler / Unsplash

Fake News, palabra del año 2017 según el diccionario Collins y repetida hasta la saciedad tanto en medios como redes sociales. Incluso en este blog le hemos dedicado numerosas entradas, señalando posibles riesgos derivados de su uso, así como el papel de la tecnología en su detección. En este caso, la intención es ver la problemática desde el otro lado: cómo el desarrollo tecnológico, incluyendo el de los sistemas empleados para identificar las notificas falsas, en realidad están contribuyendo a hacerlas cada día más reales.

Sin entrar en detalles concretos del funcionamiento técnico de estos algoritmos, lo que se pretende es mostrar, a través de ejemplos, demostrar el proceso de crear una noticia totalmente falsa desde cero con el mínimo esfuerzo humano posible, dejando que la tecnología haga el resto.

Creando a nuestro personaje principal

Toda noticia necesita un protagonista, y éste, un contexto. Gracias a plataformas como this X does not exist, en un par de clicks podemos tener su cara, su mascota o su currículum. Ninguna de las imágenes generadas habría existido hasta que hagamos “click” y dejará de existir cuando refresquemos la página.

Cassidy T. Pettway, 57 años de Brighton, Colorado. Imagen generada automáticamente a través de thispersondoesnotexist.com
Cassidy T. Pettway, 57 años de Brighton, Colorado. Imagen generada automáticamente a través de thispersondoesnotexist.com
Sundae, uno de los 4 gatos de Cassidy     Imagen generada automáticamente a través de thiscatdoesnotexist.com
Sundae, uno de los 4 gatos de Cassidy     Imagen generada automáticamente a través de thiscatdoesnotexist.com

Ante la falta de imaginación para añadir detalles como nombre, nacionalidad, residencia, etc. También podemos recurrir a otros recursos gratuitos como fakepersongenerator.com o fauxid.com. Sí, para el gato también.

La limitación de este tipo de enfoque es que no podemos construir una identidad completa a partir de una única fotografía, y dado que Cassidy en realidad no existe no podremos pedirle que se haga más. Para solventar este inconveniente aparecen las técnicas de morphing que permiten obtener diferentes ángulos de la misma fotografía, cambiar su expresión, aumentar o reducir su edad, etc.

Se trata de tecnologías similares a las que emplean aplicaciones como FaceApp, que hace unos años tuvieron a miles de usuarios en redes sociales mostrando “como serían con 80 años”. También son las culpables de muchos dolores de cabeza para los agentes fronterizos en todo el mundo, ya que las imágenes generadas se parecen suficiente a la imagen original para que el ojo humano las identifique como la misma persona, pero pueden evadir sistemas biométricos.

Imagen: ejemplo de imágenes modificadas por SofGAN. Fuente: apchenstu.github.io/sofgan/

Ahora que ya tenemos suficientes fotos de nuestro personaje principal, también podemos añadirle un fondo, un contexto. Si no queremos preocuparnos porque alguien pueda reconocer la imagen original que hemos usado en nuestro montaje, podemos describirle el paisaje a DALL·E (versión mini disponible en su web) o, si preferimos sacar nuestro lado artístico, dibujarla en GauGAN2 de Nvidia.

Imagen: input y output de GauGAN 2, generando imágenes realistas a partir de dibujos simples. Fuente: gaugan.org/gaugan2/
Imagen: input y output de GauGAN 2, generando imágenes realistas a partir de dibujos simples. Fuente: gaugan.org/gaugan2/

Mención especial merece el motor de videojuegos Unreal Engine 5, entre otros, ya que, si bien permiten crear escenarios y ambientes capaces de engañar a cualquiera, requieren mucho más esfuerzo por parte del creador que los ejemplos que se exponen en este post. Un ejemplo reciente es la recreación de la estación de tren de Toyama, Japón, creada por el artista Lorenzo Drago.

Desarrollando y compartiendo la noticia

Ahora que le hemos puesto cara a Cassidy, es hora de que cumpla su función como creadora, difusora o incluso protagonista de falsos contenidos. Si tampoco nos vemos con ánimo literario para redactarla nosotros mismos, también hay algoritmos para ello.

Plataformas como Smodin.io pueden generar artículos o ensayos de una extensión y calidad considerable indicando únicamente el título. Puede, o puede que no, que le pidiera ayuda para redactar este post.

Si enfocásemos nuestra estrategia de desinformación a suplantar a otra persona en lugar de crearla de la nada, también hay sistemas entrenados para imitar estilos de escritura. En 2017 se viralizó el capítulo de Harry Potter generado por Botnik Studios imitando el estilo de su autora original.

Si en lugar de un artículo propiamente dicho quisiéramos hacer una campaña de desinformación en redes sociales, podemos crear pequeños fragmentos de texto con la demo de Inferkit.com. Perfectas para un tweet o un comentario en Facebook. ¿Y si Cassidy se dedicase a desmentir que el hombre llegó a la luna?

Imagen: texto generado por Inferkit.com – En gris: texto indicado por el usuario. En verde: texto agregado a través de inteligencia artificial. Fuente: app.inferkit.com/demo
Imagen: texto generado por Inferkit.com – En gris: texto indicado por el usuario. En verde: texto agregado a través de inteligencia artificial. Fuente: app.inferkit.com/demo

En muchas ocasiones ni siquiera es necesario crear un usuario en las redes para que publique realmente el contenido, basta con una captura de pantalla indicando que lo ha hecho. Puede ser una conversación de WhatsApp, un comentario en Facebook o incluso su perfil de Tinder.

Para subir nota

Después de generar imágenes estáticas y texto, si quisiéramos subir un nivel más en nuestra creación de noticias falsas, podríamos recurrir al vídeo y el sonido. Los ya conocidos deep fakes son una herramienta muy útil en ambos casos. En el blog ya se ha comentado con anterioridad como se emplean en el cine, para suplantar la identidad de alguien o realizar un “fraude al CEO”.

Además de estas técnicas, más enfocadas en la suplantación o imitación de otra imagen o sonido, existen plataformas capaces de crear nuevas voces: algunas desde cero, como This Voice Does Not Exist; otras nos permiten realizar ajustes sobre voces previamente creadas como Listnr.tech; y otras crear nuevas voces a partir de la nuestra, como Resemble.ai.

Conclusión

Si bien la amenaza de la desinformación y las noticias falsas lleva siglos presente, gracias al desarrollo tecnológico, ahora somos capaces de generar la imagen de una persona en un solo click, darle una mascota, un trabajo y un hobby en otros tres, inculcarle ciertas ideas en otros tantos y finalmente darle voz.

Tareas que antes requerían de un gran esfuerzo manual por la parte interesada en crear y difundir la información, ahora pueden automatizarse y realizarse en masa. Esto también implica que ahora estas campañas se encuentran al alcance de cualquiera, y no se limitan a gobiernos y grandes empresas.

Mientras la tecnología no consiga estar a la altura de detectar lo que ella misma crea, la única solución posible se basa en la concienciación y el pensamiento crítico de los usuarios, que comienza conociendo las amenazas a las que se enfrenta.

“Our technological powers increase, but the side effects and potential hazards also escalate”.  – Alvin Toffler. Future Shock (1970)

Deja una respuesta

Tu dirección de correo electrónico no será publicada.