Hace ya algunos años que comencé a escribir sobre el fenómeno de la manipulación de imágenes o vídeos, los llamados deepfakes, y sus cada vez más apabullantes posibilidades. Desde entonces, hemos visto de todo, y fundamentalmente, una corriente de opinión que afirmaba que su uso sería habitual en política, mientras la tozuda realidad mostraba que en el 96% de los casos, eran utilizados fundamentalmente para la degradación de la mujer.
Pero la tecnología no se queda quieta, y sus aplicaciones siguen evolucionando para conseguir resultados cada vez más alucinantes. Esto permite cada vez más que la barrera de entrada para muchas tareas antes reservadas a expertos descienda cada vez más: llevamos ya tiempo comprobando cómo poner a un algoritmo a trabajar para escribirnos un texto de cualquier tipo es algo ya al alcance de cualquiera.
Como era de esperar, lo mismo ocurre con las imágenes o con los vídeos. Un muy trabajado artículo en Ars Technica, «AI image generation tech can now create life-wrecking deepfakes with ease«, prueba que este tipo de manipulaciones pueden hacerse de manera cada vez más sencilla para defender la tesis de que las personas deberían dedicarse a eliminar las imágenes que aparecen de ellos mismos en la red, una obsesión tristemente muy habitual.
El artículo toma unas pocas imágenes de una persona ficticia en varios contextos – tras intentar hacerlo con voluntarios y renunciar a ello por las potenciales consecuencias sobre su reputación – y fabrica, a partir de ellas, nuevas imágenes potencialmente comprometidas. Se inventa a un tal John, profesor en un colegio, y partiendo de siete imágenes que podrían estar perfectamente obtenidas de cualquier red social, pide a un algoritmo que genere, por ejemplo, imágenes de John aparentemente desnudo en nun lugar público, al lado de una mujer desnuda en un despacho, vestido de guerrillero paramilitar, con el uniforme naranja de la cárcel o en una expresión facial que podría indicar dolor o placer, entre otras. Con el texto adecuado, cualquier de las imágenes podrían ser fuertemente incriminatorias, y llevar a consecuencias de todo tipo en la vida familiar o profesional del supuesto John.
Todo ello, utilizando la versión 1.5 de Stable Diffusion y una técnica bautizada como Dreambooth que permite precisamente eso: generar, a partir de unas pocas imágenes de una persona, crear nuevas imágenes inventadas en todo tipo de contextos. Las imágenes pueden venir de cualquier sitio: de redes sociales, o incluso de fotogramas capturados en un vídeo.
Cada vez más, los algoritmos son capaces de distorsionar nuestra percepción de la realidad de la manera que alguien estime más oportuna. ¿Quieres convertir a alguien en más joven o más viejo? Disney, tras tener que hacerlo mediante costosos métodos de postproducción manual cada vez que lo necesitaba – y antes buscando a actores más jóvenes o mayores y razonablemente parecidos al protagonista – ha creado un algoritmo capaz de hacerlo con facilidad: se entrena con imágenes de personas a lo largo de su vida, y se le pide que lo aplique al protagonista correspondiente.
La tecnología, como siempre, es neutra y permite todo tipo de usos, para bien o para mal. Yo no recomiendo a nadie que trate de evitar que aparezcan imágenes suyas en la red: la tarea me parece digna del mito de Sísifo, directamente absurda a partir de cierto nivel de relevancia pública, y muy poco edificante, en términos de desconfianza en la sociedad o incluso de sociopatía considerando el contexto en que vivimos. Creo más adecuado educar en responsabilidad, por un lado, y en la idea de que cualquier «prueba» que te presenten de algo puede ser producto de una manipulación que antes requería un elevado nivel de preparación profesional, y ahora la puede hacer cualquiera con un mínimo de motivación para ello y en un rato perdido. Pero hasta que ese nivel de educación llegue al conjunto de la sociedad, si es que llega, vamos a ver verdaderamente de todo, me temo. Habrá que estar preparados.
This article is also available in English on my Medium page, «Thanks to deepfakes, reality is now an illusion»
