Mi columna en Invertia de esta semana se titula «Deepfakes: segunda fase» (pdf), y trata de describir lo que está pasando en el entorno tecnológico alrededor del desarrollo de tecnologías capaces de replicar de manera prácticamente perfecta una voz o una imagen.
El progreso de los llamados deepfakes me resulta muy llamativo, porque es una tecnología que utilizo a menudo como elemento tractor en mis clases y conferencias. Los elementos tractores en una presentación son contenidos que deben ser intrínsecamente atractivos, que se alternan con otros contenidos más complejos o que requiere una explicación más cuidadosa con el fin de procurar un desarrollo adecuado de la sesión. En el caso de los deepfakes, dado que tienden a intrigar y a resultar sorprendentes, el recurso es relativamente sencillo, y llevo bastantes años utilizándolos: es perfectamente normal que en mis presentaciones aparezcan suplantaciones en llamadas telefónicas, políticos o celebridades diciendo cosas que no dirían nunca, o yo mismo marcándome el «Libiamo ne’ lieti calici» de La Traviata, como forma de demostrar que la tecnología que posibilita este tipo de cosas que juegan con nuestras percepciones está perfectamente madura e incluso al alcance de un simple profesor como yo.
En la primera fase de los deepfakes, vimos primero pornografía y usos de cosificación de la mujer, hasta el punto de que Scarlett Johansson, la actriz más veces sometida a ese tratamiento, llegó a decir que era completamente inútil luchar contra ello. Vimos también un uso, absolutamente minoritario en relación con el primero, para la política o el entretenimiento de otro tipo: los presidentes de Rusia y Ucrania anunciando supuestamente la ley marcial o la rendición, respectivamente, o a un político indio haciendo deepfake de sí mismo para poder dirigirse a todos los electores del país en sus respectivos idiomas. El año 2020 fue el momento en el que esa tecnología salió de los rincones más oscuros de la red para empezar a verse en muchos más contextos, incluidos memes.
En 2022, vimos cómo Bruce Willis, aquejado de un desorden del lenguaje, firmaba supuestamente un contrato con una compañía, Deepcake, para la explotación de su voz en contenidos como publicidad o películas. La noticia fue desmentida rápidamente por el propio actor, pero la caja de los truenos ya se había abierto: empezaron a proliferar «actores deepfake«, personas cuyo papel era interpretar al actor principal con sus palabras y gestos para que, posteriormente, la cara del actor en cuestión fuese superpuesta a la suya. ¿Para qué pixelar o distorsionar torpemente la cara o la voz de alguien cuya identidad queremos preservar en un vídeo, cuando podemos sustituirlos con un deepfake que mantiene sus gestos y su personalidad?
El primer episodio de la nueva temporada de Black Mirror, de hecho, se titula «Joan is awful« (sáltate este párrafo si no quieres spoilers) y habla precisamente de eso: de una actriz, Salma Hayek, que ha cedido sus derechos a una corporación, Streamberry, casualmente idéntica a Netflix, y que ya no tiene control sobre los papeles que interpreta. Si no lo has visto, corre a verlo.
Ese futuro teóricamente distópico descrito por el genial Charlie Brooker, conocido precisamente por jugar en esa fina línea entre el presente y el futuro, entre la ciencia-ficción y lo que ya es posible, es precisamente el que ya estamos: cada vez más celebridades comienzan a plantearse ceder los derechos de su voz o de su cara a compañías para que las utilicen en producciones que van desde anuncios hasta películas. Un doble de Neymar en un anuncio de Puma, la estrella de la NFL Deion Sanders en los inicios de su carrera en un anuncio con Gillette, un Jack Nicklaus de 38 años entrevistándose a si mismo a los 83, o los conocidos experimentos de actores con voces y gestos tan característicos como Tom Cruise o Tom Hanks. Mundos sintéticos e industrias completamente transformadas, sin muchas posibilidades de vuelta atrás, se declare en huelga quien se declare en huelga.
Como decía Chico Marx haciéndose pasar por Groucho… ¿a quién vas a creer, a mí o a tus propios ojos? La respuesta es cada vez menos clara.
