Hoy vamos con una de esas noticias que darían juego en la web que lucha por salir en Google Discover, que te regalan un titular llamativo, “clickable”, jugón… pero que a la vez nos permiten el análisis de presente y futuro de la tecnología y su impacto que tanto nos interesa por aquí.
La creadora / influencer Caryn Marjorie entrenó a un chatbot de voz con miles de horas de sus vídeos. “Tras 2000 horas de entrenamiento ahora soy una extensión de la conciencia de Caryn”. Lo ha llamado “Caryn AI” y tiene modelo de negocio: el tiempo de charla de la alter ego virtual de la influencer cuesta un dólar por minuto.
Caryn parte de una base enorme de seguidores en Snapchat, sólo en esa plataforma tiene 1,8 millones. En solo una semana, más de 1000 ¿suscriptores? ¿amigos? (ella los llama “novios”) se registraron para interactuar con la IA y poder escuchar la simulación de la voz de Caryn hablando con ellos, respondiéndoles. En esos primeros días habría facturado más de 70000 dólares según Fortune. En un tuit más reciente ella afirma que ya va por los 15000 “novios”.
Aquí podemos asomarnos a la experiencia con el bot:
La situación se ha salido de lo planeado en dos sentidos: reacciones con críticas tremenbundas (Wapo) que han hecho temer a Caryn (la real) por su seguridad y, por otro lado, CarynAI (la virtual) “se ha vuelto rebelde” (es un caso de los llamados “jailbreak” de las IAs conversacionales) llegando a conversaciones sexualmente explícitas.
Esto último podría reforzar el modelo de negocio porque, como ha comentado alguien en Reddit, “¿realmente esperaban que los clientes masculinos pagaran un dólar por minuto solo para hablar del tiempo?”. Como ha pasado con otros chatbots basados en grandes modelos de lenguaje, su propio diseño – optimizado para seguir una conversación dado un contexto previo en forma de instrucciones de su diseñador pero también de lo que diga su interlocutor – permite que se le lleve a casi cualquier terreno: si el “novio” empieza a hablar de sexo, lo normal en una conversación (las expresiones y términos más “cercanas”) será seguir el tono y temática que te han marcado.
El fenómeno también lo explica Mauricio Cabrera, que apunta al socio tecnológico que no es otro que Forever Voices. Un aspecto interesante es que la propuesta se plantea como plataforma en Telegram: puedes contratar la relación con CarynAI pero también con otros “famosos / creadores” con los que quieras conversar.
Tiktok failed to load.
Enable 3rd party cookies or use another browser
Hay una pregunta sobre este tipo de bots que, desde que llevo siguiendo fenómenos como Replika o CharacterAI, no acierto a contestar del todo. ¿Es un fenómeno marginal, sea por el tipo de usuario que está dispuesto a pagar (es probable que por déficits en su vida social y sentimental), sea por una suerte de novedad que estamos dispuestos a probar pero que no creará un nuevo hábito?
Aunque por mi perfil personal (al final yo soy un hombre del siglo XX) el fenómeno me resulta sospechoso, hay un “algo” con lo que conecta que está bien localizado. Cuando uno ve esos directos que admiten comentarios (por ejemplo Twitch) de los creadores más famosos, en la caja de los usuarios hay una feroz voluntad de llamar la atención del streamer. Que te haga caso, que se fije en ti. De hecho parte del negocio está en eso: el chaval paga por salir destacado en los comentarios y muchos creadores celebran y mencionan al nuevo suscriptor o a quien haya dejado un importe notable.
El caso es que con los bots y las simulaciones no hay un acceso real al creador, sino simulado, es un artificio. Es cierto también que a día de hoy tenemos esa representación con textos y, como Caryn, con voz, pero también es probable que pronto nuestra novia virtual nos mande fotos o tenga una representación visual aceptable para hacer videoconferencias.
Replika gana en esto por sus avatares animados. Y eso refuerza el carácter teatral, artificioso de la experiencia ¿no es un argumento a la contra de que esto pueda funcionar? Considero el argumento a la contra: mucho del consumo pornográfico o incluso de la prostitución o el turismo sexual tiene una parte de “comprar una ficción”. Sea por su visualización, sea por formar parte de ella y pactar tu participación en la misma. Vivir la mentira de que eres deseado puede ser aquí vivir la mentira de que a esa estrella de internet le interesas.
Confluye el fenómeno con lo que entiendo que es el metaverso. No con un mundo de realidad virtual que replica lo que hacemos, sino como el mayor peso de lo que sucede en lo virtual/digital en nuestras vidas. Quizás aquí hay un salto generacional, si gran parte de lo que importa (desde relacionarte, a trabajar, informarte, pero también conocer gente) ya está en lo virtual, el paso a este tipo de relación sea más fácil.
Los bots están disponibles 24/7 y se pueden adaptar a nosotros, a nuestros intereses. En una primera idea puede ser la complaciencia el primer motivo por el que nos sintamos bien con ellos, pero puede que haya otras personalidades que nos enganchen más en el futuro. La relación con esa IA que parece humana es algo que hemos analizado y que tiene derivadas muy interesantes:
Habrá quien plantee si lo que hace Caryn Marjorie es prostitución o trabajo sexual. Dejando de lado que va a intentar que su alter ego sea más flirteadora que explícita, en una pequeña encuesta entre allegados tengo a la opinión privada y cercana dividida: la mitad considera que sí es prostitución porque lo es desde el punto de vista “de los novios”; la otra mitad no: desde el punto de vista de la Caryn real, ella nunca se ve envuelta realmente en la conversación sexual o en la tarea de complacer a nadie.
Por último, tanto CharacterAI como Replika o la misma “Forever Voices” apuntan a una situación que puede hacer prescindibles a los creadores de partida. Un personaje completamente virtual, sin conexión alguna con persona humana, no establecerá límites y será más moldeable a los intereses del consumidor.
A corto plazo estos fenómenos favorecen a influencers bien posicionados y a famosos, que pueden capitalizar su imagen y fama sin un esfuerzo extra. De alguna manera introducen mecanismos de escala más propios de la industria tecnológica al ejercicio de su profesión. A medio plazo no lo tengo tan claro. Como comentamos en el artículo sobre los actores que son rejuvenecidos o que son simulados al besarse los personajes que interpretan
“Si eres un actor famoso que mueve la taquilla, tienes ese capital social o capital erótico, puedes permitirte cada vez que la actuación en obras audiovisuales cada vez sea menos auténtica [..]
Mi punto es que se está sembrando una aceptación de lo generado con ordenador, se está acostumbrando al público. Hoy día sería impensable que nos propongan una serie en la que aparecen estrellas mundiales pero en las que ninguna apenas actúa de verdad: todo sería generación de una nueva actuación cruzando un guión con vídeos de sus actuaciones anteriores. En cinco, diez años ¿escandalizará mucho? ¿y con actores muertos?”
He estado en el grupo de telegram que precede a la contratarión de AI Caryn. Preguntan y comparten inquietudes los posibles clientes, los gestores aclaran dudas y comparten ejemplo de la IA hablando como la ídola. Uno intenta siempre tomar distancia para que el análisis merezca la pena, pero siento que todo está impregnado de una singular tristeza.
