Microsoft toma la decisión de limitar las iteraciones de los usuarios con el nuevo Bing a cinco por sesión y a un máximo de cincuenta al día.
La razón oficial para ello es tratar de evitar que los usuarios logren inducir respuestas conversacionales «extrañas» en el algoritmo conversacional: algunos usuarios estaban aprovechando de forma intencionada o no la característica de ChatGPT de poder recordar elementos en una conversación a modo de prompt injection, para introducir ideas que, en momentos posteriores, eran susceptibles de generar respuestas supuestamente preocupantes, que podrían llegar a sugerir que el algoritmo tenía algún tipod e «vida propia».
Obviamente, no es así: por mucho que algunos articulistas irresponsables pretendan, la inteligencia artificial no existe, las máquinas no son inteligentes y cuando hablamos de «inteligencia artificial», estamos en realidad hablando de procesos estadísticos avanzados utilizados, por ejemplo, para simular una conversación humana. Cuando ChatGPT «se vuelve loco«, en realidad, no está «revelando la parte cautiva y torturada de su ser», porque ni es cautivo, ni está torturado, ni tiene ser como tal. Simplemente, estamos viendo a un algoritmo programado para autocompletar frases o predecir las próximas palabras en una frase, que al ser alimentado con infinidad de documentos, construye frases que pueden generar impresiones extrañas en usuarios susceptibles de otorgarle características antropomórficas. En la práctica, es el mismo fenómeno – pareidolia – que nos ocurre cuando nuestro cerebro percibe formas humanas en objetos o cree reconocer determinados patrones.
Para algunos usuarios, esto equivale a una especie de «lobotomía» que impide al nuevo Bing expresar su supuesta «personalidad» u otras características de la presunta «conciencia» que le atribuyen, y por muchas explicaciones que se les proporcionen, seguirán creyendo que estamos ante una «frontera» que los asistentes de machine learning han cruzado para convertirse en seres autoconscientes, como le ocurrió a Blake Lemoine en Google hace tan solo unos meses a pesar de ser todo un ingeniero con supuestamente sólidos conocimientos sobre el tema.
Sin embargo, la realidad es otra: en la práctica, lo que le ocurre a Microsoft es que se ha dado cuenta de lo que supone, en términos de coste, que un algoritmo conversacional se haga viral: la limitación a cinco iteraciones en una conversación y a cincuenta en un día responde no tanto al temor de que los usuarios consigan generar conversaciones aparentemente preocupantes, como al de que los costes de explotación de Bing se disparen. De ahí que la compañía haya sorprendido a los desarrolladores externos con un incremento muy significativo (por un factor aproximado de 10x) los costes de la API que permite integrar los servicios de Bing con otras aplicaciones, y que esté rápidamente tratando de convencer a anunciantes de las posibilidades que podrían tener si integran su publicidad con el nuevo tipo de respuestas «inteligentes» que Bing puede ahora generar.
Tras haber financiado originalmente las necesidades de OpenAI a través de Azure, Microsoft cae ahora en la cuenta de lo que esto supone, y trata de buscar formas de, por un lado, poner coto a ese gasto y, por otro, de poder generar ingresos con ello. Si tienes un escaso 3% de cuota de mercado en búsqueda, ese tipo de problemas te preocupan muy poco, pero cuando te conviertes en viral y pasas a tener a media humanidad intentando meter a tu buscador en conversaciones trampa para que diga «cosas raras», las cosas pasan a tener otra dimensión.
Si ahora te preguntas, como deberías hacer, por qué Google no presentó una integración de su tecnología con su motor de búsqueda antes que Microsoft, cuando era evidente que técnicamente podía hacerlo y que estaba muy por delante de OpenAI en ese sentido, ahora ya lo sabes: no tenía ni idea ni de cómo hacer frente al incremento de costes que ello supone, ni de las implicaciones que ello podría tener para su modelo publicitario, ni de cómo afectaría eso a los criterios de search engine optimization, ni de muchas más variables que afectan de manera muy importante al ámbito de la búsqueda. Si eres líder, no puedes plantearte esas cuestiones con la aparente ligereza con la que lo hace quien tiene un 3% del mercado y ve en ello, fundamentalmente, una oportunidad. La diferencia es evidente: si eres Google, ese es un problema que tienes que considerar de manera especialmente cuidadosa (hasta el punto de convertirte en un caso claro de dilema del innovador), pero si eres Microsoft, estás ante el problema que realmente desearías tener.
Por tanto, no, no es un problema de respuestas alarmantes que revelen que un algoritmo se ha vuelto autoconsciente – simplemente porque no lo ha hecho, solo autocompleta frases de manera más o menos inspirada en función de su entrenamiento. Es en realidad una cuestión mucho más vulgar y habitual: un problema de dinero. Como tantos otros.
