ChatGPT se ha convertido por derecho propio en uno de los fenómenos de difusión tecnológica más rápidos de la historia: cuando un algoritmo capaz de chatear sobre cualquier tema se convierte en viral y alcanza el millón de usuarios en tan solo cinco días, tenemos que plantearnos qué estamos haciendo, y precisamente por su naturaleza algorítmica, qué estamos ayudando a construir.
¿Cuál es el destino que espera a ChatGPT? Prácticamente cada usuario que lo prueba y le pide que escriba algo o que responda a sus preguntas es capaz de imaginarlo haciendo algo interesante en su ámbito de actividad. Pero en la práctica, lo que hace ChatGPT es componer conversaciones basándose en subconjuntos de información etiquetada en una base de datos que utiliza como piezas, sin preocuparse demasiado de su veracidad o exactitud. De hecho, aunque el hecho de mantener un chat con total corrección gramatical, coherencia semántica y hasta memoria de conversaciones anteriores con una máquina aún impresione a muchos, la realidad es que los resultados, en muchos casos, dejan mucho que desear en cuanto a su nivel de profundidad o de veracidad.
Si nos param os a evaluar muchas de las respuestas de ChatGPT, podemos ver fundamentalmente lo que escribiría un chico de bachillerato con un buen nivel de manejo del lenguaje, y con un motor de búsqueda y cierto tiempo y habilidad en sus manos, capaz de convertir su escrito en algo con apariencia coherente, pero incapaz de aplicar el juicio crítico sobre los componentes de su respuesta. Con el tiempo y el entrenamiento, podemos posiblemente llegar a que el lugar de tener un nivel de bachillerato, pueda tener el de un Ph.D. en el área relevante concreta. Pero seguimos con el mismo problema: cómo asegurar que la información que utiliza para construir sus respuestas es adecuada. O peor, cómo evitar que se realimente a sí mismo con respuestas anteriores producidas por él mismo o por otros algoritmos similares.
La pregunta, claro, es ¿y ahora, qué? Algunos plantean que una interfaz conversacional de este tipo puede ser ideal para las llamadas búsquedas informativas, cuando los usuarios pretenden saber más sobre un tema determinado o contestar una pregunta, que suponen uno de los tres tipos de consultas que suelen definirse en motores de búsqueda – junto con las de navegación, del tipo «llévame a esta página», y las transaccionales, como «comprar un smartphone» o «viajar a Maldivas». Precisamente ese tipo de búsquedas son las que más evolucionan a lo largo del tiempo y las que suponen el grueso de la actividad de valor añadido de un buscador (buscamos información generalmente muchas más veces que llevamos a cabo transacciones como tales).
Visto así, ¿puede ser ChatGPT el futuro de los buscadores o generar una disrupción en el negocio de la búsqueda hasta el punto de amenazar a la mismísima Google? La respuesta es complicada, porque parte de un supuesto muy polémico: el de alimentar la base de datos del algoritmo con información correctamente curada para evitar que responda de manera errónea. Y ante esa tarea, tenemos necesariamente que plantearnos, como ya hizo Google hace ya algunos años cuando planteó su Knowledge Based Trust (KBT), algo tan complejo como qué es la verdad, quién lo define, o cómo mantener la integridad de esa página, con todas sus diferencias culturales adecuadamente consideradas, ante una cantidad creciente de información producida.
Por otro lado, y ante la brutal producción de ChatGPT en tan solo cinco días, cabe plantearse si no estaremos en el final del período en el que el conocimiento humano fue susceptible de ser buscado y entregado de manera instantánea, un período que comenzó con la invención de los motores de búsqueda, y que termina con el desarrollo de grandes modelos conversacionales mediante lenguaje natural capaces de vomitar información sin parar. De hecho, podemos ya estar planteándonos el mismo problema que nos planteamos algunos profesores: cómo diferenciar respuestas procedentes de un humano – un alumno – procedentes de un adecuado proceso de investigación, generación de conclusiones y redacción, frente a la contaminación generada por una máquina que produce – o más bien, vomita – textos sin parar. ¿Cómo van a diferenciar los expertos en un tema, dentro de algún tiempo, las contribuciones reales de las producidas por un algoritmo?
Más allá de lo que OpenAI pueda pretender con su ChatGPT, debemos plantearnos no solo cuáles son los posibles usos de una tecnología así, sino también, lo que estamos contribuyendo a construir con el intenso proceso de adiestramiento al que llevamos más de una semana sometiendo al algoritmo. Y sobre todo, cuáles van a ser sus posibles consecuencias.
Y no, este artículo no lo he escrito con ChatGPT.
This article is also available in English on my Medium page, «ChatGPT: who’s doing the talking here?«
