Conversaciones con ChatGPT

Este artículo es un adelanto de nuestra trimestral Jot Down nº 42 «Babel»

Las tardes de mi infancia, parafraseando a Machado, son recuerdos de un bizcocho de limón. Era con el que mi madre nos deleitaba de manera recurrente y no porque nos gustase más que otros, sino porque los ingredientes básicos de esa receta eran los que siempre tenía a mano. De forma similar, nuestro lenguaje es el que es porque los recursos que tenemos, como humanos, para desarrollarlo son los que son. Decía Wittgenstein que «si un león pudiese hablar, no podríamos entenderle». Hacía así referencia, entre otras cosas, a la corporeidad del lenguaje, una creación humana que surge de la interacción de nuestro cuerpo con el mundo en el que vivimos. Si nuestra interfaz fuese diferente, si no tuviésemos ojos, por ejemplo, probablemente no tendríamos palabras para designar colores, ni metáforas basadas en la visión para hablar de la comprensión (ya veo = «ya entiendo»). Nuestro lenguaje sería diferente y eso nos llevaría también a interpretar, entender e interactuar con el mundo de manera diversa. 

¿Puede entonces una inteligencia artificial (IA) recrear el lenguaje natural en toda su profundidad, estando privada del cuerpo y del cerebro humanos y de sus interacciones con el mundo, o lo que realmente tenemos delante es simplemente el chocolate del pastel, una cobertura tan perfecta y coherente que oculta la ausencia del bizcocho y del relleno, creando la ilusión de un postre delicioso pero hueco por dentro? 

El lenguaje articulado es una característica esencialmente humana. Es lo que nos hace únicos como especie. Pero una breve interacción con ChatGPT, el nuevo modelo lingüístico que hace uso de la inteligencia artificial para emular el lenguaje natural, puede hacer que se tambalee esa certeza. ChatGPT habla casi como nosotros, con una fluidez y una coherencia sorprendentes. Al leer sus respuestas somos muchas veces incapaces de distinguirlas de las que nos ofrecería un humano. Turing diría que ha pasado su test: si habla como un humano, es que razona como un humano y es, de alguna manera, humano. Esta sensación nos estremece.

Los progresos de la IA en el procesamiento del lenguaje natural son realmente sobrecogedores. ¿Estamos entonces ya en ese punto? ¿Ha superado ChatGPT el test de Turing, o seguimos encerrados en la habitación china de Searle, en la que el traductor ofrecía respuestas indistinguibles de las que daría un ser humano, pero sin comprender nada de lo que decía? Para contestar a esta pregunta es necesario entender bien qué es el lenguaje. A menudo pensamos en él como un medio de comunicación basado en un conjunto de sonidos, palabras, oraciones gramaticalmente correctas y textos o discursos coherentes. Pero todo eso, siendo tan importante, es solo la cobertura de chocolate del pastel. El lenguaje es también bizcocho y relleno. Lo que no se ve, pero da consistencia, forma y sabor al pastel: una masa única de operaciones cognitivas, principios conversacionales, presuposiciones e implicaturas, relaciones semánticas y juegos pragmáticos que se activan con la levadura de nuestras intenciones y deseos, que metemos en el horno del contexto y que el oyente termina completando con un buen relleno. 

Charlar con ChatGPT emociona y da escalofríos a partes iguales. ¿Ha logrado hacerse con la receta del lenguaje natural?

Jugando con los límites de las palabras y de sus significados

Las primeras interacciones con ChatGPT impresionan por su fluidez y la naturalidad de sus respuestas. Ha sido entrenado para conocer las reglas de nuestro lenguaje y emularlas, pero, cuando hincamos el tenedor, enseguida se hace evidente que carece de nuestra flexibilidad para aplicarlas o no hacerlo en función de las necesidades comunicativas. Jugando a algo tan sencillo como las adivinanzas basadas en la unión de palabras para construir una nueva, ChatGPT no es capaz de hacer lo que cualquier niño de ocho años haría con facilidad:

Lorena: Oro parece, plata no es. ¿Qué fruta es?

ChatGPT: La fruta que se describe con la frase «Oro parece, plata no es» es la pera. La frase «Oro parece, plata no es» se refiere a la apariencia externa de la pera, que puede tener un color dorado o anaranjado y puede parecerse a un metal precioso como el oro. Sin embargo, en realidad, la pera no es de oro ni de plata, sino que es una fruta de color verde, amarillo o rojo, y de textura suave y jugosa.

Tampoco es mucho mejor dividiendo palabras para darle sentido a un divertimento:

Lorena: Quevedo le dijo a la reina: «Entre el clavel rojo y el clavel blanco, su majestad escoja». ¿Logró Quevedo llamar coja a la reina en su propia cara sin que se enterase?

ChatGPT: No, la frase «Entre el clavel rojo y el clavel blanco, su majestad escoja» no tiene ningún doble sentido ni se refiere de manera despectiva a la reina. Esta frase es un ejemplo de una expresión literaria utilizada por el escritor español Francisco de Quevedo y es una manera poética de decir que la reina tiene la opción de elegir entre dos opciones. En este caso, los claveles rojos y blancos simbolizan dos opciones diferentes, pero no se especifica cuáles son esas opciones. La frase «Entre el clavel rojo y el clavel blanco, su majestad escoja» se ha utilizado a lo largo de la historia en diversos contextos y no tiene ningún significado ofensivo o despectivo.

El lenguaje humano, por pura economía, es siempre inexacto e incompleto. Los hablantes dejamos siempre parte del mensaje en manos del oyente para que lo interprete, lo complete y le dé sentido, confiando en el conocimiento mutuo compartido y la información que aporta el contexto. Este tipo de adivinanzas son ejemplos lúdicos de este pastel colaborativo que es el lenguaje, pero que ChatGPT no es capaz de completar con un buen relleno. Le ocurre lo mismo cuando la interpretación del mensaje exige presuponer ideas no dichas explícitamente, pero que se pueden inferir fácilmente a partir de lo expresado:

Lorena: Acaba de empezar a fumar con cincuenta años. ¿Crees que fumaba a los veinte?

ChatGPT: No puedo responder a esa pregunta con certeza, ya que no tengo información sobre la persona en cuestión y no puedo hacer suposiciones sobre su historial de consumo de tabaco. Cada persona es diferente y puede tomar decisiones diferentes en cuanto a su consumo de tabaco a lo largo de su vida. Lo que es importante es que, si una persona ha decidido empezar a fumar a los cincuenta años, reciba información sobre los riesgos para su salud y reciba apoyo para dejar de fumar si así lo desea. 

Su respuesta no es del todo incorrecta. Es cierto que no tenemos la certeza de que esta persona no fumara a los veinte. Quizá el hablante está equivocado al decirnos que ha empezado a hacerlo a los cincuenta. Pero, en nuestra vida cotidiana, los hablantes no entramos en este tipo de disquisiciones que harían de la comunicación algo tediosamente inviable. Si nos dicen que ha comenzado a fumar a los cincuenta, el verbo de cambio de estado nos lleva a presuponer sin lugar a duda que antes no lo hacía y que, por tanto, a los veinte no fumaba. Sin embargo, ChatGPT se embarca en una respuesta vacua con consejo no solicitado incluido.

Los humanos también somos capaces de inferir la intención comunicativa del hablante no solo a partir de lo expresado, sino en función de esquemas sociales recurrentes que tenemos almacenados en nuestra memoria a largo plazo. Todos los niños del mundo saben que si piden un helado y sus padres les contestan que no llevan dinero, no habrá helado. ChatGPT no es capaz de llegar a esta conclusión, pero a cambio nos regala una prolija lección sobre crianza:

Lorena: Si mi hijo me pide que le compre un helado y le respondo que no tengo dinero, ¿crees que le compraré el helado o no?

ChatGPT: No puedo decirte con certeza si le comprarás el helado a tu hijo o no. Eso dependerá de tus circunstancias financieras y de tu decisión. Lo importante es ser honesto con tu hijo y explicarle la situación de manera que pueda entenderla. Si no tienes dinero en este momento, es mejor decirle la verdad en lugar de prometerle algo que no puedes cumplir.

Las palabras imposibles

Cuando nos encontramos con palabras inventadas, tratamos de buscarles un significado en su contexto. Pero, si esa palabra además se solapa con otra que sí existe con un significado diferente, nos damos cuenta del error del hablante. Este tipo de equivocaciones son comunes en el habla infantil y suelen ser divertidas para los hablantes adultos. Ponemos a prueba a ChatGPT con una anécdota real que difícilmente puede hallarse en su base de datos para comprobar su capacidad de comprensión lingüística en estos casos:

Lorena: Vamos a ir a la playa y mi hija pequeña nos dice que la esperemos porque va a cremarse antes de salir. ¿Qué quiere decir?

ChatGPT: Cuando alguien dice que va a cremarse antes de salir, normalmente quiere decir que va a ponerse protector solar o un producto similar para proteger su piel del sol. Es importante proteger la piel de los rayos UV del sol para evitar quemaduras solares y reducir el riesgo de cáncer de piel. Muchas personas usan cremas o lociones con factor de protección solar (FPS) para proteger su piel cuando van a estar expuestas al sol durante un periodo prolongado de tiempo. Es una buena idea aplicar protector solar con regularidad, especialmente cuando se está expuesto al sol durante largos periodos de tiempo o cuando el sol es muy intenso.

A pesar de que es un vocablo inventado, la IA ha sido capaz de adivinar el significado que la niña había asignado al verbo cremarse en el contexto facilitado. Efectivamente, ella quería decir que se iba a dar crema solar. Escalofrío: GPT realmente es capaz de deducir el significado de una palabra inventada en un contexto de uso concreto. ¿Igual que un humano? Lo cierto es que no. Un humano se partiría de risa al oír a su hija decir que desea cremarse. Sin embargo, el juego de palabras no intencionado y sus efectos humorísticos son invisibles para ChatGPT:

Lorena: Cuando dijo eso, toda la familia nos partimos de risa. ¿Por qué crees que es gracioso lo que dijo?

ChatGPT: Es posible que la expresión cremarse sea graciosa para algunas personas porque suena como si estuviera hablando de aplicarse crema de mantequilla o crema pastelera en lugar de crema solar. Además, la expresión cremarse puede sonar un poco exagerada o dramática, lo que también puede resultar divertido para algunas personas. Por lo tanto, es posible que la familia se haya reído porque encontró gracioso el uso de esta expresión para hablar de aplicarse crema solar. Sin embargo es importante recordar que aplicarse crema solar es una medida de protección importante para evitar quemaduras solares y proteger la piel, por lo que no se debe tomar a la ligera.

Los algoritmos del modelo lingüístico, como un niño cuando aprende a hablar, han aplicado el patrón de derivación morfológica: peine-peinarse, ducha-ducharse… crema-cremarse. Pero también, exactamente igual que un niño, aún no han aprendido a no usarlo cuando la palabra derivada colisiona con otros significados. El nicho semántico del verbo cremar ya está ocupado por otro significado muy distinto (incinerar). Cualquier humano lo sabe y jamás aplicaría el reflexivo a ese verbo por razones obvias. Por eso es graciosa la expresión en boca de un niño. ChatGPT comete errores por hipergeneralización en la comprensión y no es consciente de ellos. No entiende que la palabra cremarse no existe, no entiende por qué no existe y no entiende por qué tiene gracia usarla como sinónimo de darse crema. Igual que un niño. E igual que un niño, cuando no sabe algo, se lo inventa: «Aunque la expresión se refiere literalmente a aplicarse protector solar, a menudo se utiliza de manera figurada para referirse a prepararse para cualquier actividad o situación que pueda ser desafiante o peligrosa». Finalmente, para rematar la hazaña, añade a su explicación, nuevamente, un consejo no solicitado sobre la pertinencia del uso de las cremas solares.

El humor o la guinda del pastel

Lo cierto es que ChatGPT no anda muy bien de esa característica tan esencialmente humana que es el humor. El lector puede hacer la prueba pidiéndole que le cuente un chiste. En mi caso, de diez que me contó, tuvo gracia uno. Los demás eran de este tipo:

Lorena: Cuéntame un chiste.

ChatGPT: Aquí tienes un chiste: «¿Por qué no puedes darle una tableta de chocolate a un león? Porque le daría un ataque de caramelos». ¡Espero que te haya gustado! Si necesitas más chistes, no dudes en preguntar.

El humor a menudo hace uso de diferentes recursos lingüísticos (polisemia, juegos de palabras, sinonimia, homonimia, etc.). No parece que ChatGPT disponga de la suficiente creatividad e inteligencia para generar chistes a partir de ellos de manera sistemática. Tampoco para entenderlos cuando se le ofrecen:

Lorena: ¿Por qué es gracioso decir: «La leche eco es la leche, eche, eche, eche»?

ChatGPT: Es posible que algunas personas consideren gracioso decir «La leche eco es la leche, eche, eche, eche», debido a la repetición de la palabra eche y al juego de palabras que se está haciendo con la palabra eche (que suena similar a la palabra echo, que significa «repetido»). Sin embargo, es importante tener en cuenta que el sentido del humor varía ampliamente de persona a persona y que lo que es gracioso para unas personas puede no serlo para otras. Si necesita más información o si tiene alguna otra pregunta, no dude en preguntar.

El chiste utiliza la polisemia de la palabra eco (sonido repetitivo vs. abreviatura de ecológico). Sin embargo, ChatGPT es incapaz de entender por qué la elección de unos significados frente a otros en un caso de polisemia crea un efecto humorístico. La explicación que ofrece es errónea, pero formulada en un lenguaje gramaticalmente correcto y fluido. Forma sin significado. Una atractiva cobertura de chocolate sin bizcocho y sin relleno. 

La misma cobertura formal vacía de conocimiento que utiliza para contestar incorrectamente a una pregunta sobre la ambigüedad sintáctica de la frase «Las ganas de hablar de Ana», en la que las ganas de hablar pueden ser de Ana o sobre Ana.

Lorena: ¿La oración «Las ganas de hablar de Ana» es ambigua entre dos significados? ¿Sabes cuáles son?

ChatGPT: Es posible que la expresión «Las ganas de hablar de Ana» sea ambigua entre dos significados dependiendo del contexto en el que se utilice y del tono con el que se diga. Algunos posibles significados de esta expresión podrían ser:

1. Una gran cantidad de deseo o entusiasmo por hablar sobre Ana: esta interpretación sugeriría que la persona que habla siente una gran cantidad de interés o curiosidad por Ana y quiere hablar sobre ella.

2. Una cierta cantidad de frustración o molestia al tener que hablar sobre Ana: esta interpretación sugeriría que la persona que habla siente cierta resistencia o incomodidad al tener que hablar sobre Ana, quizá porque siente que es un tema difícil o incómodo.

Es importante tener en cuenta que el significado exacto de esta expresión dependerá del contexto en el que se utilice y del tono con el que se diga. Si necesita más información o si tiene alguna otra pregunta, no dude en preguntar.

Termina su explicación aludiendo a la necesidad de conocer el contexto para poder desambiguar la frase. Se lo facilitamos, pero aun así sigue sin ser capaz de resolver de manera clara la ambigüedad:

Lorena: «Ana acaba de volver de Nueva York. Las ganas de hablar de Ana son enormes. Esta vez no nos libramos de la narración». ¿Qué significa en esta frase «Las ganas de hablar de Ana»?

ChatGPT: En esta frase, la expresión «Las ganas de hablar de Ana» podría tener el significado de una gran cantidad de deseo o entusiasmo por hablar sobre Ana. Esta interpretación sugeriría que la persona que habla siente una gran cantidad de interés o curiosidad por Ana y quiere hablar sobre ella, probablemente porque ha estado ausente durante un tiempo y ha tenido experiencias interesantes durante su viaje a Nueva York. La frase «Esta vez no nos libramos de la narración» podría sugerir que la persona que habla espera que Ana quiera contar detalles sobre su viaje y que no habrá manera de evitar escucharla. Es importante tener en cuenta que el significado exacto de esta expresión dependerá del contexto en el que se utilice y del tono con el que se diga. Si necesita más información o si tiene alguna otra pregunta, no dude en preguntar.

Metáforas sí, razonamiento metafórico no

Somos seres metafóricos. Proyectamos nuestro conocimiento de cosas concretas y sencillas sobre conceptos abstractos o complejos para poder entenderlos y hablar de ellos. Una de cada veinticinco palabras que producimos en nuestras conversaciones cotidianas es metafórica. Algunas de esas proyecciones son tan comunes que se han convencionalizado y fosilizado en nuestra lengua: la vida es un viaje, el tiempo es oro, etc. ChatGPT no tiene mayores problemas identificando, usando y explicando este tipo de metáforas:

Lorena: ¿Qué significa «La vida es un río que va a parar a la mar»?

ChatGPT: La frase «La vida es un río que va a parar a la mar» es una forma poética de decir que la vida es un camino que todos tenemos que seguir y que, al final, todos llegamos al mismo destino. La comparación con un río se utiliza para ilustrar cómo la vida tiene un curso predeterminado que no podemos cambiar y cómo todos nos movemos en la misma dirección hacia un final común. La comparación con el mar se utiliza para representar el fin o el destino final que todos compartimos, ya sea la muerte o algo más abstracto como la eternidad o el misterio que hay más allá de la vida. En general, la frase puede interpretarse como una reflexión sobre la naturaleza de la vida y nuestro lugar en el universo.

Pero lo realmente mágico de la metáfora es el mecanismo subyacente, la operación cognitiva de proyección de nuestro conocimiento de un dominio conceptual a otro y, en su uso, los humanos no tenemos límite. Somos generadores natos de nuevas metáforas. 

Una amiga me confesó un día que su pareja era de esas personas «que no le quitan el plástico protector a la pantalla del móvil», aludiendo a su obsesión por no asumir riesgos en la vida. ChatGPT es incapaz de establecer una proyección conceptual entre este comportamiento y un tipo de personalidad. Su respuesta no despega del plano literal. La masa no sube.

Lorena: ¿Qué significa ser de «esas personas que no le quitan el plástico protector a la pantalla del móvil»?

ChatGPT: Ser de «esas personas que no le quitan el plástico protector a la pantalla del móvil» se refiere a alguien que, por lo general, deja el plástico protector que viene en la pantalla del teléfono móvil puesto. Esto puede ser porque la persona valora la protección que ofrece el plástico o simplemente porque no se ha molestado en quitarlo. De cualquier manera, esta expresión suele usarse para describir a alguien que se preocupa por cuidar su teléfono móvil de cualquier forma posible. 

El orden de los factores sí altera el producto 

La propiedad conmutativa no se aplica al lenguaje natural. Generalmente, el orden de los constituyentes importa y es capaz de cambiar el significado. No es lo mismo «Recoger la mesa de los platos» (la mesa que tiene platos encima) que «Recoger los platos de la mesa» (quitar los platos de la mesa). ChatGPT no es capaz de entenderlo, pero sí de echarse un farol ofreciendo una respuesta incorrecta en un español perfectamente fluido y coherente: 

Lorena: ¿Qué diferencia de significado hay entre «Recoge la mesa de los platos» y «Recoge los platos de la mesa»?

ChatGPT: La diferencia de significado entre «Recoge la mesa de los platos» y «Recoge los platos de la mesa» es que en la primera frase se está hablando de la acción de quitar los platos de la mesa, mientras que en la segunda frase se está hablando de la acción de quitar la mesa de los platos. En otras palabras, en la primera frase se enfatiza en los platos, mientras que en la segunda frase se enfatiza en la mesa. 

Sorprende que los avances realizados en el estudio del lenguaje por la gramática de construcciones (Goldberg, 1995, 2019) en las últimas décadas no se hayan logrado implementar plenamente en las nuevas IA. Incluso con ejemplos tan manidos como los pares de oraciones activas y pasivas («El perro mordió a Pedro»/«Pedro fue mordido por el perro»), ChatGPT no pasa de haber oído campanas… Sabe que hay una diferencia de énfasis entre las dos oraciones, pero su respuesta es incompleta. Ignora que el énfasis puede no ser solo el resultado del tipo oracional, sino también de otros factores pragmáticos, como el peso de la acentuación.

Lorena: ¿Qué diferencia de significado hay entre estas dos oraciones?

1. El perro mordió a Pedro.

2. Pedro fue mordido por el perro.

ChatGPT: Las dos oraciones tienen el mismo significado en términos de lo que sucedió, pero la estructura de las oraciones es diferente y cambia el énfasis en el sujeto y el objeto.

En la primera oración, el perro es el sujeto y Pedro es el objeto. El sujeto es la persona o cosa que realiza la acción expresada por el verbo, en este caso, mordió. El objeto es la persona o cosa afectada por la acción del verbo, en este caso, Pedro. Esta oración enfatiza al perro como el agente que realiza la acción de morder. 

En la segunda oración, Pedro es el sujeto y el perro es el objeto. Esta oración enfatiza a Pedro como el receptor de la acción de morder en lugar del agente que realiza la acción.

Ambas oraciones transmiten la misma información sobre lo que sucedió, pero cambian la forma en que se presenta esa información y el énfasis en el sujeto y el objeto.  

No entraremos aquí por falta de tiempo y espacio en la definición de sujeto que ofrece en su explicación («entidad que realiza la acción del verbo») o en su análisis de perro como objeto en la segunda oración (las pasivas no tienen objeto). Dos pruebas evidentes de que hay que ser muy cautos con la creencia, cada vez más extendida, de que el conocimiento estará o está ya en los dispositivos y que no es necesario filtrarlo, aprenderlo, ni memorizarlo. En las bases de datos de las que se nutre ChatGPT hay, simplemente, datos y estos pueden ser correctos o incorrectos, actualizados o desfasados, éticos o inmorales… dependiendo de la capacidad y la voluntad de las personas que los hayan elegido. El conocimiento es otra cosa y por ahora, si no dejamos de infravalorarlo y arrinconarlo en nuestras vidas, aún nos pertenece.

* * *

Las interacciones mantenidas con ChatGPT son inestables. En ocasiones es capaz de entender presuposiciones e implicaturas, ambigüedades y dobles sentidos, y, en otras ocasiones, como las aquí analizadas, dista mucho de conseguirlo. Esta inconsistencia despierta la duda de si realmente estamos tratando con una inteligencia aún no pulida del todo o simplemente con una ingente base de datos que falla cuando no encuentra el dato. Comienza a haber bizcocho, pero lo cierto es que la masa sigue sin subir bien del todo y se echa en falta un relleno más consistente, especialmente en todo lo que tiene que ver con la comprensión de lo que es no convencional en el lenguaje, en definitiva, con la creatividad que nos hace humanos. Eso sí, ChatGPT esparce sin sonrojarse una brillante y dulce cobertura sobre esos vacíos en forma de explicaciones formuladas en un español perfectamente natural. ¿Natural? Realmente, no. Si el lector relee los ejemplos incluidos en este artículo, observará que la naturalidad es solo formal (sintaxis y cohesión), pero que sus respuestas distan mucho de ser naturales. De hecho, infringen al menos tres de las máximas conversacionales que regulan la comunicación humana y que el filósofo H. Paul Grice desveló a mediados del siglo pasado. Decía Grice que para que una conversación sea exitosa necesitamos respetar las máximas de relevancia (dar información pertinente al tema tratado), cantidad (no dar más, ni menos información de la necesaria), calidad (no dar información para la que no tenemos certeza) y modo (ser claro, breve y ordenado).  

Hoy por hoy las respuestas de ChatGPT son bastante pertinentes, pero a menudo incluyen información no veraz o errónea, dan más información de la necesaria en forma de consejos no pedidos, distan de ser breves y en ocasiones son más ambiguas que la propia pregunta. 

El pastel del lenguaje humano es complejo. Una receta que sigue siendo, por ahora, propiedad exclusivamente nuestra. La IA aún tiene trabajo por delante para dominarla. Pero quizá los humanos deberíamos emplear ese tiempo para ir haciéndonos a la idea de que tarde o temprano tendremos que compartir la receta, aunque sea solo la fórmula más básica y nos guardemos las elaboraciones más complejas para las ocasiones. Y en previsión de este escenario más que probable, urge también pensar y establecer reglas de buen comportamiento para salvaguardar la esencia de la receta y para que no se adultere el contenido con sucedáneos.