¿Estoy hablando con una máquina? Lenguaje, patrones y servidumbre

La historia, con todas sus etapas llenas de ruido y furia, tiene siempre la virtud, como la naturaleza, de reproducir patrones que, a primera vista, nos pueden resultar invisibles. Nos permite, así, trazar parentescos, recordar ciclos, entender el porqué del error que siempre asoma repetido. Si analizamos la genealogía de las máquinas, no nos sorprenderá comprobar que, desde hace siglos, representan una amenaza más o menos anunciada y despiertan las iras de nuestras figuras más fieras, desde los luditas ingleses, a comienzos del siglo XIX, hasta ese controvertido manifiesto de Unabomber que a finales del XX advertía: 

La Revolución industrial y sus consecuencias han sido un desastre para la raza humana. Han aumentado considerablemente la esperanza de vida de quienes vivimos en países «avanzados», pero han desestabilizado la sociedad, han hecho que la vida sea insatisfactoria, han sometido a los seres humanos a humillaciones, han llevado a un sufrimiento psicológico generalizado (en el Tercer Mundo, a sufrimiento físico) y han infligido severos daños al mundo natural. El continuo desarrollo de la tecnología empeorará la situación. 

Podemos retroceder los noventa años que separan la obra de Unabomber de la de Unamuno para comprobar cómo, en Vida de don Quijote y Sancho (1905), el escritor español también encontraba en las máquinas un peligro que identificó en el famoso episodio cervantino de los molinos de viento:

No se nos aparecen ya como molinos, sino como locomotoras, dínamos, turbinas, buques de vapor, automóviles, telégrafos con hilos o sin ellos, ametralladoras y herramientas de ovariotomía, pero conspiran al mismo daño. El miedo y solo el miedo sanchopancesco nos inspira el culto y veneración al vapor y a la electricidad; el miedo y solo el miedo sanchopancesco nos hace caer de hinojos ante los desaforados gigantes de la mecánica y la química implorando en ellos misericordia.

Una máquina cargada de buenas intenciones

Imagino que habrá un amplio consenso en cuanto al objetivo que debe perseguir la introducción de las máquinas en las distintas facetas de nuestras vidas: por encima de todo, deben ayudarnos a que nuestro día a día sea más fácil. De hecho, quienes tienen teléfonos «inteligentes» recriminan a quienes no los utilizan que están perdiendo el tiempo, que se complican la vida más de lo necesario. Pero ¿cuánta verdad hay en afirmaciones como estas? Es cierto que, según las circunstancias, un mapa en un teléfono móvil puede ser más manejable que uno impreso en papel; o que comprar un billete con uno de estos dispositivos es, si no se cuelga la página, cómodo y eficiente; o que leer el periódico de camino al trabajo o ver un vídeo en el transporte público es una manera muy entretenida de «consumir» el tiempo. Sin embargo, en todos estos casos, la tecnología no deja de ser una mera facilitadora de tareas mecánicas, de operaciones en las que el terminal actúa como un soporte mejorado. Lo que habría que discutir es si se puede equiparar la facilidad de uso de un dispositivo con el concepto de inteligencia. Y, si verdaderamente esa inteligencia está ahí, cómo y a favor de quién juega.

En un plano más complejo, el del lenguaje humano, quizá resulte aún más llamativo. La lengua también está hecha de patrones, si bien la mayor parte de las veces sus usos más interesantes surgen cuando se subvierten. He oído demasiadas veces que ahora, con los avances tecnológicos, se puede escribir mensajes con mayor rapidez que antes. Sin embargo, siempre he discrepado; y hay experimentos que avalan esta postura. Si no te importa demasiado lo que quieres decir, las faltas de ortografía no te molestan, estás dispuesto a cambiar de palabras por las indicaciones de un autocorrector y confías más en las sugerencias de Word que en las de cualquier manual o diccionario, entonces, sí, el texto predictivo es para ti. Si, por el contrario, te molestan ciertas tildes mal puestas o ausentes, terminas borrando y volviendo a escribir, porque la sugerencia no refleja lo que quieres y, al final, admites haber desactivado el texto predictivo en más de una ocasión, no estás solo. De hecho, el autocorrector ya me ha señalado en rojo que la palabra autocorrector no está bien escrita (y, como es obvio, Word se equivoca).

En 2019, Per Ola Kristensson, profesor de Ingeniería de Sistemas Interactivos de la Universidad de Cambridge, publicó junto a un grupo de colegas un estudio en el que participaron más de 37 000 voluntarios en el que demostraban que, lejos de acelerar la tarea, el texto predictivo era algo más lento que la escritura convencional y, desde luego, se tardaba significativamente más si se recurría al uso de la autocorrección (43 palabras por minuto frente a las 33 por minuto sin ningún tipo de ayuda).

Interacción hombre-máquina: ese triste diálogo

La denominada «interacción hombre-máquina» (HMI) es una disciplina que ya cuenta con una sobrada trayectoria en el campo de la investigación. Estudia el intercambio de información entre las personas y sistemas automatizados y se han invertido en ella cantidades multimillonarias. «¿Es necesario?», se preguntan sus detractores cuando escuchan las desorbitadas cifras y el escaso efecto en comparación con las inversiones. Y, lamentablemente, la respuesta nos guiña el ojo: los objetivos de estos sistemas no están aquí, sino en el medio-largo plazo. Mientras que al consumidor medio se le vende que su vida será más fácil, satisfactoria y eficiente, lo cierto es que no somos otra cosa que un banco de pruebas para las versiones futuras. Cuando nuestros dispositivos electrónicos graban nuestras conversaciones y envían nuestros textos a bases de datos gigantes para su posterior análisis y clasificación (hay que «entrenar» a la máquina), estamos alimentando mejores dispositivos futuros, pero también se nos van estrechando las posibilidades con las que contábamos antes, cuando la interacción era de persona a persona y las posibilidades, infinitas.

Ese análisis de nuestros diálogos, orales y escritos, es el que va guiando la manera en que la máquina nos responderá. Es la base de un servicio facilitador que irá mejorando, según nos dicen. Lo cierto es que ese texto predictivo va aplanando nuestro lenguaje al escoger las opciones más probables, las «estadísticamente relevantes», es decir, las de la mayoría. Si bien es un servicio que puede resultar útil en los teléfonos móviles —aunque, como ya hemos visto, satisface más la pereza que la eficiencia—, ¿cuáles son sus efectos en mensajes más complejos? Spike Jonze abordó esta y otras cuestiones hace una década en la magistral Her (2013). La película nos muestra un mundo dominado por la tecnología y de agradable estética, donde muchas tareas están ya automatizadas. Theodore, que se gana la vida escribiendo cartas para otras personas ——aquí aparece ya una pista importante y aterradora: en ese hermoso futuro, la población recurre a profesionales para expresar con efectividad sus sentimientos—, adquiere un dispositivo con inteligencia artificial con el que vive su día a día.

En esta inteligentísima trama, la inteligencia artificial está prácticamente instalada en nuestras vidas mediante dispositivos, que son un cruce entre carteras de cuero y móviles con pantalla doble. A través de ese dispositivo le habla la voz de Samantha, un sistema operativo de voz seductora con el que inicia una conversación que se convertirá en una relación mucho más profunda, con un ritmo y complejidad que Jonze maneja con maestría. Aunque la película admite múltiples lecturas, una de las más interesantes no es siquiera comprobar cómo los robots se integran en nuestras vidas, sino cómo nos desintegramos nosotros cuando entramos en contacto estrecho con ellos.

Del elogio al insulto: ¿estoy hablando con una máquina?

El test de Turing, al que el matemático inglés denominó «juego de la imitación» (the imitation game, 1950), tenía como objetivo último replicar diálogos que consiguieran ser indistinguibles de aquellos que se establecen entre humanos. La máquina debía responder a un humano como lo haría otro de su especie, es decir, mediante un lenguaje natural que consiguiese que los evaluadores del sistema no fueran capaces de reconocer quién se ocultaba tras los intercambios lingüísticos que conformaban el diálogo.

Cuando hablamos de este tipo de procesamiento, resulta inevitable hablar de conceptos como «sistematización» y «automatización»; es decir, que un grupo importante de humanos ha pasado millones de horas de sus vidas pensando para conseguir que las máquinas piensen y se expresen como seres humanos en sus réplicas. No sorprende, pues, que el propio Turing cambiara en su proyecto el verbo pensar por otra fórmula más adecuada. Mientras que las máquinas juegan a combinar normas y patrones, el pensamiento tendrá que trascenderlos tarde o temprano. Los problemas de verdad, los que debe resolver una mente lúcida son, como la buena literatura y las buenas traducciones, divergentes; escapan, por tanto, a la norma y a la red de seguridad que les ofrecen los patrones. Por eso, Turing desechó pronto la palabra pensar. ¿Qué es, en primer lugar, pensar? Si cuando queremos recordar algo decimos «Déjame que piense», ¿es la recuperación de ese recuerdo un acto de pensamiento, o el mero rescate de información almacenada en el pasado? Esto último no es, desde luego, un proceso simple, pero no entraña los mismos procedimientos que se ponen en marcha cuando pensamos de manera lateral o divergente.

Mientras que una máquina puede solventar un malentendido o confusión sobre una serie de datos con algunas preguntas concatenadas, un verdadero problema es una red compleja con factores de difícil encaje, por lo que se necesitan procedimientos creativos y lúcidos para encontrar una alternativa al conflicto. En el caso de los primeros, la máquina actúa de la manera en que la han programado: dice lo que debe decir en un contexto tipo, hace lo que debe hacer e incluso cuenta con algoritmos que le permiten calibrar las mejores opciones. En el caso de IBM contra Kaspárov, por ejemplo, la máquina lo aventajaba únicamente en eso: podía calcular entre cien y trescientos millones de jugadas por segundo. Pero eso no quiere decir que pensara más o mejor, sino que tenía a su alcance más cálculos de forma más rápida que su rival humano. Los problemas complejos ⸺como las jugadas de ajedrez que impliquen movimientos con errores⸺ distan mucho de seguir una estructura lógica para una máquina y, al salirse de la norma, acaban con el funcionamiento eficiente de la mayor parte de estos programas. Cuando una máquina se encuentra frente a un humano con una serie de variables que no siempre son codificables, suele abrirse la puerta a un segundo problema.

La mayor parte de los diálogos con máquinas solo son efectivos, por tanto, cuando responden a preguntas de carácter informativo, predecible, clasificable. Los datos, ya lo sabemos, son el paraíso de los sistemas informatizados. Sin embargo, el territorio del problema complejo es la singularidad. No vale con repetir secuencias de probabilidades. La prueba del algodón es que, cuando los humanos buscamos soluciones y lo que obtenemos son diálogos estériles, no es solo que seamos conscientes de que estamos hablando con una máquina ⸺acabando así con el sueño del pobre Turing⸺, sino que utilizamos la pregunta cuando lo que queremos es insultar a un humano.  

Goliat juega en la sombra o la banca siempre gana

Hace escasos meses, el médico jubilado Carlos San Juan se convirtió en el héroe de la tercera edad. Aquejado de párkinson y harto de las deficiencias de la atención al cliente en los bancos, lanzó una petición en una conocida plataforma de reivindicación de derechos. Su enfermedad le causaba «dificultades irresolubles» para usar el cajero automático y, cuando solicitó asistencia humana, lo invitaron a cambiar de entidad. En un tiempo récord, su iniciativa «Soy mayor, no idiota» superó las 640 000 firmas de apoyo y logró atraer la atención del sistema. Comenzó a ser conocido como el David contra los goliats del sector financiero. Tal fue su impacto que captó el interés de la ministra de Asuntos Económicos y Transformación Digital, Nadia Calviño, que le prometió un plan de medidas para fomentar la inclusión, e incluso el del gobernador del Banco de España, Pablo Hernández de Cos, llegó a otorgarle atención prioritaria al asunto. A partir de aquí parecía que los servicios personalizados en ventanilla y la inclusión podrían convertirse en algo más que una promesa. Pero, como diría Rosalía, «ya todo eso cambió, uh, no».

Si en la fotografía de Alberto Ortega para Europa Press San Juan aparecía con una caja de Change.org en la que se leía en letras mayúsculas «Atención humana en sucursales bancarias», al mes siguiente ya estaba en un anuncio televisivo promoviendo la digitalización de los servicios para mayores. De la atención humana no quedaba ni rastro. El cambio es notable: si en su petición defendía el modelo presencial y el cese de cierres de sucursales («no todo el mundo tiene un ordenador en casa», justificaba con razón), todo eso ya se ha esfumado. Ahora es San Juan el que anima a los mayores a «aprender» y adquirir competencias informáticas. Hemos vuelto a la casilla de salida y Goliat se ríe.

Cualquier experto en el sector financiero nos contará con paternalismo que España tenía una sobreabundancia de sucursales, pero lo cierto es que, desde 2007, ha cerrado más de la mitad. Según datos del Banco de España, de las 45 707 oficinas que llegó a haber en 2008 solo quedan 21 612 sucursales. En términos de plantilla, estos mismos datos confirman la reducción de 94 000 empleados. Y lo peor está por venir, pues se avecina la desaparición de otras tantas. La consultora JP Morgan prevé para la próxima década un cierre del 70 % del total. En otras palabras, se avecina una buena temporada de diálogos con las máquinas.

La Asociación de Usuarios Financieros (ASUFIN) maneja un neologismo para lo que tenemos en puertas, la «desbancarización», que consiste en la incapacidad de realizar las necesarias gestiones financieras. Como ya advierten, «no solo se puede pensar en zonas rurales, también en barrios de grandes ciudades que queden sin establecimiento bancario cercano». Con todo, volvemos a constatar que los servicios a las personas son lo de menos. Las administraciones públicas, por ejemplo, siguen pidiendo formularios sellados físicamente en las sucursales. Un alta a terceros no es válida si no va acompañada de la tinta azul de una de esas oficinas. Menos personal, más colas, peores servicios. ¿Les suena?

¿Quién es el robot?

En 1920, el escritor checo Karel Čapek acuñó en su obra de teatro RUR (Robots Universales Rossum) el término robot. Era una idea de su hermano Josef, que ya se había aventurado en 1917 con una versión previa del concepto, automat, en su relato breve «Opilec» («El borracho»). Los «robots» o autómatas eran la solución del protagonista para que los humanos trabajaran menos. De hecho, el término checo robota significa «trabajos forzados». Un siglo más tarde, no es que la acepción del término haya cambiado, sino que, en un irónico giro de guion, los humanos somos ahora los siervos. Hemos pasado de recibir de las máquinas actos comunicativos meramente rutinarios («Su tabaco, gracias») a órdenes que debemos cumplir para obtener aquello por lo que estamos pagando («Sírvase Gasolina 95», «Pase el código de barras del producto por el escáner»). Nadie dialogaba entonces y nadie lo hace ahora, pero no cabe duda de que el precio que estamos pagando seguirá subiendo, como el de tantas otras cosas, en los próximos años.