Cuando la Fundación Formentor me anunció que el tema de las Conversaciones de este año sería «Cíborgs, androides y humanoides», me puse a buscar en casa qué libros se acercaban a esta temática. Tenía clásicos como Fahrenheit 451, una edición de bolsillo de la Guía del autoestopista galáctico; Un mundo feliz, de Huxley, o La mano izquierda de la oscuridad, de Ursula K. Le Guin. Casi había escogido, cuando un amigo periodista me mandó un whatsapp con un texto que acababa de escribir para el periódico utilizando ChatGPT. En el mensaje me puso: «Somos sustituibles». Entonces decidí que necesitaba un libro distinto, algo contemporáneo.
Las problemáticas de nuestro tiempo requieren una mirada nueva, virtuosa e imaginativa, y pensé que la ciencia ficción, que siempre nos mira desde el espejo retrovisor, me daría la respuesta. Así que me fui a mi librería de Santander y le pregunté a mi librera, y como si fuera mi médico de cabecera, le conté lo que me pasaba. Ella empezó a enumerar autores, y tras citarme algunos títulos que no reconocía, salió el nombre de Ishiguro. «Es de un robot que cuida niños», me dijo. Y ya saben esa sensación cuando estás en una librería y de repente das con un libro: que das con EL LIBRO: Klara y el Sol. Como dicen en Lost in Traslation, todo el mundo necesita ser encontrado, pues a mí ese día me encontró Klara. Soy madre de dos niños de doce y ocho años; si algo me ocupa espacio mental es el tiempo que pasan delante de una pantalla y sus consecuencias, y en qué momento le dimos a la tecnología ese papel de cuidador, de domador.
Meses más tarde aquí estoy, en las Conversaciones de Formentor, en Canfranc, compartiendo mesa con escritores que admiro, y hablando de una novela que ha ido más allá del titular, porque decir que Klara es un robot que cuida niños es como decir que el fútbol son once tipos chutando un balón: es obviamente el punto de partida, la base sobre la que el Nobel británico de origen japonés construye un escenario, pero va más allá, porque en realidad lo que hace Ishiguro es ponernos ante la pregunta de qué estaríamos dispuestos a hacer para evitar la desaparición de un ser querido.
La protagonista de esta novela es Klara, un robot tipo AA, es decir, una Amiga Artificial, que está programado para cuidar niños. Es ella misma quien cuenta la historia en primera persona, y lo hace recordando cómo empezó todo en la tienda donde se vendían robots de acompañamiento. Mientras espera que un niño la escoja, Klara observa y analiza lo que hay al otro lado del escaparate; las riñas entre humanos, las miradas, el humo de una máquina que le impide ver el sol, fuente de sus nutrientes y por tanto su referencia de lo bueno. En la tienda hay modelos más nuevos que ella, pero Klara tiene algo que la hace única: su conciencia artificial le permite comprender el comportamiento humano al identificar las emociones, los resortes que las activan y su finalidad, es decir, tiene la capacidad de introspección de un poeta, es capaz de ver las cosas en las que nadie se fija, pero carece de experiencia y de contexto para interpretarlo.
Todo cambia para Klara cuando conoce a Josie, la niña que la compra y se la lleva a casa. Estos robots están fabricados precisamente para eso, para cuidar niños, para acompañarlos, pero en el caso de Josie el cuidado es doble porque está muy enferma. Con ellas vivirán la Madre, Sirvienta, –Klara usa nombres genéricos como el de Gerente, la mujer encargada de la tienda, para nombrar lo que va conociendo–, conocerá también a Rick, el único amigo y vecino de Josie, al Padre de Josie, al hombre que le está pintando un retrato…
Su metódica obsesión es servir a la familia, y sobre todo a Josie, de la mejor manera posible, su existencia misma se fundamenta en este cometido, pero en un momento dado la madre le pide algo extraño: le pide que imite a Josie. Y ella lo hace, claro. Imita sus movimientos, su voz, imita su forma de andar, pero también es capaz de imitar sus motivaciones, sus pasadizos emocionales; ha llegado a comprender sus cambios de humor y sus berrinches o alegrías, anticiparlos, por eso, al imitarla, resulta idéntica. Quieren al robot para que cuide a la niña, para que le haga compañía, pero también quieren al robot para sustituir a Josie cuando muera. Y aquí está la clave.
¿Cómo creen que reacciona ante esto un robot que está programado para comprender, no para juzgar o ponderar la ética de determinados comportamientos? ¿Creen que Klara se escandaliza cuando lo descubre? Klara comprende sin tomar partido porque está programada para eso: es como esos coches autónomos que están aún en pruebas y que, programados para proteger la vida del conductor, anteponen la vida de este a la de, por ejemplo, un niño que cruza, porque en esa milésima de segundo no cabe valorar una vida sobre la otra si el algoritmo te ha prediseñado para acatar órdenes, no para valorar sus consecuencias. Klara no es libre para elegir qué hacer, tampoco ese coche autónomo. Pero los humanos, sí.
Nosotros no tenemos un manual de instrucciones, somos imperfectos, impulsivos, mentimos, incluso a nosotros mismos, y son nuestras contradicciones las que nos vuelven precisamente humanos, y por tanto libres, algo que no es Klara, sujeta siempre al mandato de su programación. Ella no se hace la gran pregunta, pero nosotros estamos obligados a formularnos la ante semejante reto: si pudieran sustituir a la persona que aman y que ha muerto, ¿lo harían? Ya sea con clonaciones o creando órganos para sustituirlos, como planteaba el propio Ishiguro en Nunca me abandones, o bien replicando la identidad como si fuera un disco duro como quieren hacer con Klara, ¿lo harían?
La novela tiene un tono que se acerca a la fábula, al cuento ilustrado, y todo sucede en una distopia en la que hay niños mejorados genéticamente para que tengan altas capacidades, con el riesgo para su salud porque no todos sobreviven, universidades en las que solo aceptan a esos niños mejorados; adultos a los que relegan a un segundo plano y no pueden desempeñar su oficio, como le sucede al Padre. Es un mundo construido para los mejores o los mejorados, y en la sombra quedan los demás.
Ishiguro plantea un futuro no tan lejano, porque a ese futuro de máquinas cuidando a niños se le empiezan a ver las orejas. A día de hoy, la tecnología es una cuidadora, una domadora les decía al principio, y me refiero a los móviles que dejamos a los niños para que se callen durante un viaje o en un restaurante; a la televisión cuando necesitas que estén quietos en un sitio, y por tanto, controlados, para que te dejen leer, cocinar, o algo tan prosaico como cerrar los ojos en el sofá para descansar cinco minutos aunque sea con la risa histriónica de Bob Esponja de fondo. ¿Y qué me dicen de la tecnología y el trabajo? Si con cada revolución industrial se han perdido empleos, lo que se va a perder en nuestra era va más allá, porque ahora la tecnología está sustituyendo la propia realidad.
Los vacíos legales y éticos que está generando el uso de la inteligencia artificial nos va a obligar como sociedad a dar respuestas eficaces, de ahí la pertinencia de la pregunta que plantea Ishiguro en esta novela, y que la escribió, les recuerdo, antes de que existiera ChatGPT o la barbaridad que han usado los menores de Almendralejo para crear cuerpos desnudos de niñas del pueblo que han difundido por internet.
¿Somos sustituibles? Esa es la gran pregunta que plantea la novela. Como madre, un móvil no puede sustituirme, pero le damos la capacidad de «cuidar» cuando nosotros no podemos o no queremos, y por tanto algo de nosotros se ve sustituido. Hay aplicaciones que ya pueden sustituir mi voz y mi cuerpo, solo hay que asomarse a internet para comprobarlo. Y ahora también la tecnología puede hacer mi trabajo como periodista al usar mis textos publicados como base para imitar y crear contenidos afines. Ante este escenario, por tanto, uno puede concluir que somos sustituibles. Pero me temo que no es así, o al menos es lo que intento plantear con esta ponencia y el argumento que voy a usar está en la propia novela, en la confesión final que hace Klara, cuando se da cuenta de que por mucho que su tecnología esté hecha para reemplazar a un humano, no podrá hacerlo: «Por mucho que lo hubiera intentado, ahora creo que siempre habría habido algo imposible de imitar. La Madre, Rick, Sirvienta, el Padre, yo nunca habría llegado a colmar lo que ellos sentían en sus corazones por Josie. Siempre tuvo algo muy especial, pero no estaba en el interior de Josie; estaba en el interior de quienes la querían». Es decir, como sostiene Ramón Andrés, existimos en la mirada de los demás, y eso, no sé a ustedes, me parece una idea esperanzadora.
Cuando terminé de leer el libro, agradecí que Klara aquel día me hubiera encontrado en la librería. Ahora, sigo dejando de vez en cuando el móvil a mis hijos, pero de alguna manera pienso que el teléfono o el ChatGPT no me sustituirá, o en el sentido al menos que plantea Ishiguro. Siempre y cuando mis palabras lleguen a tocar el interior de quien me escucha, como ustedes esta tarde, será difícil que una máquina nos sustituya. Agustín Fernández Mayo lo acaba de decir en su reciente intervención: la identidad es algo dado por los demás, así que será difícil que la tecnología nos sustituya si seguimos mirándonos, viéndonos, escuchándonos, como lo hemos hecho aquí, en Canfranc. Muchas gracias.
Este artículo forma parte de la Conversaciones de Formentor que en 2023 se han realizado en la estación de Canfranc
