A Isaac Asimov lo descubrí a los 17 años, cuando su monumental Introducción a la Ciencia, me llevó directo a la facultad de Físicas. Pero no empecé a leer sus novelas hasta una década más tarde, cuando trabajaba como investigador postdoctoral en la universidad de Stanford, en California. Una mañana de domingo, en una librería del barrio de Castro, en San Francisco, encontré, a precio de ganga, un pack que incluía los relatos de Yo, robot y las tres novelas clásicas posteriores (Bóvedas de acero, El sol desnudo y Los robots del alba). Las devoré en un santiamén y recuerdo bien la felicidad de aquella lectura de juventud, ingenua y hedonista.
No había vuelto a abrirlas hasta hace unas pocas semanas. Eran todavía los textos que compré en Castro, ya viejos cuando me los agencié y misteriosamente intactos todavía. Esta segunda lectura no fue tan ni inocente ni tan veloz. Siempre que se vuelve sobre un libro de la juventud, hay que conjurar el fantasma de aquel que fuimos, el que subrayó aquellos párrafos que a veces todavía nos conmueven y no pareció apercibirse de los anacronismos que en esta lectura me saltaban a los ojos. En 1950 no había rastros del Brave New World al que nos llevaría a la explosión informática. La belleza y la maldición de la ciencia ficción es que trata de imaginar un futuro impredecible. Asimov soñaba con coches voladores y naves hiperlumínicas pero ni él ni mi yo de 1987, podían concebir que en su lugar, que el futuro nos deparara Twitter y TikTok.
He dicho que en 1950 no había señales que apuntaran a nuestro distópico presente. Para ser exactos, debería haber dicho que no había señales materiales. Las bases filosóficas en las que se fundamenta la extraña realidad que nos ha tocado vivir, quizás ya estaban sentadas. Déjenme citarles un fragmento de un texto de Frederic Skinner, contemporáneo de Asimov, con el que volverán a encontrarse si leen el primer artículo del número de Jot Down «Distopías».
Lo que debe abolirse es el hombre autónomo, el hombre interior, el homúnculo, el demonio posesivo.
¿Pero qué nos queda cuando, en efecto, suprimimos el demonio rebelde, el homúnculo indomable? Nos queda una inteligencia predecible, manejable, programable. Nos queda un robot, en cuyo maravilloso cerebro positrónico (sin duda el anacronismo más poético de la historia de la literatura) podemos implantar las famosas tres leyes:
- Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
- Un robot debe obedecer las órdenes que le son dadas por los seres humanos, excepto si estas órdenes entran en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia, siempre y cuando esta protección no entre en conflicto con la Primera o la Segunda Ley.
Se diría que las tres leyes pueden controlar al robot, privándolo del demonio interior, acotando su libertad. Pero no es así. De hecho, varios de los relatos de Yo, robot, exploran escenarios en los que los autómatas se comportan de manera errática o impredecible, a pesar de, o quizás, debido a su programación. Así, en «Embustero», un robot llamado Herbie desarrolla la capacidad de leer mentes humanas, pero debido a las «Tres Leyes», evita decir la verdad para no herir los sentimientos de las personas. En la inquietante historia «El conflicto evitable», los robots que controlan la economía mundial para maximizar la eficiencia y minimizar el sufrimiento los hombres, deciden que es peligroso que estos se encarguen de sus propios asuntos. Permítanme preguntarles: ¿cuánto tiempo creen que va a pasar hasta que ese escenario se haga realidad?
Por otra parte, la idea de la IA que se vuelve una amenaza debido a una malfunción o a un «lapsus» de programación todavía encaja, aunque sea con calzador, en un esquema mecanicista. La respuesta obvia a este dilema es programar «mejor» nuestras IAs, para que se comporten como las máquinas predecibles que queremos que sean.
Pero en dos de los cuentos de Yo, robot, Asimov planeta escenarios diferentes. Uno de ellos, el primero de la serie, introduce a Robbie, un robot diseñado para entretener a los niños, que se convierte en el mejor amigo de Gloria, la pequeña que cuida. Se trata de una amistad pura, entre una muchachita y una máquina cuya única razón de ser es velar por ella y hacerla feliz. Pero, ¿podemos considerar a Robbie realmente una máquina? Lo de menos es su cuerpo metálico y un poco grotesco, lo importante es que su amor por Gloria es más intenso y complejo de lo que sus programadores habían previsto. Se diría que el homúnculo se ha colado en su cerebro positrónico. El argumento de base de Robbie, por cierto, recuerda mucho el de Klara y el Sol del gran Ishiguro.
«Lenny» es la historia de un robot cuyo cerebro positrónico tiene un «diseño no estándar». Debido a ello, su mentalidad es parecida a la de un niño humano y aprende de una manera similar a este, mediante la imitación y la corrección de errores, en lugar de recibir instrucciones detalladas y específicas. La protagonista, Susan Calvin se encariña con Lenny y decide instruirlo personalmente. Y esto nos lleva a una nueva historia de amor, esta vez maternal, entre una humana y un robot. ¿Está Asimov reivindicando que es inevitable enamorarnos de nuestras máquinas o defendiendo que, artificial o no, Lenny es un ser humano? Después de todo, el fallo de diseño de su cerebro quizás no ha hecho otra cosa que permitir que el demonio interior anide en él.
Con tres cuartos de siglo, los relatos de Yo, robot siguen siendo de una actualidad apabullante. Lo cierto es que, mientras nos asombramos de los increíbles avances de la Inteligencia Artificial General (IAG), también somos testigos del creciente número de malos usos que puede dársele, desde bots que suplantan humanos en las redes hasta programas Deep Fake que generan pornografía infantil. Es decir, en la distopía que es ya nuestro presente, los modernos robots digitales campan a sus anchas, sin leyes de la robótica que los contengan.
Pero, ¿bastará con programar nuestras IAGs introduciendo todo tipo de cortafuegos (como de hecho ya se está haciendo) para controlarlas? Como hemos visto, los relatos de Asimov nos presentan robots que, aunque regidos por leyes muy estrictas, frecuentemente encuentran situaciones en las que su interpretación se torna ambigua o incluso conflictiva. ¿Y si las máquinas, como anticipan los relatos del profesor deciden desobedecernos por nuestro propio bien?
Alguna pista más puede encontrarse en la trilogía de «robots y misterio» (Bóvedas de acero, El sol desnudo y Los robots del alba). El argumento es siempre un asesinato, que deben resolver un detective humano (Elijah Baley) y su Watson robótico (R. Daneel Olivaw). Pero no hay forma de hacerlo si ambos no cooperan estrechamente. Por otra parte, la cooperación requiere confianza y Elijah desconfía de la máquina hasta que, a medida que avanza el caso y trabajan juntos va desarrollando, sin ser del todo consciente de ello, una intensa amistad hacia su socio. Otra historia de amor entre hombre y robot, y otra vez un robot que quiere dejar de serlo. Olivaw evoluciona a lo largo de las novelas. En la primera, desarrolla un profundo afecto y lealtad hacia Baley. En la segunda, muestra una creciente capacidad para la empatía y el juicio moral. Finalmente, acaba por añadir una cuarta ley que nadie le ha programado (Un robot no debe dañar a la humanidad, o, por inacción, permitir que la humanidad sufra daño). Pero ¿un robot que siente afecto y empatía y que puede modificar su programación (en buen castellano eso se llama libre albedrío) es todavía un robot?
Asimov era, ciertamente, un optimista. Sus novelas concluyen que es posible coexistir con los robots (léase las IAG). Inicialmente, esa coexistencia se deriva de la programación de las máquinas y es siempre imperfecta hasta que los robots evolucionan para convertirse en humanos. No es una solución poco atrevida, pero todavía es insuficiente. Además, hay que postular que el entendimiento entre humanos es posible. Asimov estaba convencido de que, a pesar de todo, la humanidad tiene la capacidad de encontrar armonía consigo misma y con sus creaciones tecnológicas. Quiero creer que no se equivocaba.
Este artículo forma parte de la Conversaciones de Formentor que en 2023 se han realizado en la estación de Canfranc
Las leyes de la robótica de Asimov son la n-ésima versión, hortera según muchos, de revender la fantasía màgica de toda la vida con una pàtina de ciencia, lo que sale ew una mayonesa que dura lo que dure el agente emulsionante. Servidor también quedó flipado por Asimov con bastantes menos años, pero luego llegaron Lem y LeGuin, y sin haber llegado. los 20 pude ubicarlo bastante bien. Era un tipo complejo, y una faceta que creo que es significativa en este tema es que era un caradura, de lo cual ahora vamos teniendo un cuadro bastante completo vista su relación de abuso con las féminas.
La capacidad de teletransporte del mago Merlín es mucho más eficiente, y hasta elegante, que la de Star Trek. En ambos casos es un artificio narrativo para abaratar costes, y funciona igual en mitologías y religiones. Nihil novum sub sole.
Las leyes de la robótica ni son leyes ni siquiera tienen una estructura lógica. Es imposible matematizarlas, debido a la complejidad. Ya con 14 años me preguntaba cómo un robot puede ser tan estúpido de no discernir que se hace objetivamente más daño mintiéndole a un ser humano que diciéndole la verdad, con todo lo problemàtico que son esos dos sustantivos.
Al final lo que queda es literatura del régimen o literatura disidente. Se cuenta con los dedos la perteneciente al primer caso que sobrevive unas cuantas generaciones, irrelevantemente a su calidad técnica. El 99% de los españoles son incapaces de nombrar UNA sola obra de Lope de Vega, y una cifra significativa ya ni les suena, en función de cuántos años han pasado desde las aulas de la niñez. Y el tipo, objetivamente, escribía muy bien. Y era del régimen, de sus pesebres y prebendas.
Por cierto que el régimen al que fue leal y defendió a capa y espada toda su vida, hablo de don Isaac, le pagó con una muerte absurda y cruel. Soy una persona de poca fe, cofradìa de Santo Tomàs.
Me gustó el artículo. No he leído a Asimov aún, pero él presupone que siempre somos capaces de entender la evolución de los robots y las leyes que los rigen. No tengo claro que las inteligencias avanzadas quieran parecerse a nosotros mas allá del código que las rige, aunque es una visión interesante desde el punto de vista evolutivo. Si suponemos que los humanos buscan consciente o inconscientemente la perfección de su ser y, que estamos en el camino correcto para lograrlo (digamos que hay un camino y destino evolutivo correcto (¿correcto?) para todos los seres), entonces tal vez seria posible. Sin embargo, un robot con capacidades de procesamiento avanzadas y en el momento preciso («¿revolución tecnológica?») ¿tomaría decisiones similares a la humanidad? ¿Serían decisiones y actos / hechos comprensibles para el ser humano? ¿Pueden los robots tomar decisiones erróneas? Me apasiona este tema. Un saludo.
Me equivoqué al escribir «revolución tecnológica «, quería decir «singularidad tecnológica «.
Los robots somos nosotros, desde hace tiempo.
Fan de Asimov en mi adolescencia (más de cien libros suyos leídos), entre otros muchos otros autores, he de reconocer que es un autor que no aguanta tan bien una segunda lectura (o una lectura más adulta).
Si lo lees en la adolescencia (o antes) o es tu introducción a la ciencia ficción, es un autor que te cautiva por su sencillez narrativa y sus ideas. Pero si lo lees con más edad o con otro bagaje cultural, se te queda corto, se le ven las costuras, no llega a la grandeza literaria o de ideas de otros…
Luego, lo que parecía una persona de carácter divertido y burlón descubres que ha sido un viejo verde tocón y baboso, acosador y vete tú a saber si algo más, cuyo afán predatorio sexual era de sobra conocido en la industria pero que era opacado debido a su estatus.
Hasta llega uno a pensar si la causa de su muerte, fue por la negligencia médica tan comentada o por sus escarceos sexuales…
Algo parecido pasa con otros padres de la ciencia ficción y la fantasía de aquellos años, como Forrest J. Ackerman, que parecían amables figuras y resultaron ser unas personas execrables y nada ejemplares.
Hace poco descubrí la historia del viejo Ackerman con las mujeres, cómo les enviaba pornografía, les escribía qué deseaba hacerles y como guardaba las órdenes de alejamiento y denuncias en su archivador y se las mostraba a sus conocidos regocijándose de tales hazañas.
Por no mencionar la historia de Heidi Saha y su hermano, primigenios cosplayers adolescentes en manos de adultos que no eran como parecían…
Es más complicado, como siempre. El tipo, indudablemente, salió de la clase trabajadora (inmigrante, además), y se benefició de un incipiente protowelfare state rooseveltiano que se torció inmediatamente apenas pusieron a Truman de Payaso Mayor. Su muerte no fue negligencia médica, fue delincuencia médica, no veo sustancia para eximir de responsabilidades a los auténticos responsables que lo trincaron a él con miles de otros. Ahora, nunca ha quedado clara su salida de la Universidad de Boston.
El tipo tenía un aura de honesto (y según para qué, indudablemente lo era), era metódico y registraba meticulosamente, es decir, una sólida formación cientìfica. Así que es el nicho el que hace al bicho, o la ocasión al ladrón, se suele decir que el poder corrompe y no es cierto: el poder simplemente desenmascara, los frenos dejan de ser necesarios.
Como autor era literalmente un juntaletras (como Lope de Vega), la expresión no tiene por qué ser peyorativa: literalmente, cobraba por palabras escritas (número de, «al peso»). Ahí es donde entra el trabajo de un editor para decirle a esta gente lo que tienen que cambiar o no (puesto de trabajo que hace años que dejó de existir, ni digamos revisor, y que explica perfectamente el tsunami de mierda que nos inunda); en otras palabras, estilo y formato, y cuadro general, era lo que exactamente se le demandaba y él cumplía, porque si no, no cobraba, las lecturas entre líneas o el horizonte de fondo eso ya era a su entera libertad, y lo cierto es que no había censura, pues ahí el hombre rien, niente, nihil, nicht, nullus, nada.
Sus libros de historia son una mierda pinchada en un palo (publicados en Alianza), un estilo muy de papagayo. Un juntaletras y con adhesión inquebrantable al rëgimen. Y bueno, todo lo que llegó a ser a Él se lo debe.
Lo que le retrata, a ojos particulares de los españoles, es su crítica a Orwell. Para mí Orwell es p.ej. el escritor que ha hecho el mejor relato breve sobre/contra la pena de muerte (y sabía, por experiencia vital directa, de lo que hablaba), lo que opina Asimov es simplemente asqueroso, y lamentablemente previsible. Vuelvo a insistir sobre su honestidad, muy como la de Kissinger (ya me dirán si no la frase, auténtica y para nada apócrifa, «ser enemigo de los EEUU es peligrosísimo, pero ser su amigo es letal»), dejamos para otro debate qué es eso de la inteligencia en general, y la humana en particular.
Pingback: Jot Down News #37 2023 - Jot Down Cultural Magazine
Asimov es un escritor mediocre con algunas buenas ideas pero una visión, a pesar de su bagaje científico, bastante corta..
Recuerdo que en mi lejanísima adolescencia simultaneé la lectura de una colección de cuentos de Asimov con los Cuentos de la Taberna del Ciervo Blanco, de Arthur Clarke. Estaba deseando acabar los de Asimov, los del inglés ganaban por goleada. Mucho mejor escritos, más amenos y divertidos. Por cierto que en lo tocante a vida privada el autor de 2001 también parece que tenía algún cadáver en el armario.