Conciencia, inteligencia artificial y nuestra búsqueda de sentido: Oliver Sacks sobre ChatGPT, 30 años antes de ChatGPT

English version here

«La mente es su propio lugar», escribió John Milton, «y en sí misma puede convertir un cielo en infierno, un infierno en cielo». Pero en una época en la que las máquinas pueden simular, con la mera fuerza del cálculo, cosas mentales como poemas, ¿sigue siendo la mente un lugar preponderante? ¿Qué creaciones celestiales e infernales puede hacer la mente sola que ningún algoritmo pueda reproducir o imitar?

Leo en las palabras de Milton la insinuación de que la mente crea significado, y el significado — que es diferente de la información, incluso diferente del conocimiento— es incalculable. El significado podría ser el último baluarte de la conciencia humana en la era de la IA: el anhelo existencial supremo irreducible a cálculo, la gran inquietud creativa que fermenta todos nuestros poemas y nuestras pasiones.

El neurólogo poético Oliver Sacks (9 de julio de 1933–30 de agosto de 2015) aborda estas preguntas en un ensayo premonitorio de abril de 1993 en el New York Review of Books, provocado por el libro del neurocientífico ganador del Nobel, Gerald Edelman, Bright Air, Brilliant Fire: On The Matter Of The Mind pero, como toda gran reseña de libro, elevándose mucho más allá del libro en sí y hacia preguntas más amplias sobre la conciencia, la naturaleza de la mente y lo que significa ser humano.

Revisando el auge de la literatura sobre la ciencia de la mente y la materia, Sacks lamenta que «debajo del entusiasmo por los desarrollos científicos, hay una cierta delgadez, una pobreza y una irrealidad en comparación con lo que sabemos de la naturaleza humana, la complejidad y densidad de las emociones que sentimos y de los pensamientos que tenemos». En un sentimiento que nos recuerda lo milagroso que es que un gélido cosmos haya encendido la la llama de la conciencia, él escribe:

Leemos con entusiasmo sobre la última teoría química, computacional o cuántica de la mente, y luego nos preguntamos «¿Es eso todo lo que hay?»

Con un ojo en su propia emoción al encontrarse por primera vez con la pionera cibernética de Norbert Wiener a finales de los años 1940, con su asombrosa insistencia en que «no somos materia que perdura, sino un conjunto de pautas que se perpetúan a sí mismas», y la generación de reflexiones sobre autómatas lógicos y redes neuronales que inspiró, él relata haber pensado, como muchos lo hicieron, que la humanidad estaba al «el umbral de la traducción informática, la percepción, la cognición; un mundo nuevo y desafiante en el que ordenadores cada vez más potentes serían capaces de imitar, e incluso asumir, las principales funciones del cerebro y la mente». Y sin embargo, como neurólogo que ha dedicado su vida a los mecanismos internos de las mentes humanas encarnadas, él advierte:

En efecto, debemos ser muy cautos antes de permitir que cualquier artefacto sea (salvo en un sentido superficial) «parecido a la mente» o «parecido al cerebro»… Si vamos a tener un modelo o teoría de la mente tal y como esta se da realmente en las criaturas vivas del mundo, tendrá que ser radicalmente diferente de cualquier cosa parecida al modelo computacional. Tendrá que basarse en la realidad biológica, en los detalles anatómicos y de desarrollo y funcionales del sistema nervioso; y también en la vida interior o mental de la criatura viva, el juego de sus sensaciones y sentimientos e impulsos e intenciones, su percepción de los objetos y las personas y las situaciones y, en las criaturas superiores al menos, la capacidad de pensar de forma abstracta y de compartir a través del lenguaje y la cultura la conciencia de los demás.

En un sentimiento que más tarde desarrollaría en sus perspicaces escritos sobre la memoria narrativa como pilar del yo, añade:

Por encima de todo, una teoría así debe dar cuenta del desarrollo y la adaptación propios de los sistemas vivos. Los organismos vivos nacen en un mundo de desafíos y novedades, un mundo de significados, al que deben adaptarse o morir. Los organismos vivos crecen, aprenden, se desarrollan, organizan el conocimiento y utilizan la memoria de un modo que no tiene análogo en lo no vivo. La propia memoria es característica de la vida. Y la memoria provoca un cambio en el organismo, de modo que está mejor adaptado, mejor encajado, para hacer frente a los retos del entorno. El propio «yo» del organismo se amplía gracias a la memoria.

Reflexionando sobre la obra de Edelman, Sacks considera el cuerpo como la representación última del yo en la conciencia, metiendo un premonitorio palo en los radios de ChatGPT:

Para ser consciente de ser consciente… los sistemas de memoria deben estar relacionados con la representación de un yo.

Lo que se necesita, observa Sacks, es una nueva teoría que reconozca nuestra vida mental como algo más que la suma de procesos computacionales — «una teoría de autoorganización y orden emergente en cada nivel y escala, desde el ajetreo de moléculas y sus micropatrones en un millón de hendiduras sinápticas hasta los grandes macropatrones de una vida realmente vivida»— . Una teoría de la mente así solo puede ser biológica y no mecanicista, una idea cada vez más urgente en nuestra era actual de IA incorpóreas que fabrican simulacros de conciencia cada vez más convincentes, pero que permanecen siempre separadas de la totalidad palpitante que es la vida.

Gran parte de nuestra atracción por la inteligencia artificial proviene de lo que Sacks denomina en un ensayo aún más antiguo «nuestro deseo casi irresistible de vernos a nosotros mismos como si estuviéramos de algún modo por encima de la naturaleza, por encima del cuerpo», un deseo canalizado a lo largo de la larga historia de nuestro dañino dualismo, desde Platón a Descartes hasta la noción misma de inteligencia artificial. Spinoza lanzó el primer gran guante con su insistencia en que toda nuestra experiencia consciente exige que se nos entienda como seres encarnados, ya que «el cuerpo puede, por las solas leyes de su naturaleza, hacer muchas cosas de las que la mente se maravilla». La suma total de esas cosas es lo que podríamos llamar experiencia, y se convierte en la lente a través de la cual comprendemos — que es distinto de computar— el mundo:

El mundo no tiene una estructura predeterminada: nuestra estructuración del mundo es propia — nuestros cerebros crean estructuras a la luz de nuestras experiencias—… A través de esta estructuración y reestructuración, el bebé, el individuo en crecimiento, construye un yo y un mundo.

[…]

Es característico de una criatura, en contraste con un ordenador, que nunca nada se repita o reproduzca con precisión; que haya, más bien, una continua revisión y reorganización de la percepción y la memoria, de modo que nunca haya dos experiencias (o sus bases neuronales) exactamente iguales. La experiencia es siempre cambiante, como el arroyo de Heráclito. Esta cualidad de arroyo de la mente y la percepción, de la consciencia y la vida, no puede captarse en ningún modelo mecánico — solo es posible en una criatura en evolución—… Uno no es un alma inmaterial, flotando en una máquina. No me siento vivo, psicológicamente vivo, salvo en la medida en que una corriente de sentimiento —percibir, imaginar, recordar, reflexionar, revisar, recategorizar— me atraviesa. Yo soy esa corriente — esa corriente soy yo—.

La conciencia surge así no como una operación de la mente sino como una interacción encarnada entre la mente y el mundo — un flujo dinámico de intercambios en el que todo el organismo, no sólo el cerebro, participa y, en el acto de participación, se crea a sí mismo—. (El neurocientífico Antonio Damasio ha defendido desde entonces la conciencia no como una función cerebral sino como un fenómeno de todo el cuerpo, y otros trabajos han demostrado una y otra vez que «nuestra mente está ligada al cuerpo»).

Sacks escribe

Durante el desarrollo del feto, se crea un patrón neuronal único de conexiones, y luego, en el lactante, la experiencia actúa sobre este patrón, modificándolo al reforzar o debilitar selectivamente las conexiones entre grupos neuronales, o creando conexiones totalmente nuevas.

Así pues, la experiencia en sí no es pasiva, una cuestión de «impresiones» o «datos sensoriales», sino activa y construida por el organismo desde el principio. La experiencia activa «selecciona», o esculpe, un nuevo patrón de grupos neuronales más complejamente conectados, un reflejo neuronal de la experiencia individual del niño, de los procedimientos por los que ha llegado a categorizar la realidad.

Con el tiempo, estos distintos circuitos neuronales se sincronizan entre sí para dar forma a ««la vida interior, la mente, el comportamiento de la criatura». Con la vista puesta en esta y otras pruebas contundentes de una base biológica de la consciencia, escribe:

Desde Boole, con sus «Leyes del pensamiento» en la década de 1850, hasta los pioneros de la Inteligencia Artificial en la actualidad, ha persistido la noción de que se puede tener una inteligencia o un lenguaje basados en la pura lógica, sin que intervenga nada tan sucio como el «significado»… Esto no es así, y no puede serlo.

Nuestra búsqueda de significado, insinúa Sacks, formará parte para siempre de la experiencia de funcionamiento óptimo del organismo humano, una experiencia, para mí, cualitativamente diferente de cualquier cosa a la que pueda aproximarse una inteligencia artificial, en la medida en que pueda siquiera tener experiencia en absoluto. En un pasaje que me parece la refutación suprema de la apuesta de ChatGPT por la conciencia, escribe:

Esa sensación que tenemos cuando funcionamos de forma óptima, de una corriente de conciencia rápida, sin esfuerzo, compleja, siempre cambiante, pero integrada y orquestada… coincide con la sensación de que esta conciencia es nuestra, y de que todo lo que experimentamos y hacemos y decimos es, implícitamente, una forma de autoexpresión, y de que estamos destinados, lo deseemos o no, a una vida de particularidad y autodesarrollo; coincide, por último, con nuestra sensación de que la vida es un viaje — impredecible, lleno de riesgo e incertidumbre, pero, igualmente, lleno de novedad y aventura, y caracterizado (si no está saboteado por limitaciones externas o patologías) por un avance constante, una exploración y comprensión del mundo cada vez más profundas—.

Una y otra vez, los correlatos de la conciencia la enraízan en la vida del cuerpo, el latido de la experiencia hambrienta de significado, algo de lo que carece una máquina de la capacidad computacional más asombrosa. En un lírico antídoto contra milenios de dualismo y una vorágine de hipérboles de moda sobre el futuro de la IA, Sacks escribe:

No somos incoherentes, un manojo de sensaciones, sino un yo, surgido de la experiencia, en continuo crecimiento y revisión. El cerebro no es un haz de procesos impersonales, un «ello», con la «mente», el «yo», planeando misteriosamente sobre él. Es una confederación, una unidad orgánica, de innumerables categorizaciones, y categorizaciones de sus propias actividades, y de éstas, de su autorreflexión, surge la conciencia, la Mente, una metaestructura… construida sobre los mundos reales en el cerebro… A través de la experiencia, la educación, el arte y la vida, enseñamos a nuestros cerebros a ser únicos. Aprendemos a ser individuos. Se trata de un aprendizaje tanto neurológico como espiritual.

Puedes complementar este artículo con la lectura de Meghan O’Gieblyn sobre la conciencia y nuestra búsqueda de sentido en la era de la IA, y después vuelve a Oliver Sacks sobre los tres elementos esenciales de la creatividad, la psicología de la escritura, y la mortalidad y el sentido de la vida.