Inteligencia artificial: prohibiciones arriesgadas

Los profesores de ética suelen desarrollar razonamientos admirables sin dejar claro a quien dirigen sus conclusiones. Es bien sabido, por ejemplo, que los psicópatas y los asesinos a sueldo no son muy aficionados a leer libros de ética. ¿Tiene sentido dirigirse a los italianos con un discurso en alemán? No es infrecuente que razonamientos abstractos, que suenan muy bien en términos generales, se desmoronen en cuanto se intenta aplicarlos a cuestiones concretas.

El matizado comentario de Antonio Diéguez Sobre la petición de moratoria en la investigación en IA avanzada bien merece a su vez un comentario deliberativo que quizá contribuya a un diálogo razonable. Diéguez es un especialista en estas cuestiones, autor, entre otras muchas publicaciones, del excelente libro introductorio Transhumanimo. La búsqueda tecnológica del mejoramiento humano. Y la inteligencia artificial (IA), como es sabido, está teniendo en la actualidad un papel protagonista dentro del conjunto de tecnologías que impulsan el proyecto transhumanista de mejoramiento humano, las llamadas NBIC: nanotecnologías, biotecnologías, informática y cognitivismo (inteligencia artificial y robótica).

Diéguez resume y comenta el manifiesto que en marzo (2023) pidió a los grandes centros de investigación sobre IA una moratoria de seis meses al menos en sus trabajos, ante el riesgo (que algunos expertos consideran próximo y otros muy dudoso) de que se desarrollen máquinas con mentes capaces de superar la inteligencia de los humanos, volverse contra ellos e incluso eliminar a nuestra especie para sustituirla. Sin llegar ni de lejos a ese extremo, Diéguez constata y comparte la «preocupación generada en gran medida por los avances extraordinariamente rápidos y sin control que vienen dándose en los últimos años en el campo de la IA». Entre los más próximos (o ya presentes) se encontraría el que «con su ayuda, se pueden crear con gran facilidad y realismo noticias falsas, con imágenes y vídeos incluidos, capaces de engañar a los más avezados», o su uso fraudulento en delitos financieros o de otro tipo. Un buen ejemplo lo encuentra en los potentes sistemas de reconocimiento facial que están permitiendo identificar y detener en Rusia a las personas que asisten a manifestaciones contra el Régimen y que también se emplean en China para controlar a disidentes políticos. Mientras, la cantidad de grabaciones que se hacen en todos los espacios públicos de los países europeos han llevado a la prohibición de recoger datos biométricos sin el consentimiento de los interesados. Y aquí aparece ya la paradoja que nos interesa: los países que más abusan de las nuevas técnicas contra la propia ciudadanía nunca coinciden con los que muestran más sensibilidad sobre los límites éticos de su utilización.

El conocido libro de Luc Ferry La revolución transhumanista, dedicado precisamente a revisar la forma en que la tecnociencia está transformando nuestras vidas, empieza recordando el experimento que hicieron genetistas chinos en 2015. Modificaron embriones humanos con técnicas de edición genética, de forma análoga a lo que suele hacerse con semillas vegetales para crear alimentos transgénicos. La técnica utilizada permite introducir en embriones cambios hereditarios de efectos impredecibles en la descendencia. Como buen europeo, Ferry se pregunta por los requisitos técnicos y éticos con que se hizo el experimento, pero se responde a sí mismo que «la opacidad que rodea a este tipo de cuestiones en China es tal que nadie es capaz de dar respuesta a estas preguntas». Y lo cierto es que cada vez que se prohíben en Occidente peligrosos experimentos de vanguardia con seres humanos, llegan confusas noticias sobre laboratorios en China o Corea del Norte que desprecian tales prohibiciones y podrían estar haciendo los mismos experimentos que Europa y Estados Unidos rechazan.

Diéguez sostiene, en su conclusión, que se puede (y se debe) poner puertas al campo sin renunciar a los beneficios de la IA; pero hace también una observación que, con distintas variantes, se suele encontrar, generalmente de pasada, en muchos escritos solventes sobre el tema: «Es sumamente improbable que se cumpla la moratoria que pide la carta abierta. Los intereses en contra son muy poderosos. Difícilmente las compañías norteamericanas van a parar la investigación en IA cuando su máximo competidor, China, no lo va a hacer».

Pero esta cuestión no es un aspecto más a tratar en los debates éticos, sino algo fundamental que se debería analizar, y resolver, antes de entrar en otras muchas discusiones. ¿Tiene sentido que los países democráticos se hagan a sí mismos prohibiciones que no van a respetar los países autoritarios, que investigan lo que quieren sin dar cuenta ni pedir permiso a nadie? Si en el año 1944 los americanos, por razones éticas, hubiesen hecho una moratoria en sus investigaciones sobre la bomba nuclear, la primera podría haber caído en Londres y no en Hiroshima. Salvo que los escrúpulos éticos del gobierno nazi lo hubiesen evitado.

Es admirable la renuncia a tener en casa armas de fuego, el problema es hacerlo sabiendo que el vecino, que nos tiene una hostilidad manifiesta, está reuniendo en la suya un auténtico arsenal. Para poder refutar a los que afirman que se va a acabar haciendo todo lo que sea técnicamente posible de hacer, antes hay que asegurarse de que se tiene el control de todo el territorio en que puede hacerse. Y eso es, hoy por hoy, perfectamente imposible, pues los organismos reguladores más potentes solo tienen jurisdicción sobre una parte del mundo, pero carecen de influencia, e incluso de conocimiento, sobre lo que se hace en las otras partes. Podría ocurrir que los países democráticos se prohibiesen a si mismo lo que los países autoritarios realizan con entusiasmo… y, en ese caso, sin competencia.

Cuando se escribe sobre temas como este es habitual que el lector esté pendiente (a veces de forma exclusiva) de detectar si el autor está a favor o en contra de la tesis planteada. Pero a mí, antes de estar a favor o en contra de una nueva regulación, me gustaría aclarar ese punto, que me resulta profundamente oscuro. ¿Quién regula a los que no se dejan regular? ¿Sabemos realmente si las prohibiciones de los últimos años, clonación incluida, se respetan en todos los laboratorios del mundo? Porque lo que sí sabemos es lo que ocurre cada vez que se prohíbe el aborto, el whisky o los partidos políticos: pasan a la clandestinidad.

Por eso se echa tanto de menos en los habituales discursos éticos la reflexión realista sobre a quién se dirigen y qué caso les van a hacer sus destinatarios efectivos en la práctica. Porque si no se parte de ella es muy probable que acabemos poniendo puertas al campo en que no están los toros bravos y dejemos abierta la dehesa más peligrosa.