Ibán García del Blanco: «El salto de productividad que se va a producir con la inteligencia artificial no debe quedar en manos de unos pocos, ha de beneficiarnos colectivamente»

A principios de 2024 se aprobó en el parlamento europeo una ley, pionera a nivel internacional, para regular la inteligencia artificial (IA) en el ámbito de la Unión Europea. Ibán García del Blanco, eurodiputado español, fue el único representante de nuestro país en la elaboración de dicha norma.

Nacido en León el 8 de febrero de 1977, Ibán García de Barco es licenciado en Derecho y además de eurodiputado ha sido, entre otras cosas, secretario de Cultura del PSOE, concejal en León y hasta subcampeón universitario de ajedrez, una de sus pasiones fuera de la política. 

En esta conversación nos sumergimos en el intrincado mundo de la legislación sobre la IA, los riesgos y oportunidades de esta tecnología y hasta hacemos hueco para hablar de cómics y de ajedrez. 

¿Qué obtiene un ciudadano de la Unión Europea con esta ley de inteligencia artificial?

Pues sobre todo seguridad. Creo que con esta ley puede estar tranquilo en cuanto a que sus derechos esenciales van a estar protegidos y también algunos otros, que para nosotros como europeos son importantes: cuestiones relacionadas con la igualdad de género o con la sostenibilidad medioambiental o con algunos otros valores colectivos que están dentro del ADN de la Unión. La protección de estos aspectos va a estar, como mínimo, impulsada en la ley. Creo que es una ley para que la gente asuma con cierta tranquilidad, lo cual no quiere decir con dejación de ningún tipo de esfuerzo, el salto tecnológico que sin duda se va a producir.

Teniendo en cuenta que es la primera ley que se hace a nivel internacional sobre la IA, ¿crees que habrá efecto contagio? ¿Piensas que otros países como Estados Unidos o Reino Unido, que ahora está fuera de la Unión Europea y por tanto no le afecta esta norma, se van a plantear leyes de este tipo? 

Estoy seguro. Estuve hace menos de un mes en Estados Unidos, en Washington y en Austin, que es uno de los principales hubs tecnológicos del mundo, y la sensación es que incluso algunos agentes que eran ciertamente refractarios a que hubiera ni siquiera legislación hace muy pocos años, hoy en día están demandando una solución similar en Estados Unidos. Por una razón fundamental: porque creo que ya está dentro del consenso internacional, es decir, del sentido común internacional, que la inteligencia artificial necesita algunos controles y necesita legislación.

Ahora, precisamente por el bloqueo que hay a nivel institucional en Estados Unidos, ante la demanda de la ciudadanía de herramientas de protección los estados están comenzando a plantear regulaciones propias, incluso algunas ciudades, por ejemplo en materia de protección de menores. Por culpa de esto se pueden enfrentar, dentro de nada, a un panorama de pesadilla para ellos, con una fragmentación absoluta del mercado interior norteamericano, cosa que, de alguna forma, hemos evitado aquí. Tenemos veintisiete estados miembros con las mismas reglas y con la misma certeza jurídica para cualquier operador. Y detrás de Estados Unidos, irán otros muchos agentes. Digo más, el propio gobierno chino, del que obviamente nos separan muchas cuestiones, y con el que tenemos algunas diferencias radicales en cuanto a cómo vemos la vida, sin embargo, está de acuerdo en un elemento básico, que es que necesitamos algún tipo de regulación internacional en la que nos pongamos de acuerdo. Porque como mínimo los países, independientemente de su sistema político, son conscientes de que aquí hay peligros incluso de soberanía.

Así que creo que sí, creo que incluso algunos países que no estaban tan a gusto, o que no estaban tan excitados con que tuviéramos una regulación en la Unión Europea, ahora ven las ventajas de que exista un cuerpo jurídico que dé certeza y seguridad jurídica para todos.

En ese sentido, ha habido cierta crítica de varios sectores señalando que una normativa como esta puede limitar el desarrollo de las empresas, de la propia inteligencia artificial en territorio europeo y dejarnos en el vagón de cola de estos avances. ¿Crees que eso es así?

Yo creo que es una normativa muy equilibrada, que salvaguarda lo que para nosotros es esencial. Si algo pone en cuestión derechos fundamentales o de alguna manera tenemos la certeza de que va a arrasar con derechos fundamentales, pues es obvio que nuestra opción civilizatoria es que no debe funcionar dentro de la Unión Europea. Esto es una cosa que parece evidente, pero hay que recordárselo a algunos. Y en segundo lugar, creo que la experiencia nos demuestra que la carrera tecnológica no tiene nada que ver con esto. En Europa hemos tenido un espacio, incluso para el resto de la tecnología relacionada con Internet, que ya tiene más de veinte años, sin ningún tipo de regulación o con regulaciones muy débiles y sin embargo nos hemos quedado muy atrás en cuanto a desarrollo, porque no hemos tenido una estrategia colectiva dentro de la Unión Europea, porque no hemos hecho las inversiones necesarias, porque no hemos hecho, como digo, un planteamiento estratégico cooperativo entre todos los socios.

Pienso que la clave va a estar precisamente ahí. Si al final cogemos las cifras, en Estados Unidos anualmente se invierten más de 30 000 millones de dólares, en China están ya en el orden de 15 000 y con el presupuesto sumado de toda la Unión Europea, hasta ahora que empiezan a movilizarse más recursos, tenemos inversiones de 1000 millones de euros, pues, en fin, parece evidente que el problema no va a ser la regulación.

Teniendo en cuenta que los Estados tienen hasta 2026 para implementar esta ley en sus respectivas legislaciones, ¿te preocupa que tratando algo tan líquido, como diría Bauman, como la inteligencia artificial, la ley se pueda quedar obsoleta en este tiempo?

Por hacer alguna salvedad, en primer lugar, el reglamento es de aplicación directa, es decir, no hay que transponerlo a la regulación nacional. Lo que tienen que hacer los Estados es ejecutar. Es verdad que los gobiernos son el órgano competente para la ejecución en la mayoría de los casos, no en todos, pero sí en la mayoría. En segundo lugar, hay algunas previsiones en la ley que se van a implementar antes y que son de obligado cumplimiento. Por ejemplo, un asunto esencial, que tiene que ver con las prohibiciones de uso, cuestiones como los marcadores de puntuación social, como la vigilancia biométrica, la manipulación subliminal, todo eso va a estar prohibido desde la publicación de la ley en seis meses. Lo que tiene que ver con inteligencia artificial generativa, sobre todo lo que tiene que ver con los mandatos especiales de transparencia, tendrá que estar listo en un año. Hay algunas cuestiones que no cumplen con ese marco general, que efectivamente es de dos años. 

Hay algunas provisiones en la ley que son incluso desideratum, que son planteamientos de principios que se van a tener que llevar al terreno, a lo concreto. De hecho, la Comisión Europea en el próximo año, está mandatada para hacer hasta veinte actos de ejecución y veinte actos delegados en desarrollo de la propia normativa. Y ahí vamos a ir a concreciones esenciales, por ejemplo, en materia de derechos de autor van a tener que plantear cuál va a ser el modelo a seguir que haga en la práctica posible, algo que técnicamente sabemos que no es tan fácil, o tan sencillo. Creemos que la técnica legislativa que hemos utilizado, que tiene que ver con el uso y no con fijarnos en una u otra tecnología, con alguna excepción por supuesto, de alguna manera previene contra la obsolescencia. Al final lo que hemos localizado son usos posibles de la tecnología, independientemente de su desarrollo o sus características, que comportan algún riesgo porque están interactuando con derechos esenciales, derechos fundamentales o algunos valores colectivos y que por tanto van a tener un control especial, independientemente de cuál sea la tecnología o el estado de esa tecnología que tengamos dentro de unos años. Pero bueno, todo está sujeto a prueba-error, es decir, que sabemos que estamos trabajando con algo completamente nuevo. Por eso somos los primeros.

Ya has avanzado algo de la siguiente pregunta pero me gustaría profundizar un poco más. Aún siendo una ley de aplicación directa, con lo que el margen de maniobra de los Estados es más limitado, ¿te preocupa que haya Estados que limiten su aplicación o intenten desvirtuar la ley?

No, no deberían. De hecho, la ley nace como un marco superior y un marco inferior. Es decir, que ni probablemente los estados estén habilitados para establecer salvaguardas y protecciones adicionales sobre las materias que recoge la ley, y al contrario, no se puede hacer papel mojado de las provisiones que están en la ley. Va a ser de aplicación obligatoria. Es verdad que hay aspectos que pueden diferir en cuestiones muy concretas de carácter sectorial, porque la ley tampoco pretende ser exhaustiva con todo lo que tiene que ver con inteligencia artificial, entre otras cosas porque es completamente imposible pero, en principio, nace precisamente para que haya una aplicación armónica en toda la Unión. Digo más, se crea una oficina de inteligencia artificial, una oficina europea, que entre otras cosas tiene la competencia de velar por la armonización en la aplicación de la propia ley. Este es un objetivo en sí mismo importantísimo. Adicionalmente, sí que señalaría que hay una única excepción y es una excepción interesante desde la perspectiva de alguien socialdemócrata, que es que conseguimos que el único ámbito en el que se puede mejorar, sobre todo los aspectos de protección, es en el ámbito laboral. La ley prevé que mediante legislación o mediante negociación colectiva las condiciones en las que se implemente la inteligencia artificial en los centros de trabajo podrán ser incluso más protectoras. Junto con otras cuestiones que también están recogidas. Pero es interesante esto porque es el único ámbito en el que hay cierto margen de maniobra para los Estados.

Según tengo entendido el tema de los datos biométricos ha sido uno de los escollos principales en la negociación de la ley. ¿Por qué ha habido ahí tantos problemas con el uso de esos datos?

Ha ocurrido en general con todo lo que tiene que ver con herramientas en cuanto a su hipotética utilización para la seguridad pública. Al final es verdad que hay que entender que, sobre todo desde la posición del Consejo, también había quien en el Parlamento tenía posiciones maximalistas con esto, entendían que se necesitaba más margen de maniobra para salvaguardar otros derechos esenciales. El derecho a la seguridad o a la integridad física es un derecho esencial que a veces colisiona, como en el mundo físico, con otros derechos. Había que establecer dónde estaba el punto de equilibrio también en cuanto a eso. Creo que otra vez hemos llegado a un punto de equilibrio interesante, que se parece mucho más a lo que planteaba el Parlamento que a lo que planteó luego el Consejo. Estamos hablando, por ejemplo, de la posibilidad de que una policía utilice inteligencia artificial para controlar o para identificar remotamente, mediante datos biométricos, a alguien en un espacio público. Se ha entendido que es tremendamente intrusivo, que además estamos ante, y esto es una cuestión de coyuntura pero que no parece que vaya a solucionarse en el corto plazo, herramientas que no funcionan especialmente bien con minorías, que están dando muchos errores. Por lo tanto no nos parecía seguro que se utilizara de forma masiva sin ningún tipo de control. También en esto se han introducido algunas excepciones, con autorización judicial, con análisis previos de impacto en derechos fundamentales y con arreglo a algunos delitos muy concretos, porque creo que todos entenderemos que ante una amenaza inminente y cierta de un atentado terrorista se puedan utilizar estas herramientas en una plaza, por ejemplo.

Estamos hablando de una tecnología que está desarrollada por unos conglomerados empresariales de una potencia enorme, muchos de ellos con beneficios mayores que el presupuesto de algunos estados y por tanto con una capacidad de influencia muy importante. ¿Se ha previsto de alguna manera, no sé si en la ley o a nivel más político en el Parlamento, cómo controlar la influencia de un Google, de un Apple, de un Microsoft, de una empresa china, rusa, saudí…?

La respuesta es la ley, que es la forma que tenemos los europeos y las democracias europeas de contrarrestar de alguna forma el peso específico que tienen estas grandes multinacionales, estas empresas Estado, como ya se las llama, que han sido capaces en el pasado no demasiado remoto de doblar el brazo en muchas ocasiones a los Estados nacionales, a países poderosos europeos con algunas iniciativas en materia de fiscalidad, por ejemplo. Sin embargo, conjuntamente hemos sido capaces de establecer un marco de protección en el que se les establecen muchas obligaciones. Digo más, esta ley hay que entenderla también en un marco más amplio que tiene que ver con la regulación de todo el ámbito digital, de todo el espacio digital, con la ley de servicios digitales, que es una norma esencial, con la ley de mercados digitales, con las leyes sucesivas de datos, el reglamento general de protección de datos, el de gobernanza de datos o la ley de datos… Todas han marcado un ámbito protector y de reequilibrio con el grandísimo poder que tienen este tipo de compañías que han estado desbridadas durante muchísimos años y creo que además las sociedades democráticas estamos viviendo algunos efectos muy perversos en nuestra raíz devenidos de la falta de regulación y control en el pasado.

Eso no quiere decir que no se cuente con estas compañías en el futuro. Yo creo que aquí estamos ante el reto de integrar de alguna forma en las políticas públicas, al menos la opinión o el asesoramiento de este tipo de compañías que al final son los tenedores de esta tecnología. Lo que separa esta tecnología de otra tecnología del pasado como la energía nuclear, que siempre se pone como analogía por la potencia que tenía y que produjo grandes acuerdos internacionales, es que mayoritariamente lo nuclear estaba en manos públicas. Ahora estamos hablando de una tecnología que en su forma mayoritaria está en manos privadas. Luego, parece que tiene lógica que se cuente también con ellos. De hecho la Ley de inteligencia artificial crea un comité asesor, en el que estarán instituciones públicas, asociaciones ciudadanas y van a estar también compañías tecnológicas, entre otras cosas para ver cómo va evolucionando la ley y qué cosas tenemos que arreglar, qué nuevos retos podemos tener por delante. Es importante tener en cuenta que son agentes con los que hay que contar, pero que van a tener que seguir unas reglas.

Hace algo más de un año, en una mesa redonda escuché a José María Lasalle hablar del enorme interés que tenían las empresas chinas y norteamericanas por acceder a los datos de los ciudadanos europeos. Comentaba que les interesaban mucho más nuestros datos que los de sus propios ciudadanos. Todo ello relacionado con la capacidad que tenemos en Europa de libertad real de elección vinculado además con la formación de las personas, con nuestro nivel educativo. De hecho, en Jot Down se publicó un artículo sobre el riesgo de que algunas aplicaciones para pago vendieran esos datos a China. ¿Con esta ley y otras relacionadas, se ayuda desde la Unión Europea a ejercer mayor control sobre esos datos, que al final no deja de ser el oro del futuro sino ya del presente? 

Sí, la ley tiene alguna provisión con respecto a esto. En cuanto que son sistemas de alto riesgo, hay un control preventivo de la bondad de los datos, de cómo se han entrenado los modelos y los algoritmos. Hay que enseñar la ficha técnica, de dónde han salido esos datos. Sabemos que muchos modelos de inteligencia artificial hasta ahora, que además presentan, antes incluso de muchas interacciones, unos sesgos terribles, tiene que ver con que han sido entrenadas en países como la India, con muy pocas garantías y con sesgos evidentemente diferentes a los que tenemos en Europa.

Hay cuestiones que la ley sí tiene en cuenta, por ejemplo, hay un control sobre el entrenamiento en los modelos generativos de inteligencia artificial. Hay una elaboración o una provisión especial de obligación de transparencia para que estén marcados los outputs o los productos de la inteligencia artificial generativa. Pero, fundamentalmente, el marco de protección más esencial está en el Reglamento General de Protección de Datos. Este es el principal, porque además estamos hablando de datos personales y este reglamento invierte el peso específico. Se entiende que el ciudadano no tiene una completa capacidad volitiva a la hora de negociar o de firmar contratos, aunque sólo sean tácitos, con este tipo de conglomerados y por eso establece una serie de salvaguardas. Y en cuanto a los datos que generamos en nuestro día a día, que no son datos personales, que pueden tener que ver, por ejemplo, con las lavadoras inteligentes o con los secadores inteligentes, porque vamos a ese modelo de sociedad y a ese modelo de consumo también, la Ley de Datos no Personales sí que establece salvaguardas para que esos datos estén en propiedad de los ciudadanos y no sean tratados de manera gratuita por parte de esas grandes compañías. Van a estar muy controlados en la forma en que los administran, incluso de los productos que pueden ser de una marca exterior.

Como esta ley ya está en vigor, esto ya tiene obligaciones de tratamiento para este tipo de información. Esa ley, además, es muy interesante porque hace otra cosa muy importante. Hablando del oro, que son los datos en esta economía digital, plantea la creación de grandes bases de datos europeas a disposición, tanto de las administraciones públicas para poder mejorar servicios o de los propios ciudadanos o de la gente que tenga iniciativas, de suerte que información que pueda venir, por ejemplo, de un hospital de Lituania, pueda ser utilizada por un emprendedor de una herramienta digital que trabaja contra una determinada enfermedad en España. Yo creo que, por fin, hemos sido conscientes, y hemos actuado en consecuencia, de que teníamos que proteger nuestro modelo y teníamos que proteger también los derechos fundamentales de nuestros ciudadanos y, por supuesto, dotarnos de herramientas para poder ser competitivos en esta materia, es decir, para desandar algo del camino que ha sido andado hasta este momento. Porque no nos olvidemos de lo que hablábamos al principio, que estamos muy detrás, que ahora somos más consumidores que creadores de servicios. El reto es transformar esta cuestión en el futuro. 

Viendo cómo se ha intervenido a través de la gestión de datos en elecciones democráticas ya no es sólo la parte económica de los mismos o la parte de la privacidad de los ciudadanos, sino también cómo esos datos luego se pueden utilizar para intentar manipular opiniones públicas y suponen un riesgo más que evidente para la calidad democrática de la Unión y de cada uno de sus miembros.

De hecho, todo lo que tiene que ver con inteligencia artificial utilizada o en procesos electorales o en un referéndum, todas las herramientas son consideradas de alto riesgo y por lo tanto van a tener ese control preventivo sobre cómo se utilizan los datos, cómo han sido entrenados los modelos. Van a tener que tener un control durante toda la vida útil del procedimiento porque sabemos además que estamos ante una tecnología que es capaz de evolucionar por sí misma y a veces no sabemos en qué sentido puede evolucionar. Habrá obligaciones también en materia de explicabilidad. Se va a obligar a todas las aplicaciones de alto riesgo, a inscribirse en un registro europeo, que va a estar controlado en este caso a través de la oficina de inteligencia artificial.

Si hablamos de las herramientas de inteligencia artificial generativa con los deepfakes, que generan para empezar un gran desasosiego y para continuar desinformación real en muchas ocasiones, va a haber una obligación específica de marcar esos contenidos como creados por inteligencia artificial y contenidos deepfake. Ultrafalsificaciones que decimos ahora en español después de la última traducción de los juristas lingüistas en el Parlamento. Además hay alguna norma más que funciona aquí. Por ejemplo, la ley de servicios digitales a la que me refería anteriormente establece una obligación de salvaguarda de contenido a lo que llama la ley gatekeepers, que son las grandes plataformas agregadoras de contenidos, en cuanto a controlar los datos falsos, los datos ilegales. No se trata de controlar la opinión, por supuesto, pero sí que lo que es evidente y factualmente falso no pueda estar. Sobre todo que lo que afecta en este caso a procesos electorales o a opiniones públicas, no puede estar al albur de la voluntad del que quiere desinformar.

Como decía antes, hay algunas prohibiciones que entran en vigor antes que otras partes del reglamento. Las que tienen que ver con manipulación subliminal están absolutamente prohibidas, sobre todo en lo que se refiere a menores o a personas en situaciones de discapacidad o de especial vulnerabilidad. Desde el punto de vista legal hay alguna ley u otra norma más. Está la ley de libertad de prensa, la ley de publicidad política. La de libertad de prensa todavía no ha entrado en vigor. En fin, nos estamos dotando de herramientas sabiendo que este es un material especialmente sensible, porque claro, estamos hablando de la libertad de prensa, de la libertad de expresión.

Hay entidades que saben aprovecharse de la segmentación como la que, por ejemplo, tenía Facebook para dar determinadas noticias que no tenían por qué ser mentira o que podrían simplemente tener cierta tendencia, para hacer que el voto fuera a un lado u otro. ¿En el campo de la segmentación se va a hacer algo? ¿Va a haber supervisión?

Hablando de lo último que has comentado, hay que definir si es político o no es político. La directiva sobre publicidad política ya establece qué se considera anuncio político y qué no, porque como sabemos, hay cosas que no son tan evidentes y son las más peligrosas. Quiero decir que porque yo no ponga «vota al PSOE» no quiere decir que no esté haciendo publicidad política. Pues se marcan una serie de ejemplos, incluso en aquellas noticias o aquellos contenidos que directamente llaman a la desmovilización del electorado. Se señalan determinados contenidos que se van a considerar siempre publicidad política y por lo tanto van a tener ese tratamiento. Después, como decía, las cuestiones de manipulación subliminal van a estar prohibidas y está prohibida también la utilización de inteligencia artificial para devenir circunstancias que se entiende que son esenciales del individuo y que tienen que estar especialmente protegidas. Por ejemplo, cuando hablamos de segmentación, pues para averiguar de alguna forma tu vinculación sindical, para averiguar tu religión, tu corpus ideológico, tu opción sexual. La utilización de la inteligencia artificial para esto va a estar prohibida. Eso no quiere decir que no se pueda averiguar de otras formas. Pero bueno, estamos hablando de por lo menos evitar lo que es más gordo.

Tenéis en el punto de vista a estas grandes corporaciones, en OpenAI, en FDAT, pero hay muchos otros modelos que se pueden entrenar al margen de las grandes empresas, por pequeños medios o incluso título individual. ¿Ahí puede existir algún tipo de control?

La seguridad completa es imposible, por eso hay un código penal en las sociedades, porque como última opción se llega a castigar comportamientos que son indeseables. Aquí va a ocurrir lo mismo, es decir, la obligación va a ser la misma para un pequeño suministrador o usuario que para uno grande. Es verdad que la ley habla de proporcionalidad en el cumplimiento del uso, pero en cualquier caso, sobre todo lo que tiene que ver con los temas más sensibles, las obligaciones van a ser las mismas. Otro aspecto es que la propia ley también prevé que por parte de las administraciones haya una cierta facilidad para estos pequeños operarios, estas pequeñas compañías o desarrolladores, de cara a poder cumplir con la ley. Pero van a tener que cumplir con todo porque estamos hablando de derechos fundamentales. 

Hay muchos gurús tecnológicos en Estados Unidos que han participado en el origen de la IA pero que ahora mismo la ven casi como un anuncio del fin del mundo. ¿Cómo lo ves tú? 

Bueno, a mí me da más miedo el ser humano que la inteligencia artificial. Sobre todo porque al final la inteligencia artificial sigue siendo, por muy maravillosa que nos parezca y a veces mágica, una herramienta. Va a haber un ser humano detrás que va a codificar la inteligencia artificial en un sentido u otro. Y yo no veo, sinceramente, un problema en ese tipo de cosas. Hay quizá algunos peligros más sutiles de la inteligencia artificial, de forma no tan directa que sí pueden crear riesgos, yo creo que civilizatorios. Creo que a veces cuando nos fijamos en que Skynet no llegue y tire los misiles, nos olvidamos de esas cuestiones. Creo que hay un debate por hacer gigantesco, no un debate, sino un estudio serio, y una planificación a medio plazo con la sustitución en el ámbito laboral. Esto puede ser algo también perfectamente maravilloso, en el sentido de que nos libere de muchas cargas de trabajos que no son especialmente realizadoras y que son penosas. Que tengamos las herramientas para poder adaptar progresivamente a capas de la población a ese cambio y no lo hagamos nos puede llevar a un malestar generalizado, a una especie de desafección con el sistema democrático muy importante. Y yo creo que no le estamos prestando la suficiente atención a esta cuestión, aunque al menos se cita. Pienso que no nos estamos poniendo en serio a analizarlo. Probablemente porque la tarea es gigantesca. Pero es que tenemos que hacerlo, no hay otra alternativa.

Esto al final está conectado con asuntos como el salario mínimo vital.

Por ejemplo, o con la jornada laboral, o, muy importante también, con el sistema de sostenibilidad de nuestro esquema fiscal o del sistema de protección social. Vamos a ir a modelos completamente diferentes, creo que afortunadamente. El otro día estaba en una charla y alguien pidió la palabra y dijo algo así como que no creía eso de que el trabajo dignifica, decía que lo que quería es no trabajar, quería dedicarse a cosas mucho más interesantes y que esperaba que en el futuro un robot hiciera el trabajo por él y él poder dedicarse a hacer esas otras cosas. Pero claro, lo que nos tenemos que asegurar es que este salto de productividad que se va a producir con la inteligencia artificial no quede en manos de unos pocos, sino que nos beneficiemos colectivamente. Ese es otro de los asuntos que tenemos que afrontar. Y yo, volviendo a la primera pregunta y a mi primera reflexión, echo de menos a veces que hablemos más de esto y menos de lo otro. Por más que sea estimulante. Yo además, que soy un lector de ciencia ficción y me gusta mucho pensar en ese tipo de escenarios, pero más como un divertimento, que como una realidad. 

Como conclusión de lo que estás diciendo, hace falta más reflexión de carácter filosófico sobre inteligencia artificial.

Absolutamente. Primero, la premisa es que estamos en un cambio de era, estamos en un cambio de civilización del orden y de la magnitud que supuso la primera revolución industrial, y yo creo que no hay otro parangón, no hay ninguno otro. Para mi supera el impacto del smartphone con años luz. Estamos ante algo que va a cambiar nuestro modo de vivir, de interactuar, de relacionarnos, desde luego el sistema económico. Lo va a cambiar prácticamente todo. Incluso ya se está produciendo ese efecto y se producirá más en el futuro. Va a cambiar nuestro cerebro, de hecho ya está cambiando nuestro cerebro a nivel fisiológico. Hay estudios que hablan de que incluso las personas más jóvenes, los nativos digitales, tienen menos aptitudes, por ejemplo, para el cálculo matemático o algunas otras cuestiones. Eso no tiene por qué ser necesariamente malo, puede ser una adaptación al medio. Lo que tenemos es que garantizar que sean superiores en otras cosas, que puedan ser útiles para el futuro.

Y hay análisis de cómo ha variado el IQ durante los últimos cien años y cómo ahora está decayendo. 

Yo por eso parto de esa premisa, vamos a un cambio brutal, un cambio de era. Y en un marco de incertidumbre, que se suma a todas las incertidumbres que la sociedad ya ha estado viviendo en este momento, pues parece que ha llegado el momento otra vez de la edad de oro de la filosofía y de la ética. Y yo creo que van a ser profesiones muy importantes en estos próximos años. Digo más, creo que las compañías, las grandes compañías, se van a dotar con muchas personas en estos terrenos, porque hay muchas variables que liberar en esta ecuación que tenemos por delante. 

La filosofía va a ser la nueva matemática…

Yo lo que sí veo es que el propio concepto de inteligencia artificial ya nos interpela, nos pone delante de un espejo, nos plantea qué consideramos inteligencia.

¿Y qué sensación hay ahora mismo en el Parlamento Europeo, en los diferentes grupos, sobre estos temas? ¿Hay coincidencia o también hay disensión?

Este es un proceso que ha sido muy largo. Técnicamente, el periplo de la ley ha durado dos años y algo, pero en realidad hemos empezado desde el mismo principio de la legislatura. Yo mismo fui ponente de la propuesta legislativa sobre ética aplicada a inteligencia artificial en 2020. Llevamos mucho tiempo trabajando con esto. Había posiciones muy divergentes y creo que hemos llegado a una suerte de consenso alrededor de cuestiones básicas que es muy interesante también pensando en el futuro. Pero, no obstante, sigue habiendo formas muy diferentes de ver la cuestión. Hay quienes defienden mucho más lo público y la acción pública y hay quienes creen que, teniendo estas reglas básicas, ya el mercado se autorregulará y ya dispondrá de las herramientas necesarias para suavizar los desequilibrios. Yo creo, sinceramente, que ahora es el tiempo de la acción cooperativa, de la acción pública. Es que no vamos a poder afrontar un reto de estas características de otra manera.

Volviendo a la IA generativa, en España, los ilustradores, los dibujantes están plantando batalla contra el uso de ilustraciones realizadas por IA. ¿La ley les protege de alguna manera? Sobre todo en los casos más sangrantes que han sido cuando se ha utilizado la inteligencia artificial para hacer carteles por parte de administraciones públicas. ¿Se va a limitar a las administraciones públicas en esto?

No lo creo, la ley no limita esto tan específicamente y no creo que se limite en el futuro. Tampoco creo que sea especialmente deseable. Quiero decir que aquí estamos también otra vez ante opciones. Opciones también civilizatorias y opciones políticas. Yo, por ejemplo, defendí y defiendo que las administraciones públicas de ninguna manera trabajen o publiciten ningún tipo de texto, audio, vídeo, que no haya tenido una participación esencial por parte de un ser humano o de una compañía humana, independientemente de que la inteligencia artificial se pueda utilizar como herramienta. A mí me parece un poco de la edad de piedra algunas cosas que estoy viendo últimamente de «no se puede utilizar la inteligencia artificial». Y claro, vamos con cincel y con mazo, ¿no?

En Jot Down hemos publicado una guía ética de la utilización de la inteligencia artificial.

De hecho, el Ministerio de Cultura hace muy poco sacó también una guía voluntaria, una guía de recomendaciones sobre el uso de inteligencia artificial. Que me parece que es muy razonable. La ley lo que sí protege a los creadores es en cuanto a lo primero, que va a haber una identificación obligatoria, como decía, de los productos de inteligencia artificial como tales. Es decir, no se va a poder suplantar a un ser humano de ninguna forma. En segundo lugar, y tan importante o más, da las herramientas necesarias para que las protecciones que ya existen en materia de derechos de autor se puedan hacer efectivas. Y esta obligación especial sobre transparencia en el uso de datos protegidos por propiedad intelectual, además lo sabemos porque lo han dicho las propias compañías, esto no es ningún secreto, van a tener que ser identificados, los del pasado y los del futuro. Y, por lo tanto, esto facilitará la acción por parte de los tenedores de derechos para, como mínimo, conseguir una compensación. Como mínimo.

Es verdad que con lo que ya está hecho, es difícil pensar en retrotraernos al pasado. Es como la tortilla que ya se ha hecho de la que ya no se pueden conseguir los huevos otra vez, pero por lo menos vamos a obligarles a pagar por la tortilla. Y después, como decía, hay una opción, hay una decisión social con respecto a qué tratamiento van a tener los artistas. Voy a tener un debate muy interesante con respecto a esto en el Magistral de Ajedrez de León la semana que viene, va a estar moderado por Leontxo García. Voy a poner el ejemplo del ajedrez, porque el ajedrez, como deporte o como competición, fue superado por las máquinas hace muchísimo tiempo pero no sólo no ha perdido valor sino que está más de moda incluso.

En este mismo sentido, ¿se va a cambiar el concepto de obra derivada? ¿Va a haber una especie de canon digital, un canon a la IA?

No sé qué va a pasar. Lo que sí sé o empiezo a saber es lo que me parece a mí que debería pasar. Creo que tenemos que decidir si vamos a darle algún tipo de protección o tratamiento jurídico a los productos de IA, a los productos que son esencialmente creados con IA. 

O sea, copyright, ¿no? Porque ahora mismo no hay copyright en IA.

No sé si exactamente copyright o un derecho de propiedad intelectual sui generis, o… no lo sé. Yo defiendo que tienen que tenerlo, entre otras cosas, para que no compitan deslealmente con las obras humanas. Quiero decir, para que cueste también poner en circulación ese tipo de producciones. Y para que de alguna manera también despejemos algunas incógnitas con respecto a quién puede usar ese tipo de productos, en qué sentido, qué tipo de protección pueden tener porque hoy en día se puede decir que no es de nadie.

Y sobre la segunda parte de lo que planteabas hay un debate muy interesante con respecto a esto. Yo no acabo de tener posición. Tiendo a pensar que la mejor solución sería tratar colectivamente esta cuestión e ir a una especie de canon. Pero hay tenedores de derechos que no están por la labor. De hecho, la última vez que tuve la ocasión de estar en un panel en el que estaba la Comisión Europea, estoy hablando de hace un mes o menos, dedicado a propiedad intelectual y digitalización, algunos defendían el sistema de microlicenciamiento. El otro día estuve con una compañía que ya va a habilitar herramientas técnicas para poder ejercerlo. Primero para proteger o hacer el out-out de una manera fácil. Y en segundo lugar, para establecer herramientas automáticas de contratación con quien quiera utilizar los contenidos. En cualquier caso es algo que tenemos que discutir y que lo tenemos que hacer rápido, porque esto va muy deprisa.

Hemos hablado bastante sobre los problemas de la IA, las limitaciones, los riesgos, los peligros pero cambiando de tercio. ¿Qué crees tú que va a aportar en positivo en los próximos años la IA?

Como decía, yo creo que estamos ante una tecnología que los cálculos más humildes dicen que puede multiplicar la productividad por siete. Eso se puede interpretar desde el punto de vista de la creación de productos o se puede interpretar desde la perspectiva de la resolución de problemas. Y creo que en este sentido la IA tiene aplicaciones muy interesantes desde el punto de vista social y colectivo. De hecho, hoy vengo de hablar precisamente de esto en Cádiz. Creo que las administraciones públicas tienen que tener una posición muy proactiva con respecto a la implementación de herramientas de inteligencia artificial que busquen beneficios desde el punto de vista social. No solo económicamente evaluables, pero sí desde el punto de vista social. Hablemos por ejemplo de cuestiones como sostenibilidad medioambiental o en cuestiones relacionadas con enfermedades raras.

En fin, yo creo que estamos ante una tecnología que de alguna manera promete la resolución de muchos de los dilemas que incluso como especie hemos tenido a lo largo de muchísimos años. Luego veremos si se acaba por cumplir esa expectativa, pero yo puedo asegurar en primera persona que las cosas que he visto por ejemplo en el ámbito de la sanidad, en el ámbito de la investigación sanitaria, me han dejado sin palabras. Es realmente ilusionante. Y paradójicamente creo que si hacemos las cosas bien, la inteligencia artificial nos puede ayudar incluso a tener una perspectiva más humana en nuestra vida social y en nuestro comportamiento. Desde la perspectiva de que nos va a permitir, para empezar, controlar sesgos que hoy en día están en la sociedad y que son muy difíciles de controlar en la toma de decisiones. Y en segundo lugar porque si conseguimos que realmente funcione como una herramienta de ayuda y de mejoramiento incluso de nuestra capacidad, podemos alcanzar cuotas de satisfacción personal y colectiva muy importantes. Así que yo estoy muy ilusionado con la inteligencia artificial.

Y antes de pasar ya a otros temas como última pregunta. Entonces, ¿con esta ley la Unión Europea se asegura que no va a venir un Terminator del futuro?

Yo diría que en Europa seguro que no. Bueno, lo cierto es que la Unión Europea, creo que muchas veces no lo valoramos, ayuda a que el mundo sea un poquito mejor con estas normas. Y esta ley de la IA tiene una característica que es la extraterritorialidad en algunos de sus efectos. Si un tercero, operando desde un país tercero, con datos que han entrenado desde un país tercero pero que sin embargo llega a una serie de conclusiones que van a ser utilizadas en el mercado europeo, todo ese proceso, completamente todo el proceso estaría sujeto a las consideraciones de la ley de inteligencia artificial. Yo creo que vamos también desde ese punto de vista a mejorar un poco las cosas y creo que además la capacidad que antes comentábamos de inspirar también regulaciones parecidas a las nuestras, va a mejorar mucho las cosas. Yo creo que nuestra ley va a impedir que por lo menos en Europa no tengamos nada de eso.

Cambiando de tema, no me gustaría dejar pasar la oportunidad de preguntarte por todo el proceso que en los últimos años ha llevada a un avance importante en la normalización institucional y política del cómic en nuestro país, con una proposición no de ley de apoyo al sector aprobada por unanimidad en el Congreso, la inclusión de la palabra cómic, con todo lo que conlleva, en el nombre oficial de la Dirección General del Libro y ahora también del Cómic, del Ministerio de Cultura o con la publicación del Libro Blanco del medio, en el que incluso colaboras. Tú, desde la Secretaría de Cultura del PSOE, fuiste uno de los primeros sino el primero de los impulsores desde el sector político de estos avances. ¿Cómo surgió? ¿Cómo ha sido todo ese proceso?

Pues sinceramente, aparte de que soy un lector de cómic por lo que tenía una predisposición muy positiva, hablando con gente del sector y fundamentalmente con quien es hoy el coordinador de la sectorial del cómic, me plantearon muchísimos problemas, muy esenciales, muy básicos. Yo trataba y sigo haciéndolo aunque ya no sea secretario de Cultura, de tener mucha interlocución con los sectores culturales. Estamos hablando de algo que también es inmenso. A mí me hacían muchas bromas cuando iba a reuniones después de muchísimos años y siempre me decía alguien «tú no sabes lo que es el sector cultural, no lo conoces» y mi intención era decirle tú tampoco, no tienes ni idea porque para empezar un sector cultural es en sí mismo es mucho más amplio, diverso y complejo de lo que se piensa. Pero en este caso localicé algunas cuestiones muy esenciales, muy básicas en un sector que sin embargo tenía profesionales muy potentes y con gran éxito internacional.

Además me plantearon que habían existido intentos en el pasado de formar asociaciones, academias, colectivos y que todo había fallado. Les animé a intentarlo otra vez y me mostré participativo, me puse a su disposición para poder echar una mano y di la idea de poder, eventualmente, impulsar una declaración en las instituciones públicas, fundamentalmente en el Congreso, de apoyo al sector del cómic en los elementos más esenciales. Yo creo que ha sido una historia de mucho éxito, sinceramente creo que se ha dignificado mucho la posición del cómic que como bien sabéis en España estaba considerado y todavía hay quién lo sigue viendo, como un un arte menor, casi un arte dirigido a los niños. Estamos avanzando mucho en la consideración social del medio. Lo abordamos entonces desde un terreno también muy positivo en cuanto a animar a la propia sectorial recién formada a que hablara con todos los grupos políticos.

En ese sentido yo creo que el portavoz de aquel momento del PSOE y que sigue siéndolo en Cultura, Marc Lamua, hizo las cosas muy bien, fue muy generoso y al final conseguimos efectivamente que dentro de este marasmo de polarización en el que vivimos permanentemente, hubiera una burbuja de consenso alrededor de una cosa tan preciosa como la defensa de un ámbito artístico. Yo ahora en la medida que puedo participo, de hecho participé hablando precisamente de inteligencia artificial en el libro blanco del cómic recién publicado.

El cambio del nombre de la subdirección general del libro incluyendo específicamente al cómic como señalaba antes, es una declaración de intenciones claras en este sentido.

Estaba en la proposición no de ley igual que en la celebración del día del cómic u otras cuestiones que se han ido implementando durante este tiempo y creo que es, como decía antes, una historia de éxito y que debería ser muy inspiradora para otros sectores de la cultura que puedan estar en situaciones también precarias. Al final sumando voluntades se pueden conseguir avances, es un pequeño milagro de las democracias.

¿Tú crees que estos logros para el cómic llegan para quedarse o tienen algún riesgo? 

Son frutos del consenso, luego espero que tengan continuidad. También es cierto que la organización del Congreso es especialmente compleja y que a veces hay que darle su mérito a los grupos de la oposición que se suman a grandes consensos.

¿Ves viable que se pueda crear en España, desde tu experiencia en todo este proceso, un centro de puesta en valor del medio y de cuidado de su patrimonio en España, como el que existe en Angoulême, en Francia?

Espero que sí, en esto no puedo ser pitoniso, no lo sé pero espero que sí. Es que además creo que es la gran tarea pendiente. Yo recuerdo una de las cosas más bonitas y más frustrantes al final que me han pasado estos años que fue la iniciativa de impulsar el Princesa de Asturias para Ibáñez. Digo frustrante porque al final no salió, lamentablemente, pero comprobé cómo concitaba adhesión total, transversal, completamente intergeneracional, interideológica, hasta en países del exterior. Fue una cosa preciosa y tenía que ver con que Ibáñez era algo que nosotros considerábamos una parte esencial de nosotros mismos, que ha influido hasta en nuestra forma de humor. Yo todavía me sorprendo repitiendo frases hechas de los mortadelos. Por eso un centro de este tipo, un gran centro de interpretación, de historia del cómic, tendría que ser el siguiente paso o un paso definitivo para acabar de consolidar la significación social del cómic. Además el cómic español es de los más potentes de Europa, obviamente no somos Francia y Bélgica pero teniendo en cuenta el mercado que tenemos, el sector industrial que tenemos, a nivel creativo somos una potencia y de hecho somos tan potencia que hasta le cambian la pronunciación a algunos de nuestros artistas para que parezcan de fuera como a Guarnido.

Pasemos al ajedrez. Como ajedrecista, ¿qué te pareció la serie de Gambito de dama?

Me gustó mucho. Es curioso además porque me produce mucha vergüenza ajena hablar de cosas que tienen que ver mucho conmigo. El otro día, por ejemplo, mi hermana presentó un libro, muy íntimo, de reflexiones muy íntimas y yo no he conseguido todavía separarme de un cierto sonrojo, me da un poco de vergüenza. Pues con el ajedrez o con cosas que son muy personales también me pasa un poco lo mismo. Me pasa que además enseguida me fijo más en lo que va mal, en lo que funciona mal, en las cosas que son absolutamente ridículas. Y tengo que decir que esta serie está muy bien conseguida. Tiene exageraciones pero bueno, es una serie, es una ficción pero creo que está muy bien conseguido el espíritu del juego. Creo que además la interpretación de ella es fabulosa, es fantástica. El final es maravilloso. Ojalá hagan algo similar, no digo la segunda parte pero sí en este sentido.

Ya que estamos con series no quiero dejar de preguntarte por Parliament. ¿Representa bien esta serie lo que es el Parlamento Europeo, la comisión, las negociaciones…

Tiene cosas. Uno de los guionistas ha trabajado en el Parlamento y otro sigue trabajando, además le conozco, es un chico muy majo. La serie está bien cogida. A ver, es una absoluta exageración. Tengo algunos compañeros que están muy indignados con la serie por como nos pintan a los diputados pero a mi me hace mucha gracia y hay que tomarse todas esas cosas con sentido del humor. Pero fijaos hasta donde llega la realidad que se confunde con la ficción, algo tan absurdo como esta campaña de la primera temporada para acabar con el finning, sobre cortarle las aletas a los tiburones, bueno pues hace como un año o año y medio he visto carteles similares, muy ridículo, una exageración. Cuando estaba viendo estos carteles en el Parlamento no daba crédito. Pensaba que sería una broma. La serie tiene muy bien pillado el tema de cómo funcionan las diferentes naciones dentro y los contrapesos que hay, incluso son muy específicos con la propia estructura administrativa del Parlamento. El personaje del secretario existe, ya no es el secretario pero lo fue. A mí la serie me gusta mucho.

Volviendo al ajedrez, ¿sigues jugando torneos? 

Sí, muy de vez en cuando, menos de lo que me gustaría. Sobre todo juego online. Estoy en mi equipo de toda la vida, en León, aunque cada vez juego menos también porque al final dedicas la vida a esto. Pero bueno, me gustaría jugar más, es una de las cosas que tengo pendientes para el futuro

¿Qué te pareció el abandono de Carlsen? ¿Lo seguiste? 

Lo entiendo. El ajedrez tiene un elemento esencialmente competitivo, es tremendamente retador en cuanto a tus propias capacidades y la superioridad de él era tan grande, llegó a ser tan grande en un determinado momento que entiendo que acabará frustrado, pero, parece que está volviendo por sus fueros y está volviendo a jugar muy bien. Sigue siendo el mejor con distancia. Vamos a ver la nueva ola India, este chico que pesa veinte kilos pero que juega mejor que Kasparov. Por cierto, el ajedrez tiene otra vertiente que a mí me parece muy interesante que tiene que ver con los cambios geopolíticos. A lo largo de la historia se comprueba muy bien, desde el primer campeón oficioso de ajedrez que era el español Ruy López, cómo ha ido pivotando la hegemonía mundial y cómo el ajedrez se ha convertido también en una herramienta de hegemonía.

¿Y en España se potencia suficientemente el ajedrez?

España es un gran país, es uno de los países con más torneos del mundo. Llegó a ser el país con más torneos. En España se están haciendo cosas muy bien, tenemos integrado en algunas comunidades autónomas, por ejemplo en Extremadura se está utilizando para tratamiento de enfermedades mentales. Hay algunos programas pilotos aunque a mí me gustaría que se hiciera algo más. Estuve hablando hace un tiempo con Interior sobre esto para su utilización en cárceles porque hay también muy buenas experiencias a nivel mundial. Y tenemos muy buenos jugadores, ahora el campeón de Europa de rápidas es de León. España a nivel europeo es una gran potencia del ajedrez, no es India, no es China, no es Estados Unidos pero es un país muy bueno para el ajedrez.

Y para acabar te iba a preguntar por la superioridad de la inteligencia artificial en el ajedrez pero ya has dicho que has asumido que con la inteligencia artificial el ser humano ya no tiene nada que hacer.

Sí, pero amplio la reflexión. Hoy en día en tu teléfono móvil te descargas un programa y le ganas a Carlsen. Carlsen no tiene ninguna posibilidad de ganar a la inteligencia artificial y esto ocurrió hace ya mucho tiempo, desde que Deep Blue derrotó a Kasparov, que por cierto el hombre tuvo hasta que publicar un libro varios años después para asumir definitivamente que había perdido. Ni siquiera la inteligencia artificial estaba desarrollada hasta este punto, pero creo que muestra muy bien, hablando del arte, como hay un espacio para lo humano y un espacio para lo mecánico, porque hay quien habló de la muerte del ajedrez en aquel momento y sin embargo nunca ha sido más popular, nunca ha tenido más participantes, nunca ha tenido más atención mediática que en este momento y no compiten las máquinas de ninguna forma. Ahora además casi se está produciendo el fenómeno fan que no había ocurrido nunca en el ajedrez, surgen masas alrededor de los jugadores cuando hay mundiales y cosas por el estilo. Yo creo que hay espacio para todos, y sigo pensando que la originalidad y el valor adicional que le da la personalidad del artista a la obra cultural o artística no va a poder ser sustituida al menos durante muchísimo tiempo por una máquina.