Uno de los memes más populares de internet es la foto de una cámara de vigilancia (CCTV) frente a la casa en que vivió George Orwell, creador de la distopía por vigilancia masiva en su novela 1984. Este año se cumplen diez años de la aparición de esa foto falsa, pero también de un elemento muy presente en nuestras vidas que ya no nos llama la atención: las cámaras de vigilancia. Hoy, prácticamente invisibles entre las instalaciones urbanas o de interior, siguen grabándonos a diario. En aeropuertos y estaciones de tren, sin ir más lejos. Ahora la inteligencia artificial puede cotejar nuestro rostro con el de varios millones de sospechosos, identificar nuestras emociones, o seguirnos en nuestro recorrido. El reconocimiento facial ha añadido una capa de vigilancia extra que en breve tanto la policía como la guardia civil española tendrán a su disposición. Pero antes de hablar de nuestro país, hagamos un repaso al alcance de esta tecnología, y a cómo se están implantando a nivel mundial.
Una herramienta versátil pero imprecisa
Lo más simple es imaginar que una cara puede ser identificado comparándolo con una foto, mediante la tecnología de reconocimiento facial (que citaré como RF a partir de aquí para abreviar). Pero tiene otras utilidades posibles: seguir a una persona que camina entre una multitud sin perderla; identificar qué emociones siente según su expresión facial; leer los labios para transcribir su conversación; y manipular la imagen para que ciertos individuos como espías, testigos protegidos, etc., no sean localizados en los sistemas de videovigilancia. En todos los casos la fiabilidad del resultado nunca es del cien por cien. Para lo más básico, identificar a un sospechoso, un buen dato supondría que la cara coincide en un ochenta por ciento. Pero si buscaras a alguien concreto en los vídeos grabados en un aeropuerto durante una semana, la máquina daría varios cientos de posibilidades, que un equipo humano tendría que revisar. Y ese trabajo humano y lento invalida, en parte, la eficacia del RF. Pensemos lo parecidos que nos resultan, cuando nos cruzamos con ellos por la calle, esos hombres calvos y con barba. La máquina interpreta la geometría de las formas de la cara, y para ella también se parecen muchísimo.
La aplicación distópica
Orwell, que criticaba al régimen comunista soviético mediante un artilugio de ciencia ficción parecido a una tele, se asombraría al ver cumplida su predicción hoy en dos países tan diferentes como China e Israel. Coinciden con su novela en aplicarlo de forma indiscriminada a las multitudes, en lugar de vigilar solo circunstancias, lugares o personas que pueden ser sospechosas y están bajo investigación policial. Los israelíes han aplicado la herramienta Blue Wolf para trazar los movimientos de los palestinos que viven en los territorios ocupados de Cisjordania. Sus militares lo llaman, en broma, un «Facebook para palestinos». Es la aplicación más extrema del RF, porque vigila la actividad diaria de cualquier persona registrada —que no sea judía—, y sus movimientos por el territorio. China no anda lejos, lo que han hecho es usar el RF para localizar a ciudadanos que han perdido su crédito social —no tienen puntos para viajar en tren, avión o autobús—, e intentan saltarse los controles de estaciones de tren o aeropuertos. Ahora también se han instalado cámaras CCV sobre el acceso a tiendas en zonas de covid 0 para identificar ciudadanos que deberían estar confinados pero que acuden a comprar. Es, por tanto, un chequeo masivo e indiscriminado, muy orwelliano.
Pero en las democracias también puede ocurrir distopías de RF. Varias ciudades estadounidenses han prohibido a la policía local que emplee esta tecnología, después de comprobar que en las protestas del Black Lives Matter el sistema era bastante incapaz de distinguir a las personas negras. El problema no era la máquina en sí, que también, porque entrenada con un mayor porcentaje de personas blancas, falla al reconocer a las negras. El problema es que los policías admiten el resultado, detienen al primer negro remotamente parecido al sospechoso y lo llevaban ante el juez como culpable. Cuando entras en el sistema judicial americano prepárate a pagar y a demostrar tu inocencia, más si eres negro. No puedes apelar a que la máquina se ha equivocado, porque la prueba es la palabra o investigación del agente policial, y EE. UU. carece de una ley que regule la validez del resultado del RF. Así que se ha suspendido, sobre todo, porque carece de garantías jurídicas.
Eso no impide que en las fronteras estadounidenses la empresa Clearview AI trabaje como subcontrata de la policía aplicando el RF de forma masiva a quienes las traspasan. A todos. Antes de usar la IA, se dedicaron a recoger mil millones de fotos (cifra literal) de Facebook, Instagram y Twitter para crear su base de datos. Ahora solo tienen que cotejar al que pasa con sus registros.
Otro conflicto con la RF en EE. UU. ha sido la conexión de Google con el Pentágono, cosa que la compañía ha negado, por la mala imagen que le reporta. Pero Jack Poulson, de Tech Inquiry, desveló que la startup Proyecto Maven es una fachada empresarial de subcontratas gracias a la cual Google AI pone a disposición de la inteligencia militar estadounidense servicios en la nube de Google Cloud, centrados en el reconocimiento facial y de emociones. Lo que quiere decir que los agentes militares pueden usar cualquier cara que aparezca en las búsquedas de Google. Prueba a introducir tu nombre y primer apellido y elegir la opción fotos.
En la Unión Europea
La UE lleva décadas diseñando directivas que permitan compartir los datos a las policías de los diferentes países que la componen, como parte de su proceso de unificación. La posibilidad de compartir ADN, huellas dactilares y registro de vehículos comenzó con la Convención de Prüm en 2005, en la que ya estaba España, y que ahora integra catorce países. Ahora se va a añadir el reconocimiento facial a estos datos, unificando las bases de datos con imágenes de sospechosos que tiene la policía de cada país. Mediante RF va a cotejarse a las personas que crucen nuestras fronteras y no tengan pasaporte comunitario con esa base de datos, partiendo de las imágenes tomadas por las cámaras CCTV en aeropuertos, estaciones de tren, puertos y carreteras.
Y así es como llegamos hasta España
En los próximos meses las ramas científicas de la policía y guardia civil comenzarán a usar el sistema de RF mediante una herramienta, ABIS, que se aplica a una base de datos de más de cinco millones de detenidos y sospechosos fichados. Está compuesta por las fotografías tomadas en comisaría, y en principio se ha prohibido el acceso a la foto del DNI que todos tenemos registrada en la Policía Nacional. Se nos da, por tanto, garantías jurídicas, y se añade la necesaria confirmación humana. El agente tiene que decidir si el resultado de la máquina es fiable o no, y luego encontrar también evidencias para emprender acciones contra la persona identificada. La tecnología RF está contratada con la empresa francesa Thales, y en este vídeo explican bastante bien cómo funciona.
Métodos para evitar que nos apliquen reconocimiento facial
Toda promesa tecnológica tiene el potencial de defraudarnos cuando no funciona. Lo padecemos en nuestra vida diaria con ordenadores, conexiones y teléfonos. Por el mismo motivo no es difícil engañar a los sistemas de RF. Ni explotar esta debilidad para ganar dinero vendiendo unas gafas especiales, con joyería singular, vistiendo ropa diseñada para evitar el RF, con un proyector en la frente que proyecta otra cara sobre la tuya, poniéndose una mascarilla para el covid que tenga algún tipo de dibujo, mejor pixelado, o uno de esos pañuelos para activistas con que cubrir la cara en las manifestaciones son otra opción. Ninguno es cien por cien efectivo, y posiblemente te señale como sospechoso a ojos de un policía humano.
Pero la identificación biométrica es imparable
Si ya tienes un teléfono que reconoce tu huella dactilar o tu cara, es porque la identificación biométrica se ha popularizado, abaratado, y sigue implantándose. Es menos probable que hayas tenido que dejar que escaneen tu iris para acceder a un recinto de alta seguridad, pero eso también se emplea ya. La huella dactilar ha evolucionado, en alta seguridad, al escaneo mediante tomografía del árbol vascular, la ramificación de las venas de tu dedo. Incluso se está probando un sistema que graba la métrica de tu pulso, partiendo de la base de que cada frecuencia cardiaca, medida durante un segundo, es única. La tasa de error aún es alta, entre el diez y el veinte por ciento, pero cuando se perfeccione será relativamente sencillo conectar con tu smartwatch, si lo llevas, y saber si tú eres tú.
Así que si eres de los que aún tenía dudas sobre la licitud moral de que un Estado guarde en tu DNI foto, huellas digitales y resto de datos que suponen un control social, olvídate. La tecnología ha hecho que esa reclamación de la libertad individual, sobre la que los intelectuales se preguntaron en su momento, hace unos cien años, esté obsoleta. Ya estamos vigilados, y seguiremos estándolo siempre. Cuánto o cómo únicamente dependerá de la legislación del lugar donde residimos, o que visitemos, y es la única protección que podemos reclamar. En este boletín defiendo que estar informado sobre estas cosas es mejor para lidiar con ellas, pero como me dijo Juan Zafra, director de la revista Telos, ¿por qué debe importarme que me vigilen si a cambio tengo servicios gratis y vivo mejor y más cómodo? Es otra forma de verlo para quienes quieran vivir más tranquilos, y él de tecnología sabe un rato.
Bola extra
¿Puedes imaginar que la tecnología de reconocimiento facial se inventara hace más de sesenta años, por uno de los padres fundadores de la IA? Woody Bledsoe es un personaje fascinante de los años 50, que fundó una compañía con otros colegas, Panoramics, para trabajar en ideas que transformarían el mundo. De allí salieron cosas muy locas, como el automóvil movido por perros, o un bastón para ciegos que convertía los objetos visibles en sonidos. Pero también inventos sorprendentemente parecidos a lo que tenemos en el presente, como la cortacésped que funcionaba de forma autónoma, algo así como una roomba de jardín. Palo Alto aún no era conocido como Silicon Valley, y el principal inversor de Panoramics acabó siendo la CIA. Fue entonces cuando el sistema ideado por Bledsoe para reconocer caracteres escritos —manuscritos— (futuro escáner OCR) comenzó a transformarse en una categorización del rostro humano en formas geométricas simples. Rectángulos, cuadrados, etc., y cuando este matemático abordó el paso del 2D al 3D para que el reconocimiento facial funcionara al girar una persona su rostro y presentar otra perspectiva del mismo. Fue una década de trabajo, al final de la cual tenía un sistema de reconocimiento facial. Uno que al recibir dos fotos de Bledsoe, una fechada en 1945 y otra en 1965, consideró que eran dos personas distintas. Aún quedaban y quedan muchos retos por delante para la máquina. Pero no cabe duda de que algún día será cien por cien precisa.
Información adicional
Paper para entender el reconocimiento facial, sus aplicaciones y cómo se está aplicando actualmente en la UE, publicado en Nature.
La pandemia ha permitido a China colectivizar la idea de estado de vigilancia, donde el reconocimiento facial solo es una herramienta más. En el MIT en español.
Para seguir el desarrollo y evolución de la IA Act, legislación para regular la aplicación de la IA -y por tanto de una de sus aplicaciones, el RF-, en la UE, este blog.
Explicación detallada de cómo se usa tu rostro para entrenar a las IAs, algo de lo que posiblemente no podemos escapar. VICE, en inglés.
Y las smart cities más vigiladas del mundo, con CCTV y RF, en este gráfico de Visual Capitalism. Por si vives en alguna de ellas o te preguntabas qué era eso de la smart city.
