A investigadora Amara García Adán expõe como o avanço das tecnologias de reconhecimento facial implica o controle da povoação por parte do Estado e das grandes corporações. Para reverter a degradação da participação política, propõe dotarmo-nos de uma soberania digital plena desde a Galiza.
Para abrirmos este espazo de reflexión colectiva, precisamos remontarnos a 2015, cando os movementos sociais sufriron un gran golpe coa promulgación da Lei Orgánica 4/2015, de 30 de marzo, de protección da seguridade cidadá, coñecida como a Lei Mordaza, e o que supuxo para a mobilización social galega. A isto debémoslle sumar a efervescencia das tecnoloxías de control biométrico, operadas por sistemas de Intelixencia Artificial (IA), que aumentan as capacidades de vixilancia e de perfilamento sobre os corpos.
A identificación estatal de persoas nunca é nin foi un acto neutral. Desde as primeiras sociedades que empregaron esta práctica, sempre supuxo un acto de poder e de control. Perante este feito, este texto pretende abrir hipóteses sobre quen e para que identifica as persoas; formulando interrogantes sobre o que lle ocorre á organización política dun pobo cando os espazos onde se constrúe (a rúa, as asembleas, os centros sociais) se converten en lugares de identificación permanente e automatizada. Xa que, quen identifica, clasifica, e quen clasifica, goberna. Que significa isto para a Galiza, para os seus movementos sociais e para a súa capacidade de axencia como suxeito político?
A tecnoloxía de control biométrico que imos abordar é a tecnoloxía de recoñecemento facial (TRF). Para entender o que supón botamos man da Lei Mordaza, pois antes de existiren cámaras intelixentes, antes dos algoritmos seren programados para identificar rostros en multitudes, o Estado español xa estaba a construír un réxime de disuasión sobre o espazo público. Sancionar quen fotografa a policía. Multar as concentracións espontáneas. Someter a xuízos políticos a activistas. O obxectivo non é soamente a represión, senón que a posibilidade do castigo faga o traballo de disolución por si soa; disciplinar a poboación. Os movementos sociais galegos sufriron o que se coñece como un efecto de arrefriamento da participación política de xeito directo, como recolle Zalnieriute en Power and protest: facial recognition and public space surveillance (2024). As mobilizacións pola defensa dos espazos autoxestionados, as protestas independentistas, as accións de desobediencia civil viñeron mudar o encadramento legal ao seu redor, facéndose máis complicado articular un movemento común por medo a posibleis represalias.
O monopolio da identificación é, como sinala Foucault en Vixiar e castigar (1975), un dos instrumentos fundamentais do biopoder, pois ao rexistrar e clasificar a poboación, o Estado regula non só quen é cidadán, mais tamén quen pode acceder ao espazo público, á xustiza, á liberdade. Co tratamento masivo de datos, a concepción da identidade transfórmase. Neste senso, argumenta Van der Ploeg en Biometrics and the body as information (2003) que a existencia física nun código dixital redefine a comprensión do corpo e da identidade, dando lugar a unha ontoloxía do corpo en termos de fluxos de información. Os nosos datos non son simple información illada carente de significado. Quen ten os datos adquire unha dimensión política e de poder pois, como entende Bartoletti en An artificial revolution: on power, politics and AI (2020), os datos son capital. Cada imaxe publicada na rede, cada interacción dixital, constrúe o que Ruyg denomina en Does the data Doppelgänger reside in the Uncanny Valley? (2016), como «doppelgänger dixital», un dobre feito cos nosos datos e que existe fóra do noso control. O tratamento de datos por parte de sistemas de IA non é neutral, mais un proceso de acumulación de capital, sen que a Galiza teña capacidade de negociación como suxeito político nos lugares onde se toman as decisións sobre estas tecnoloxías.
A TRF é a unha expresión deste proceso, ao permitir monitorizar e identificar persoas sen o seu coñecemento, a distancia, en tempo real ou en diferido. O caso de Clearview AI (empresa que construíu unha base de datos de máis de setenta mil millóns de imaxes de Internet sen consentimento de ninguén, vendida a corpos policiais de todo o mundo) ilustra até onde pode chegar esta lóxica. A TRF véndese como una ferramenta neutral e científica, que vén solucionar e acelerar certas dinámicas policiais e investigadoras, como unha medida securitaria. Mais isto non é certo.
Entendendo a tecnoloxía como demostración de poder, non neutral e baseada en datos históricos, cando estes sistemas fallan de forma sistemática adóitase dicir que é un biés nos datos do sistema, no seu uso ou no seu deseño. Porén, nada máis lonxe da realidade, pois os bieses supoñen unha forma de violencia algorítmica. Non son tecnoloxías precisas, senón que cometen erros sistémicos. Sinala HILL en Your facer belongs to us (2023) que estes non son aleatorios, mais o resultado de sistemas adestrados sobre a imaxe do «home medio» (seguindo a noción estatística de Quetelet do século XIX) como norma implícita da máquina. A discriminación algorítmica é a reprodución automatizada de desigualdades estruturais preexistentes. As clasificacións que construíu a criminoloxía positivista do século XIX repítense nos sistemas de IA actuais. Nomear isto como «biés» é un eufemismo, pois é violencia estrutural trasladada ao código.
Esta violencia ten consecuencias materiais. Os falsos positivos son persoas detidas ou sometidas a procesos penais, o que produce un pernicioso efecto disuasorio, aínda que non chegue a supor a base dunha condena. O impacto recae con maior intensidade sobre as persoas racializadas, sobre as mulleres, sobre as persoas trans e non binarias, e sobre comunidades sobrerrepresentadas nas bases de datos policiais polas propias dinámicas de vixilancia selectiva (que, ao mesmo, tempo son as menos representadas nos deseños dos sistemas de IA), como Buolamwini e Gebru demostraron en Gender Shades (2018). Este tipo de tecnoloxías teñen tamén unha dimensión extractivista, sinala Benjamin en Race After Technology (2019), pois as empresas tecnolóxicas empregan datos biométricos de cidadáns do sur global para perfeccionaren sistemas de identificación racial que son usados para controlar persoas noutros contextos. A dimensión neocolonial da IA reproduce, en clave dixital, a lóxica de extracción que o capitalismo e o colonialismo aplican sobre territorios e comunidades.
A combinación da Lei Mordaza co crecente uso de sistemas de vixilancia biométrica crea un escenario de control legal e tecnolóxico. Por unha banda, a ameaza de sanción que disuade da participación. Por outra, a identificación automatizada que elimina o anonimato do espazo público. Xuntas producen un efecto inhibidor que non necesita actuar abertamente para ser eficaz. Como documenta de novo Zalnieriute, a mera posibilidade de ser identificadas nunha protesta leva a moitas persoas a non asistir, especialmente aquelas con empregos precarios, con situacións administrativas vulnerábeis —como é o caso das comunidades migrantes—,ou con historial de activismo político previo.
Existen exemplos do uso da TRF pola policía. En Rusia, un activista foi identificado após realizar unha protesta pacífica no metro, caso tratado polo Tribunal Europeo de Dereitos Humanos no caso, Glukhin c. Rusia (2023); en Francia foi despregado durante os Xogos Olímpicos de 2024; o parlamento húngaro aprobou en 2025 lexislación que o autoriza para identificar participantes en manifestacións, empregada de facto na marcha do Orgullo LGTBIQ+; e no Reino Unido acaba de se ditar unha sentenza que avala o seu uso en tempo real por parte da Policía Metropolitana.
Para os movementos sociais galegos esta realidade é patente. O Estado español ten capacidade técnica e legal para despregar estas ferramentas, avalada polo Regulamento de IA. Coa Lei Mordaza xa demostrou que está disposto a utilizar o marco xurídico como instrumento de disuasión política. Nun contexto onde a identidade galega e a organización política que a sostén xa son obxecto de vixilancia e xudicialización, a extensión da TRF ao espazo público é unha tendencia en curso.
Mais onde hai poder, hai resistencia. En varios países de todas as latitudes, existen movementos que esixen a prohibición da TRF. Colectivos que deseñan roupa e maquillaxe que confunde os algoritmos de detección facial, como CV Dazzle ou CAP_ABLE, convertendo o propio corpo nun acto de contestación tecnolóxica. Ou no Brasil campañas como «Tire Meu Rostro Da Sua Mira», que esixe a retirada das imaxes da cidadanía das bases de datos de vixilancia policial. A regulación democrática desta tecnoloxía é posíbel; as decisións sobre como somos identificadas non teñen por que ficar fóra do ámbito da deliberación pública.
Mais a resistencia exixe tamén a soberanía dixital. Non como abstracción, mais como a capacidade real das comunidades e pobos para controlarmos os datos que nos definen, para decidir sobre as tecnoloxías que nos clasifican, para garantirmos que os sistemas que afectan as nosas vidas sexan transparentes e sometidos a control democrático. Para a Galiza, esta dimensión é constitutiva de calquera proxecto emancipador. É preciso artellar un debate común sobre o uso de ferramentas algorítmicas para o control da poboación e, en especial, sobre como artellarmos unha resistencia ao crecente uso da TRF. Algo que na actualidade non está a suceder.
Un pobo que non controla como é identificado non controla o seu espazo público. E un espazo público sen anonimato é un espazo onde a política se encolle antes de comezar; onde as manifestacións se fan máis pequenas e as accións socias se valoran con medo. Existe un réxime de vixilancia e disuasión que fai cada vez máis difícil existir politicamente. Nomear esa lóxica polo que é, violencia algorítmica ao servizo do control policial, é un primeiro paso. Construír soberanía dixital tamén é construír a Galiza.