Un’immensa rete di sorveglianza copre le città cinesi e conferisce alla polizia poteri quasi illimitati. Conversazioni via smartphone, espressioni del volto, movimenti vengono controllati costantemente grazie a un potente sistema di tecnologie integrate gestite da applicazioni di Intelligenza artificiale. Ecco com’è realizzato uno dei più grandi apparati di spionaggio del mondo. Che agisce a scapito della privacy. E che non sarà facile fermare.
Cina, prima al mondo per telecamere
Sono anche i motivi per cui a febbraio la Commissione europea presentando il libro bianco sull’AI ha ribadito la necessità di evitare che si impongano, nella corsa tecnologica, modelli contrari ai principi fondanti dell’Europa.
Già perché le città cinesi sono le più monitorate al mondo. La società di sicurezza Comparitech ha steso una classifica basata sul numero di telecamere a circuito chiuso ogni 1.000 persone: la Cina detiene il primato con otto delle prime 10 città più sorvegliate al mondo e l’apice si tocca a Chongqing, grande agglomerato urbano situato nel sud-ovest del paese dove confluiscono i fiumi Azzurro e Jialing. Nella graduatoria mondiale la Cina è seguita da Malesia e Pakistan, Usa, India, Indonesia, Filippine e Taiwan. Irlanda e Portogallo a fine elenco, Italia a metà.
Le uniche due città non cinesi nella top 10 sono Londra al sesto posto e Atlanta negli Stati Uniti al n. 10 mentre tra le città cinesi, oltre a Chongqing al primo posto con quasi 2,6 milioni di telecamere, ovvero 168,03 per 1.000 persone; Shenzhen, nella provincia meridionale del Guangdong, è arrivata al secondo posto con 159,09 telecamere per 1.000 persone. Urumqi, nota capitale della regione autonoma cinese dello Xinjiang Uygur si è classificata al 14esimo posto, con 12,4 telecamere per 1.000 persone.
Una fitta rete di scanner e fotocamere ricopre la maggior parte delle città cinesi. La complessa gamma di tecnologie di sorveglianza implementate in tutta la Cina ha suscitato un’attenzione diffusa ed una preoccupazione generale in varie parti del mondo.
Il focus dei media internazionali
Due giornalisti del New York Times, Paul Mozur e Aaron Krolik, hanno esaminato il modo in cui i vari strumenti di sorveglianza vengono combinati all’interno di un sistema integrato costantemente connesso, fatto di tecnologie miste, alcune all’avanguardia ed altre piuttosto datate.
L’articolo, pubblicato a metà dicembre, descrive con ricchezza di particolari e riscontri video come queste funzionalità siano ormai diventate largamente disponibili per le Autorità di polizia di ogni livello e come i dati raccolti possano essere resi accessibili ad una una vasta gamma di terze parti sia pubbliche, per scopi di intelligence e sicurezza pubblica, che private, per scopi commerciali e di marketing. Il tutto, peraltro, attraverso pratiche di sicurezza del tutto assenti se non inadeguate.
Scanner del telefono, tecnologia di riconoscimento facciale ed enormi database di volti e impronte digitali sono tra gli strumenti utilizzati.
“I dati di ogni persona formano una traccia – ha riferito alla testata Agnes Ouyang, impiegata in ambito tecnologico di Shenzhen – che può essere utilizzata dal Governo e dai dirigenti delle grandi aziende per mettere in atto forme di controllo e direzione. Le nostre vite valgono come spazzatura”.
“Even for China’s police – si legge sul New York Times – who enjoy broad powers to question and detain people, this level of control is unprecedented. Tracking people so closely once required cooperation from uncooperative institutions in Beijing. The state-run phone companies, for example, are often reluctant to share sensitive or lucrative data with local authorities, said people with knowledge of the system”.
E anche: “Data from the Shijiachi [housing] complex was parked on an unprotected server. Details included 482 residents’ identification numbers, names, ages, marital and family status, and records of their membership in the Communist Party. For those who used the facial-recognition cameras to enter and exit, it also stored a detailed account of their comings and goings”.
Ancora un passaggio: “Nearby networks were similarly unprotected. They held data from 31 residences in the area, with details on 8,570 people. A car-tracking system near Shijiachi showed records for 3,456 cars and personal information about their owners. Across China, unprotected databases hold information on students and teachers in schools, on online activity in internet cafes and on hotel stays and travel records” .
Dati personali in mano alla polizia
La polizia è stata autorizzata a divenire una sorta di custode indiscusso delle enormi quantità di dati personali, compresi i dati biometrici, dei suoi quasi 1,4 miliardi di persone. I lavoratori migranti, le minoranze, le voci contrarie al regime e i tossicodipendenti, sono tutti profilati.
E i casi d’uso emersi indicano procedure inquietanti quanto discutibili sotto molteplici profili di legittimità: dalla profilazione di donne ipotizzate come dedite alla prostituzione sulla base dei soli check-in effettuati in più di un hotel in una notte, alle verifiche e le perquisizioni nelle abitazioni di coloro che vivono in alloggi sovvenzionati per assicurarsi che non prestino assistenza ed ospitalità a persone contrarie al regime o dedite al crimine.
Edward Schwarck, uno studente che sta specializzandosi in sicurezza pubblica cinese presso l’Università di Oxford, ha approfondito il ruolo del ministero della Pubblica Sicurezza Cinese descrivendone lo sviluppo nel corso del tempo in chiave di intelligence. Le sue analisi hanno evidenziato come il ministero iniziò a riformare ed aggiornare le sue strutture di intelligence all’inizio degli anni 2000 con l’intento di ristabilire il “dominio dell’informazione” su una società sempre più fluida e tecnologicamente sofisticata, e hanno dimostrato come lo stesso si sia adattato allo sviluppo tecnologico trasformando ed adeguando alle potenzialità offerte dalle nuove tecnologie le proprie procedure di raccolta, analisi e diffusione delle informazioni fino a dare forma all’attuale sistema di intelligence di pubblica sicurezza.
Secondo Schwarck “definire un modello simile come sistema di polizia basato sull’intelligence o sulle analisi predittive distoglie in realtà l’attenzione dal fatto che ciò che sta accadendo nello Xinjiang non riguarda affatto la polizia, ma una forma di vera e propria ingegneria sociale“.
Tecnologie dell’intelligence cinese
La sorveglianza in Cina è chiaramente molto più di una semplice telecamera. Sniffer WiFi (software utili a localizzare rapidamente un segnale WiFi attivo) e tracker di targhe sono costantemente puntati su auto e telefoni; il riconoscimento facciale si è spinto fino ai complessi abitativi e all’interno delle metropolitane.
Paul Mozur, in un tweet descrive il sistema di sorveglianza che combina una stazione BTS (che acquisisce automaticamente le informazioni del telefono) con telecamere di riconoscimento facciale. “The idea was to directly link face info to phone info as people walked by”.
Il video allegato mostra il processo ineludibile di acquisizione delle immagini.
“The fake base station is easy to miss. Two cameras capture people coming and going. When we asked, no one, not residents and not building management, knew what it did. The police just showed up one day and put it in”.
“I localizzatori telefonici sono ovunque in Cina. Spesso passano inosservati. Sono solo piccole scatole con antenne incastonate sotto installazioni di telecamere molto più intimidatorie”, riferisce Mozur.
Il controllo degli Uiguri
Nello Xinjiang, dove la Cina ha “internato” 1 milione di Uiguri, il reporter del NYT, ha mappato i localizzatori telefonici presenti in uno dei quartieri della città vecchia di Kashga e ha trovato almeno 37 dispositivi su un’area di un chilometro quadrato in grado di registrare ogni arteria cittadina, comprese le pertinenze private delle abitazioni civili: “A Shaoxing alcuni tecnici incaricati hanno ricevuto il preciso compito di installare, nei pressi dei cancelli di ingresso, strumenti video di riconoscimento facciale” riporta Mozur. Il tutto con buona pace delle proteste e delle preoccupazioni rese palesi, non a caso, dai residenti coinvolti.
Sempre su Twitter, Simon Rabinovitch dell’Economist ha mostrato alcuni esempi di come i distributori delle tecnologie di sorveglianza abbiano sviluppato sofisticate tattiche di marketing nel presentare i propri prodotti non solo al mercato cinese bensì globale.
Ma le preoccupazioni sono forti. Preoccupazioni peraltro amplificate da un’analisi del Financial Times, che mostra come i gruppi cinesi esercitino un’influenza significativa nel definire gli standard internazionali in materia di tecnologia.
Il rapporto descrive in dettaglio come società tra cui ZTE, Dahua e China Telecom stanno proponendo standard per il riconoscimento facciale all’International Telecommunication Union (ITU) delle Nazioni Unite, l’organismo responsabile degli standard tecnici globali nel settore delle telecomunicazioni.
E IPVM, sito che si autodefinisce “autorità indipendente, leader a livello mondiale nel campo della videosorveglianza” ha ammonito:
Yuan Yang con un articolo sul Financial Times intitolato Il ruolo dell’IA nella repressione della Cina sugli Uiguri, ha reso noto quanto emerso da una serie di documenti “riservati” interni al Partito Comunista, i “China cables”. Ne è emerso un quadro dettagliato dei piani del Governo cinese nella regione di confine dello Xinjiang, dove sono stati arrestati circa 1,8 milioni di membri della minoranza musulmana del paese, gli Uiguri.
Altrettanto ha fatto un report del Consortium of Investigative Journalism sui sistemi di repressione e sorveglianza usate dal governo cinese contro le minoranze musulmane dello Xinjiang: “La tecnologia è in grado di guidare una violazione sistematica dei diritti su scala industriale”.
La polizia, secondo i documenti pubblicati, userebbe una piattaforma chiamata Ijop (Integrated Joint Operation Platform) per raccogliere e classificare dati personali e informazioni catturate da molteplici sensori come spyware installati nei telefonini, Wi-Fi sniffers e videocamere TVCC dotate di riconoscimento facciale e visione notturna, installate in stazioni di servizio, posti di blocco, ma anche scuole e palestre.
Tutti questi dati verrebbero quindi elaborati da sistemi di intelligenza artificiale per meglio identificare e mappare i residenti dello Xinjiang o contribuire in vario modo alla Dragnet cinese, ovvero il processo utilizzato dagli organi di polizia per rintracciare i sospetti criminali.
L’uso di questa piattaforma non è peraltro nuovo. Già nel 2016 alcuni report ne avevano descritto le caratteristiche: l’Ijop sarebbe in grado di raccogliere e classificare informazioni molto dettagliate sulle persone indagate, compreso l’aspetto, l’altezza, il gruppo sanguigno, il livello di educazione, le abitudini e la professione. Il report offre dunque una finestra senza precedenti sulla sorveglianza di massa nello Xinjiang.
Il controllo della comunità musulmana
Nel report si parla inoltre di un’applicazione diffusa tra i musulmani chiamata Zapya, nota in cinese come Kuai Ya. Zapya, sviluppata da DewMobile Inc., consente agli utenti di smartphone di inviare video, foto e altri file direttamente da uno smartphone all’altro senza essere connessi al Web (con ciò rendendola popolare in quelle aree in cui il servizio Internet è scarso o inesistente) e apparentemente incoraggia gli utenti a scaricare il Corano e condividerne gli insegnamenti religiosi con i propri cari.
“I cinesi hanno aderito ad un modello di sorveglianza basato sulla raccolta dei dati in larga scala, e che grazie all’intelligenza artificiale sarebbe in grado di prevedere in anticipo dove potrebbero verificarsi possibili reati – ha commentato James Mulvenon, direttore dell’Integrazione dell’intelligence presso SOS International, esaminando i documenti del governo cinese -. Quindi, con questo sistema, gli organi di polizia rintracciano in maniera preventiva tutte le persone che utilizzano o scambiano dati sospetti, prima ancora che abbiano avuto la possibilità di commettere effettivamente il crimine”.
L’autodifesa del governo cinese
Il governo cinese ha bollato i report e i resoconti giornalistici come “pura invenzione e fake news”. In una nota, l’ufficio stampa del Governo cinese ha dichiarato: “Non esistono ‘campi di detenzione’ nello Xinjiang. Sono stati istituiti centri di istruzione e formazione professionale per la prevenzione del terrorismo”. Una “missione” talmente “necessaria” da aver indotto Pechino a chiedere fondi di finanziamento alla stessa Banca Mondiale, secondo il rapporto pubblicato dal sito americano Axios. Secondo i documenti visionati da Axios, i prestiti chiesti alla Banca Mondiale erano volti all’acquisto della tecnologia di riconoscimento facciale da utilizzare nella regione nord-occidentale dello Xinjiang in Cina. Per l’istituto bancario mondiale tali fondi non sono mai stati erogati.
Lo Xinjiang ha una popolazione di circa 22 milioni, 10 dei quali di etnia uigura che salgono a 12 considerando le altre minoranze turco-musulmane. Ad oggi, pur non disponendo di numeri ufficiali, sarebbero oltre un milione gli Uiguri detenuti nei “campi di rieducazione e addestramento” della regione. Tale misura viene giudicata necessaria dal Consiglio di Stato, il supremo organismo amministrativo della Repubblica Popolare cinese, per “rimuovere il tumore maligno del terrore e dell’estremismo che minaccia le vite e la sicurezza della gente, custodire il valore e la dignità delle persone, proteggere il diritto alla vita, alla salute, allo sviluppo, e per assicurare il godimento di un ambiente sociale pacifico e armonioso”.
Ma sul punto merita di essere evidenziato come il Parlamento Europeo con una Risoluzione approvata il 19 dicembre scorso abbia fermamente condannato le pratiche repressive e discriminatorie messe in atto dal governo di Pechino nei confronti degli uiguri e delle persone di etnia kazakha. I deputati hanno chiesto alle autorità cinesi di garantire ai giornalisti e agli osservatori internazionali un accesso libero alla Regione autonoma uigura dello Xinjiang per valutarne la situazione.
Secondo gli europarlamentari è essenziale che l’Ue sollevi la questione della violazione dei diritti umani in Cina in ogni dialogo politico con le autorità cinesi ed hanno chiesto al Consiglio di adottare sanzioni mirate e di congelare i beni, se ritenuto opportuno ed efficace, contro i funzionari cinesi responsabili di una grave repressione dei diritti fondamentali nello Xinjiang.
Il sistema Xue Liang
«Xue Liang», ovvero «Occhio di falco» è il nome del programma di videosorveglianza a tappeto del presidente Xi Jinping e di Pechino. Un network di sorveglianza onnipresente, totalmente connesso che comprende progetti di videosorveglianza di massa che incorporano la tecnologia di riconoscimento facciale compreso quello emozionale; software di riconoscimento vocale in grado di identificare gli altoparlanti durante le telefonate; e un programma ampio e invadente di raccolta del DNA. Gli operatori di telefonia in Cina hanno oggi l’obbligo di registrare le scansioni facciali di chi compra un nuovo numero di telefono o un nuovo smartphone poiché come dichiarato a settembre dal ministero cinese dell’Industria e dell’information technology una tale decisione mira “a tutelare i diritti legittimi e gli interessi dei cittadini online”.
Il Great Firewall cinese blocca decine di migliaia di siti Web oltre a fungere da strumento di sorveglianza.
Non ultimo il sistema nazionale di credito sociale (un insieme di «modelli» per verificare l’«affidabilità» delle persone associandole a un punteggio e a blacklist) inteso a valutare “e dunque prevenire” la condotta di ogni cittadino cinese in ogni ambito dall’accesso al credito alla tendenza alla commissione dei crimini.
L’utilizzo dei big data
I big data costituiscono la risorsa inestimabile per fare tali previsioni. I funzionari possono attingere a questa capacità per gestire crimini, proteste o impennate dell’opinione pubblica online.
Un network quindi dove la repressione del crimine va di pari passo con l’analisi di polizia predittiva e la censura con la propaganda: coloro che esprimono opinioni non ortodosse online possono diventare soggetti di attacchi personali mirati nei media statali. La sorveglianza e l’intimidazione sono ulteriormente integrate da una vera e propria coercizione, tra cui visite di polizia, arresti, “confinamenti rieducativi”.
Il nuovo Panopticon: non solo cinese
L’origine dell’odierno Panopticon cinese e la sua inarrestabile evoluzione non sono altro che il risultato di un’accelerazione resa possibile dalla grande trasformazione tecnologica del paese (e con essa la nuova straordinaria capacità di raccogliere dati biometrici da parte di Pechino). Il «sistema dei crediti sociali» rappresenta solo uno dei tanti aspetti oscuri e distopici dei piani di ingegnerizzazione sociale in Cina. Se infatti da una parte i crediti sociali mirano a creare una società basata sulla fiducia dove però cosa è virtuoso e morale lo decide il partito comunista, un’ulteriore «griglia sociale» sarà stabilita dalle smart city, a loro volta governate socialmente attraverso crediti sociali e capacità tecnologiche che consentono raccolta ed elaborazioni di dati continua.
La diffusione della sorveglianza, in particolar modo applicata all’AI, continua senza sosta. E se Il suo utilizzo da parte di regimi autoritari per progettare repressioni contro popolazioni mirate ha già suonato campanelli d’allarme, tuttavia anche in paesi con forti tradizioni di stato di diritto, l’IA fa sorgere problematiche etiche fastidiose ed urgenti. Un numero crescente di stati nel mondo oltre alla Cina sta implementando strumenti avanzati di sorveglianza dell’IA per monitorare, rintracciare e sorvegliare i cittadini per raggiungere una serie di obiettivi politici: alcuni legali, altri che violano palesemente i diritti umani e molti che cadono in una via di mezzo oscura.
Questo è il quadro descritto da Carnegie Endowment for International Peace, uno dei più antichi e autorevoli think tank statunitensi di studi internazionali. “La tecnologia legata alle società cinesi – in particolare Huawei, Hikvision, Dahua e ZTE – fornisce la tecnologia di sorveglianza dell’IA in 63 paesi, 36 dei quali hanno aderito alla Belt and Road Initiative cinese” afferma il Rapporto.
Oltre alle società cinesi, la giapponese NEC fornisce la tecnologia di sorveglianza dell’IA a 14 paesi e IBM in 11 paesi, secondo il rapporto Carnegie. “Anche altre società con sede in democrazie liberali – Francia, Germania, Israele, Giappone – svolgono un ruolo importante nel proliferare di questa tecnologia”. Tutti questi paesi, evidenzia il Rapporto “non stanno però adottando misure adeguate a monitorare e controllare la diffusione di tecnologie sofisticate collegate a una serie di importanti violazioni”.
Gli esperti esprimono preoccupazione in merito ai tassi di errore del riconoscimento facciale e all’aumento dei falsi positivi per le popolazioni minoritarie. Il pubblico è sempre più consapevole dei pregiudizi algoritmici nei set di dati di addestramento di AI e del loro impatto pregiudizievole sugli algoritmi di polizia predittiva e altri strumenti analitici utilizzati dalle forze dell’ordine. Anche applicazioni IOT benigne – altoparlanti intelligenti, blocchi di accesso remoti senza chiave, display con trattino intelligente per autoveicoli – possono aprire percorsi problematici alla sorveglianza. Le tecnologie pilota che gli Stati stanno testando ai loro confini – come il sistema di riconoscimento affettivo di iBorderCtrl – si stanno espandendo nonostante le critiche che si basano su scienza difettosa e ricerca non comprovata. Inevitabilmente sorgono le domande inquietanti sull’accuratezza, correttezza, coerenza metodologica e impatto pregiudizievole delle tecnologie di sorveglianza avanzate.
Tecnologia e progresso sostenibile
Una volta apprezzata la crescente ubiquità degli algoritmi e le loro potenzialità nel bene come nel male, e una volta compresa l’urgenza del tema, la necessità di pensare in modo critico e consapevole sui sistemi di sorveglianza e certo sugli algoritmi di AI in generale diventa evidente. Non servono, però, approcci solo teorici o peggio solo distopici. Parlando di intelligenza artificiale – ci riferiamo a qualcosa che in realtà ha zero intelligenza e zero semantica: il significato e il senso lo danno le persone. Che si parli di stato totalitario o di sorveglianza di massa piuttosto che di monopolio digitale e di capitalismo di sorveglianza, il solo discrimine e la vera ricchezza tra ciò che ci consentirà o meno di guidare consapevolmente ed efficacemente il percorso verso un progetto umano sostenibile e la necessaria riconciliazione tra l’umanità e lo sviluppo tecnologico, dipende in primis dall’uomo stesso.
Se la strategia cinese mira al controllo totalitario della propria società e al predominio in campo scientifico entro il 2030, quella russa si concentra sulle applicazioni in materia di intelligence e d’altra parte, negli Stati Uniti, il modello liberista ha creato una biforcazione tra settore pubblico e privato, in cui i colossi tecnologici della Silicon Valley puntano alla mercificazione deregolata delle opportunità tecnologiche. E, ancora oggi, il ruolo dell’Unione europea nell’ecosistema digitale globale è in gran parte ancora da decidere.
“E gli uomini vollero piuttosto le tenebre che la luce” come ha tradotto dal greco neotestamentario Giacomo Leopardi in epigrafe a La ginestra o il fiore del deserto.
