“Sappiamo dove siete. Sappiamo dove siete stati. Sappiamo più o meno anche a cosa state pensando”. Questa affermazione non è di Xi Jinping, presidente della Repubblica popolare cinese del quale ci occuperemo tra poco. L’ha pronunciata Eric Schmidt di Google nel 2010, ed è riportata nel fondamentale libro di Shoshana Zuboff “Il capitalismo della sorveglianza”.
Perché è vero, come vedremo, che lo stretto controllo al quale è sottoposto ogni cittadino cinese è pervasivo, asfissiante, soffocante, specialmente dall’avvento della pandemia. D’altra parte, però, non si può negare che le Big Tech siano protagoniste di una vera e propria caccia ai dati – obiettivo della sorveglianza – per fare soldi, che non accenna, al di là dei periodici proclami, ad affievolirsi. E vedremo cosa sta facendo Facebook a tal proposito.
La sorveglianza statale per contenere il Covid (e non solo) in Cina
Veniamo alla Cina, dove il Covid è stato affrontato con strumenti che definire coercitivi è riduttivo, soprattutto in quanto le tecnologie introdotte consentono un controllo capillare anni fa impossibile. Altro che la dittatura sanitaria nostrana!
In molte parti della Cina, la sorveglianza statale e i controlli Covid-19 iniziano all’uscita da casa, ad esempio con un test da parte di lavoratori con tute ignifughe bianche mandati dal governo. Senza prove di un risultato negativo, gli spazi pubblici sono vietati, compresi gli edifici per uffici, i negozi di alimentari e i parchi.
Le telecamere sorvegliano le strade. Sul taxi, al bar, sul posto di lavoro ai cinesi viene chiesto di scansionare un codice QR per un database governativo che tenga traccia dei loro movimenti.
Se il database mostra che hai incrociato qualcuno infetto dal virus, probabilmente sarai costretto alla quarantena.
Dall’avvento di Xi, dieci anni fa, la Cina è andata molto più a fondo nella sorveglianza della vita dei cittadini. Il Covid ha spinto i controlli a livelli completamente nuovi. Quando Xi è entrato in carica, ha aumentato la stretta sui social media, ha ampliato la sorveglianza e ha represso le imprese private. Il giorno dell’inizio del ventesimo Congresso del Partito comunista cinese, due striscioni di protesta sono stati calati da un cavalcavia autostradale situato a un importante incrocio e vicino a una stazione della metropolitana di Pechino, in un quartiere nel quale insistono molte delle migliori università e società tecnologiche del paese. La polizia è arrivata rapidamente a toglierli, ma gli autori di uno dei rarissimi atti di protesta in Cina non sono stati individuati.
La sorveglianza totale contro le minoranze
La sorveglianza va tuttavia ben oltre l’esigenza di contenere il Covid. Le autorità cinesi assemblano i dati degli strumenti biometrici, come il riconoscimento facciale, con i numeri ID e i dati comportamentali raccolti dalle aziende tecnologiche, per identificare le azioni che considerano minacciose per l’ordine sociale. Nello Xinjiang, volti, voci e movimenti fisici vengono tracciati in tempo reale, utilizzando telecamere e altri strumenti di sorveglianza alimentati dall’intelligenza artificiale come parte di una campagna per assimilare forzatamente gli Uiguri e altri gruppi musulmani turchi. I loro membri vengono tracciati digitalmente, usando i loro volti, le voci, i vortici delle loro iridi e persino il modo in cui camminano. I loro smartphone vengono costantemente scansionati dalla polizia alla ricerca di prove di identità religiosa o connessioni all’estero. Quelli potenzialmente pericolosi vengono mandati in prigione o in uno degli “arcipelaghi” della regione di “trasformazione attraverso centri educativi”.
Hangzhou, la città cinese più intelligente e controllata: i progetti City Eye e City Brain
Ma se lo Xinjiang è il luogo in cui l’uso della sorveglianza di massa da parte del Partito precipita in un incubo distopico, Hangzhou, capitale della provincia di Zhejiang, è il luogo in cui il regime insegue l’utopia. Qui macchine fotografiche e sensori hanno lo scopo di migliorare la vita dei residenti tanto quanto di controllarli. Essi alimentano i dati in algoritmi che alleviano la congestione del traffico, monitorano la sicurezza alimentare e aiutano a scortare i primi soccorritori in caso di incidenti. Il colosso dell’e-commerce Alibaba e Hikvision, il principale produttore mondiale di telecamere di sorveglianza, sono partner nella gestione della città. Grazie a loro, i quartieri degli affari vibrano di un’energia giovane e conquistatrice del mondo. Le collaborazioni hanno trasformato Hangzhou nella “più intelligente” delle città cinesi e in un modello che altre realtà si stanno affrettando a emulare. I dati raccolti dalla città la aiutano a gestire il flusso di turisti nelle attrazioni affollate, a ottimizzare i parcheggi e a progettare nuove reti stradali.
City Eye
Un’iniziativa particolarmente degna di nota prende il nome emblematico di City Eye. Gli strumenti abilitati all’intelligenza artificiale sono andati in uso alla filiale di quartiere del chengguan, un’organizzazione con compiti di polizia: scacciare i venditori ambulanti, perseguire chi alimenta discariche abusive, rintracciare vandali, distribuire multe per il parcheggio.
“City Eye” è iniziato nel 2017, con l’installazione di circa 1.600 telecamere di sorveglianza della polizia in una delle vie più popolose della città. Il programma ha collegato i feed della telecamera con l’intelligenza artificiale mantenendo un controllo 24 ore su 24 per le strade e inviando avvisi automatici con uno screenshot ogni volta che c’era qualcosa di anomalo, come mucchi di spazzatura e venditori ambulanti in posti non autorizzati. Agli agenti il compito di decidere quali violazioni meritassero una risposta. L’IA, però, non sempre fa le cose per bene: ad esempio, scambia le foglie cadute o la neve per spazzatura. Altre volte segnala qualcosa che sarebbe tecnicamente una violazione, ma non un problema abbastanza grande per agire. Secondo la polizia, il sistema migliorava quanti più dati raccoglieva, e i benefici superavano di gran lunga il fastidio dei falsi allarmi.
Tra gennaio e luglio 2019 le sue pattuglie umane di strada hanno identificato 2.600 potenziali violazioni. Nello stesso periodo, l’IA di City Eye ne ha registrati 19.000. circostanza ancora più importante, il controllo ha prodotto risultati: un calo dei casi mensili di vendita senza licenza da oltre 1.100 nell’agosto 2018 a soli 30 un anno dopo.
Anche i cittadini sembravano contenti. L’esperienza dei pedoni era migliorata, le strade erano pulite, le biciclette elettriche parcheggiate all’interno di linee bianche assegnate.
City Brain
Alibaba ha fornito invece una piattaforma basata sull’intelligenza artificiale, City Brain, che aiuta il governo della città a ottimizzare tutto, dal traffico alla gestione dell’acqua. Allo stesso tempo, i prodotti e le piattaforme di Alibaba rendono più facile pagare le bollette, prendere l’autobus, ottenere prestiti e persino citare in giudizio le aziende locali nei tribunali on line. A City Brain è attribuita la trasformazione di Hangzhou, notoriamente intasata dalle auto, dalla quinta città più congestionata del paese alla cinquantasettesima. Per alleviare il traffico di Hangzhou, Alibaba ha progettato un sistema per elaborare i dati video, dagli incroci e dalle posizioni GPS, in tempo reale, consentendo alle autorità stradali della città di ottimizzare i segnali e ridurre quindi la congestione.
City Brain fornisce anche uno strumento di navigazione per le ambulanze, basato sull’intelligenza artificiale, che manipola i semafori per liberare un percorso nel traffico.
L’ambizione di un nuovo tipo di governo moderno, alimentato da dati e sorveglianza digitale di massa
Altra causa di aumento delle intrusioni nella vita quotidiana è la frustrazione per il rallentamento economico, causato in parte dai blocchi di Covid, che ha reso più difficile trovare lavoro. Il Governo ha represso le società di tecnologia e istruzione nel tentativo di frenare l’assunzione di rischi del settore privato e di affermare un maggiore controllo statale sull’economia. Xi ambisce acché questa nuova fase porti alla creazione di un nuovo tipo di governo moderno, alimentato da dati e sorveglianza digitale di massa, che possa rivaleggiare con la democrazia a livello globale. Mentre accumula sempre più dati sui movimenti e le abitudini della sua gente e sviluppa nuovi modi per elaborarli, il PCC mantiene la promessa di una società perfettamente progettata: quella in cui le società di intelligenza artificiale lavorano fianco a fianco con la polizia per rintracciare i fuggitivi, trovare bambini rapiti e svergognare pubblicamente i jaywalker, (pedoni indisciplinati, che attraversano col rosso o fuori dalle strisce); in cui i servizi pubblici, i premi per le buone azioni e le punizioni per comportamenti scorretti sono tutti forniti con precisione ed efficienza matematica.
City Brain, si progetta, amplierà i suoi algoritmi per coprire la pianificazione urbana, il consumo di elettricità e la lotta agli incendi. A lungo termine, i pianificatori statali cinesi stanno spingendo affinché i sistemi delle città intelligenti assorbano i dati da una rete più diversificata di sensori: non solo fotocamere e smartphone, ma anche lettori di codici QR, macchine per punti vendita, monitor della qualità dell’aria e radio chip di identificazione della frequenza utilizzati per memorizzare informazioni biometriche in carte d’identità avanzate.
L’ambizione delle città cinesi di rendere più facile la vita ai loro residenti sta crescendo. I governi e le aziende locali hanno speso 24 miliardi di dollari per la tecnologia delle città intelligenti nel 2020, una cifra che probabilmente salirà a circa 40 miliardi di dollari entro la fine del 2024. Come lo Xinjiang, con la sua sistematica oppressione degli uiguri, Hangzhou funge da zona pilota per il controllo sociale, offrendo al Partito Comunista una visione di cosa funziona e cosa no. Gli esperimenti nei due luoghi suggeriscono che le stesse tecnologie utilizzate per terrorizzare e rimodellare coloro che si pensa resistano all’autorità del partito possono essere impiegate per coccolare e rassicurare coloro che l’accettano.
La sorveglianza per reprimere il dissenso: il controllo delle comunicazioni
La sorveglianza ha ovviamente pure funzioni di censura sulle opinioni dei cinesi sul Governo e sul presidente Xi. In Cina i social media sono stati un modo per misurare le opinioni delle persone, anche sotto la censura. Ma è essenzialmente impossibile cercare punti di vista sul signor Xi o su altri politici di alto livello che non offrano lodi senza riserve. Le discussioni sui leader cinesi sono sempre state limitate, ma Xi ha messo in piedi un meccanismo censorio che ha messo a tacere il dibattito on line in modi completamente nuovi. Le autorità cinesi hanno represso gli influencer con opinioni dissenzienti, introdotto leggi che limitano la parola sul web e multato le aziende per non aver adeguatamente controllato i contenuti di Internet. Alcune delle piattaforme di social media più popolari restituiscono pagine bianche in risposta alle ricerche sui sette leader che formano l’apice del potere. Altre forniscono link a resoconti dei media statali che promuovono una narrativa strettamente controllata. Sul forum di discussione online di Baidu, Tieba, ci sono più di 184.000 post su Biden. Se invece si cerca Xi si riceverà il seguente messaggio: “Mi dispiace, in base alle leggi e ai regolamenti governativi correlati, i seguenti risultati non possono essere mostrati”.
L’unico contenuto relativo al signor Xi mostrato su Douyin, versione cinese di TikTok, è quello generato dai media statali o da entità di partito. Tra gli altri video dell’app è quasi impossibile trovare quelli di cinesi normali che esprimono opinioni sul loro leader. Su WeChat e sul sito di domande e risposte Zhiru, le discussioni sul leader cinese coinvolgono allo stesso modo solo fonti dei media legate allo stato o al partito. Un post di Zhihu su un discorso del signor Xi a un ramo dell’Esercito popolare di liberazione in cui chiedeva “l’unificazione della madrepatria” – un riferimento alla presa del controllo di Taiwan – sembrava aver attirato quasi 220 commenti, ma nessuno poteva essere visualizzato: un messaggio diceva che la sezione commenti era chiusa. Weibo, simile a Twitter, consente la ricerca del nome del signor Xi solo da parte degli utenti in Cina, ma essi devono preventivamente registrarsi con un numero di cellulare collegato alla propria carta d’identità e solo dopo possono accedere per vedere i risultati della ricerca. Ancora una volta, i risultati sono quasi tutti articoli o video in qualche modo collegati a media statali o agenzie governative.
Secondo Eric Liu, del sito di notizie China Digital Times, la cancellazione dei post su Internet sui leader cinesi era irregolare prima dell’avvento di Xi: all’epoca i commenti ritenuti offensivi venivano rimossi solo una volta che i censori umani o il software li aveva individuati. Ora le società cinesi mantengono un elenco di termini per Xi e utilizzano una combinazione di intelligenza artificiale e censura umana per impedire ai post che li contengono di raggiungere il web.
Nella classifica annuale della libertà online di Freedom House in 70 paesi in tutto il mondo, l’Internet cinese si è classificato ultimo nel 2021. Prima dell’arrivo di Xi era più libero di Cuba, Myanmar e Iran. La censura, com’è naturale, non riguarda solo i boss del partito e dello Stato di Pechino. Le discussioni sui capi del Partito Comunista delle 31 regioni e province autonome della Cina, consentite fino al 2011, sono ora pesantemente censurate anche sui social media.
Tuttavia, nella sorveglianza di massa sembra esserci anche un rovescio della medaglia col quale il Governo cinese deve fare i conti.
Ma la criminalità informatica colpisce anche la Cina
Per proteggere i dati sensibili, esso ha creato uno dei regimi di sicurezza informatica e protezione dei dati più severi al mondo. Nonostante questi sforzi, un fiorente mercato sotterraneo transfrontaliero è cresciuto attorno al commercio dei dati dei cittadini cinesi, la gran parte proveniente proprio dalla vasta rete di sorveglianza. Tempo fa un utente anonimo di un popolare forum online sulla criminalità informatica ha messo in vendita i dati di circa 1 miliardo di cittadini cinesi rubati alla polizia di Shanghai; dati particolarmente sensibili, come numeri di identificazione del governo, precedenti penali e sommari dettagliati di casi di stupro e abusi domestici. Da allora il Wall Street Journal ha trovato decine di altri database cinesi offerti in vendita, e occasionalmente gratuiti, nei forum online sulla criminalità informatica e nelle comunità di Telegram con migliaia di abbonati. Quattro delle cache rubate contenevano dati probabilmente presi da fonti governative, secondo il WSJ, mentre molti altri erano pubblicizzati come contenenti dati governativi. La Cina è unica, tuttavia, per la natura completa e sensibile dei suoi dati esposti, una conseguenza del modo in cui centralizza più flussi di informazioni provenienti da fonti governative e aziendali su piattaforme di sorveglianza statali. A detta di Vinny Troia, fondatore della società di intelligence sul dark web Shadowbyte, l’accumulo di così tanti dati in un unico luogo aumenta intrinsecamente il rischio che escano dai data base. Una password debole o rubata, un tentativo di phishing riuscito o un dipendente scontento possono causare il blocco dell’intero sistema.
Le big tech ci prendono diritti e futuro: urgono nuove forme di governance
Dalla sorveglianza di stato al capitalismo della sorveglianza: il caso Meta
Fin qui la situazione in Cina. Ma perché abbiamo scelto di citare il dirigente di una Big Tech occidentale, all’inizio? Perché, per fini diversi, o solo in parte diversi (Cambridge Analytica docet), il capitalismo tecnologico ha sempre in testa la sorveglianza, nonostante norme nuove, sensibilità accresciute, controlli più stringenti.
Facebook e il riconoscimento facciale
Nel novembre del 2021, Facebook aveva annunciato che avrebbe eliminato i dati di riconoscimento facciale estratti dalle immagini di oltre 1 miliardo di persone, e smesso di offrire di taggare automaticamente le persone in foto e video, quest’ultima la forma più comune di tecnologia di riconoscimento facciale al mondo. Un dirigente di primo piano, con l’aria presumibilmente contrita, aveva nell’occasione affermato che la decisione rifletteva la “necessità di valutare i casi d’uso positivi per il riconoscimento facciale rispetto alle crescenti preoccupazioni della società”.
Luke Stark, assistente presso la Western University, in Canada, aveva commentato con Wired la decisione di FB in questi termini: la modifica era una tattica di pubbliche relazioni: la spinta alla realtà virtuale dell’azienda avrebbe probabilmente portato a una raccolta ampliata di dati fisiologici e avrebbe sollevato nuovi problemi di privacy. Previsione azzeccata.
Il visore VR Quest Pro
Meta, proprietaria di Facebook, ha giorni fa presentato il nuovo visore VR, chiamato Quest Pro. Esso aggiunge cinque telecamere che osservano il volto della persona per tracciarne i movimenti oculari e le espressioni facciali, consentendo a un avatar di riflettere le sue espressioni: sorridendo, ammiccando, alzando un sopracciglio, tutto in tempo reale. L’auricolare ha anche cinque telecamere esterne che in futuro aiuteranno a dare agli avatar gambe che copiano i movimenti di una persona nel mondo reale. Dopo la presentazione, Stark ha detto che sospetta che l’impostazione predefinita “off” per il rilevamento dei volti non durerà a lungo. “È chiaro da alcuni anni che gli avatar animati agiscono come leader della perdita della privacy”, ha affermato. “Questi dati sono molto più dettagliati e molto più personali dell’immagine di un volto nella fotografia”.
Mark Zuckerberg ha descritto la nuova raccolta di dati intimi come una parte necessaria della sua visione della realtà virtuale. “Quando comunichiamo, tutte le nostre espressioni e gesti non verbali sono spesso ancora più importanti di ciò che diciamo, e anche il modo in cui ci connettiamo virtualmente deve riflettere questo”.
Zuckerberg ha anche affermato che le fotocamere interne di Quest Pro, combinate con le fotocamere nei suoi controller, alimenterebbero avatar fotorealistici che assomigliano più a una persona reale e meno a un cartone animato. Aziende e vari progetti di ricerca hanno precedentemente utilizzato foto convenzionali di volti per cercare di leggere lo stato emotivo di una persona. I dati del visore di Meta potrebbero fornire un nuovo modo per dedurre gli interessi o le reazioni di una persona ai contenuti. L’azienda sta sperimentando gli acquisti nella realtà virtuale e ha depositato brevetti per inserire annunci personalizzati nel metaverso, nonché contenuti multimediali che si adattano in risposta alle espressioni facciali di una persona. Il product manager di Meta ha affermato che l’azienda non usa queste informazioni per prevedere le emozioni. Le immagini non elaborate e le immagini utilizzate per alimentare queste funzionalità vengono archiviate sull’auricolare, elaborate localmente sul dispositivo ed eliminate dopo l’elaborazione. Nelle informazioni sulle espressioni facciali e la privacy pubblicate dalla società si legge che, sebbene le immagini grezze vengano eliminate, le informazioni raccolte possono essere elaborate. I dati sui movimenti del viso e degli occhi di un utente Quest Pro possono essere trasmessi anche ad aziende al di fuori di Meta. Un nuovo Movement SDK garantirà agli sviluppatori esterni l’accesso a dati astratti sullo sguardo e sulle espressioni facciali per animare avatar e personaggi. Per quanto concerne gli auricolari, secondo Meta i dati condivisi con servizi esterni “saranno soggetti ai suoi termini e alle sue politiche sulla privacy”.
La tecnologia che cattura le espressioni è già al lavoro nelle app fotografiche e nei memoji di iPhone. Meta ha però affermato che l’acquisizione del linguaggio del corpo in tempo reale è la chiave dell’ambizione dell’azienda di far indossare alle persone cuffie per realtà virtuale per partecipare alle riunioni o svolgere il proprio lavoro. Meta ha annunciato che integrerà presto il software di produttività Microsoft, inclusi Teams e Microsoft 365, nella sua piattaforma di realtà virtuale. Autodesk e Adobe stanno lavorando su app VR per designer e ingegneri e un’integrazione con Zoom consentirà presto alle persone di arrivare alle riunioni video come Meta avatar.
Il dispositivo Portal per le videochiamate domestiche
Per quanto riguarda il dispositivo Portal di Meta per le videochiamate domestiche, il successo di Quest Pro può dipendere dal fatto che le persone dovrebbero acquistare hardware con nuove capacità di raccolta dati da un’azienda con spiccata e provata propensione a non proteggerli, o per monitorare l’attività di sviluppatori di terze parti con accesso alla sua piattaforma, come Cambridge Analityca. E non è che la partita del Metaverso stia andando particolarmente bene. Meta ha segnalato non più di 300.000 utenti attivi mensili per la sua piattaforma social VR di punta, Horizon Worlds, che, informa il NYT, non viene usata nemmeno dai suoi stessi sviluppatori.
Avi Bar-Zeev, consulente sulla realtà virtuale e aumentata, teme che i dati sui movimenti del viso e degli occhi possano consentire a Meta o ad altre aziende di sfruttare emotivamente le persone in VR osservando come rispondono a contenuti o esperienze. “La mia preoccupazione non è che ci verranno serviti un mucchio di annunci che odiamo, ma che, al contrario, sapranno così tanto di noi che ce ne serviranno un sacco che amiamo e non sapremo nemmeno che sono annunci”.
Anche Kavya Pearlman, fondatrice della XR Safety Initiative, organizzazione senza scopo di lucro che fornisce consulenza alle imprese e alle autorità di regolamentazione del governo USA sulla sicurezza e l’etica nel metaverso, afferma che i precedenti scandali di Meta la rendono diffidente nei confronti dell’azienda.Fine modulo Pearlman ha ricevuto una demo di Quest Pro prima del suo lancio e ha appurato che gli schermi che richiedevano agli utenti di attivare il rilevamento del viso e degli occhi avevano “modelli scuri”, apparentemente progettati per spingere le persone ad adottare la tecnologia. La Federal Trade Commission USA, in un rapporto pubblicato un mese fa, consiglia alle aziende di non utilizzare progetti che sovvertono le opzioni di privacy. Per Kavya Pearlman, “siamo su una strada molto pericolosa e, se non stiamo attenti, la nostra autonomia e il libero arbitrio sono a rischio; le aziende che lavorano sulla realtà virtuale dovrebbero discutere pubblicamente quali dati raccolgono e condividono e dovrebbero fissare limiti rigorosi alle inferenze che faranno sulle persone”.
Conclusioni
In conclusione, è necessario stare sempre all’erta, anche in parti del mondo dove la democrazia liberale continua a reggere sia pur tra grandi difficoltà. A queste latitudini non è lo Stato (o perlomeno con pervasività di gran lunga inferiore rispetto al Dragone) a monitorare passo dopo passo i suoi cittadini per fini di varia natura, in primis quello di mantenere il controllo sociale e politico, come abbiamo visto accadere sempre di più in Cina. Qua ci pensano i capitalisti tecnologici a insidiare la libertà delle persone per guadagnare montagne di soldi con la profilazione e l’advertising mirato. Ma più volte sono emerse finalità molto più inquietanti e più simili a quelle cinesi. Sempre dal libro di Shoshana Zuboff: “Ricordiamoci come Mark Zuckerberg si era vantato del fatto che Facebook avrebbe conosciuto ogni libro, canzone o film letto, ascoltato o visto da una persona, sostenendo che i suoi modelli predittivi ci avrebbero detto in quale locale andare al nostro arrivo in una città sconosciuta, dove il bartender ci avrebbe atteso con il nostro cocktail preferito sul bancone. Come ha sostenuto il capo del data science team di Facebook, “per la prima volta ci sono abbastanza dati di qualità sulle comunicazioni tra persone. […] Per la prima volta abbiamo un microscopio […] che ci consente di esaminare il comportamento sociale a un livello di dettaglio senza precedenti”. Questa era Facebook. Ora si chiama Meta, ma, a differenza del nome, non sono cambiati il suo CEO e i suoi progetti.
