Cosa ci salverà dal tecno-capitalismo? Due esempi di cosa rischiamo col “governo” degli algoritmi

Le dimissioni del Governo olandese in seguito allo scandalo legato all’utilizzo dell’algoritmo fiscale Syri e la temporanea cancellazione dell’app del Manifesto dal Play Store Google sono due episodi emblematici di quanto oramai la nostra vita sia sempre più dominata in ogni aspetto e minimo dettaglio da aziende private, dai loro algoritmi e dalle loro regole. Soggetti che senza tema di smentita possiamo definire a/antidemocratici.

Ma c’è qualcosa che potrebbe salvarci da quello che oggi qualcuno chiama totalitarismo d’impresa? Sì, e ce lo ricorda George Orwell.

Il caso Syri: frode fiscale e gogna digitale?

Lo scorso dicembre, in Olanda, era stato pubblicato un Rapporto parlamentare con un giudizio politico e morale già nel titolo: “Ingiustizia senza precedenti”. Lo scandalo – sì, perché l’ingiustizia è o dovrebbe essere sempre scandalosa, cioè produrre indignazione e ribellione – era questo: il fisco olandese aveva chiesto erroneamente la restituzione dei sussidi sociali ottenuti tra il 2013 e il 2019 da 26mila famiglie in difficoltà, molte delle quali immigrate. Il primo ministro olandese Mark Rutte – appartenente a quei politici che molti mass/social media avevano definito frugali per la loro ossessione neoliberale per il rigore nei bilanci pubblici – ha dato nei giorni scorsi le dimissioni, dopo avere accusato quelle 26mila famiglie di frode fiscale per poi scoprire che si era trattato di un errore dello Stato.

Il problema era nato a proposito dei “kinderopvangtoeslag”, i bonus per i figli che vengono dati alle famiglie per contribuire al pagamento degli asili, strutture private con rette mensili che possono arrivare ai mille euro per ogni figlio. Il governo ne rimborsa una parte secondo il principio del meno si guadagna più si riceve. Per richiedere i bonus si devono però compilare complicati moduli sia online che in formato cartaceo. La possibilità di compiere errori, anche se in buona fede, è molto alta. Rutte ha ammesso le colpe, non dirette ma comunque indirette, riconoscendo che “lo Stato di diritto deve proteggere i suoi cittadini da un governo onnipotente, che ha fallito in modo orribile”. Ed ha promesso che le famiglie a cui era stato ingiustamente chiesto di restituire i sussidi ricevuti – e molte erano state costrette a indebitarsi per poterlo fare – saranno indennizzate (si parla di 30mila euro). “Non si può sbagliare di nuovo”, ha chiosato Rutte, promettendo di modificare il sistema delle indennità e dei sussidi. Di più: il fisco olandese ha anche ammesso – aggiungendo così scandalo allo scandalo – che migliaia di famiglie sono state sottoposte a verifica sulla base delle origini etniche o perché aventi una doppia nazionalità.

Tutto è bene quel che finisce bene, verrebbe da dire. Errore del fisco olandese, errore della frugalità neoliberale. Errore del software e degli algoritmi.

Errori politici, quindi, ma anche errori tecnologici, di impostazione e di funzionamento degli algoritmi. Di loro opacità.

In realtà, lo scandalo ha origini più antiche che ci portano a febbraio del 2020. Per controllare i comportamenti fiscali dei cittadini – come detto – si era fatto ricorso all’intelligenza artificiale e grazie a un algoritmo si verificavano i comportamenti dei beneficiari del sistema di welfare – in nome della presunta esattezza e verità di un algoritmo, cioè sulla base di una valutazione puramente matematica della vita sociale delle persone, dimenticando eticità e giustizia sociale. Ma a fermare questa che era una sorta di “Minority report fiscale” era intervenuto, appunto agli inizi del 2020 un tribunale olandese, ordinando l’arresto immediato del sistema di sorveglianza automatizzato, accusato di violare i diritti umani. Per il relatore speciale delle Nazioni Unite sull’estrema povertà e sui diritti umani, Philip Alston, è stata “una delle prime volte in cui un tribunale del mondo ha condannato l’utilizzo delle tecnologie digitali e dei Big Data da parte delle autorità di assistenza sociale per ragioni legate ai diritti umani”. Ovvero, dopo gli algoritmi razzisti e di genere della polizia americana, anche gli algoritmi fiscali – ancora la razionalità strumentale/calcolante che li determina, insieme alle scelte politicamente e volutamente discriminatorie che li usano e ne abusano – violano i diritti umani. Sì, perché il sistema di vigilanza olandese (SyRI) “è un modello di calcolo del rischio sviluppato nell’ultimo decennio dal ministero degli Affari sociali e del lavoro per prevedere la probabilità che un individuo commetta una frode fiscale o violi le leggi sul lavoro. È stato utilizzato principalmente in quartieri a basso reddito e raccoglie i dati provenienti da diverse fonti: occupazione, debiti personali, registri delle indennità, curriculum scolastici e spese per alloggio. Tutti questi dati producono un algoritmo che riesce a prevedere per quali individui c’è un rischio più elevato di commettere frodi allo stato sociale”^[1]. “Minority report fiscale”, appunto, dove l’algoritmo cerca la probabilità che qualcuno socialmente discriminato commetta un reato fiscale. Il Panopticon si è evoluto e da tempo si è fatto quindi anche digitale e – grazie al digitale – discriminante e discriminatorio. Per il tribunale, “SyRI conteneva garanzie insufficienti contro le intrusioni della privacy”, e quindi ne criticava la “grave mancanza di trasparenza” sul come funzionava l’algoritmo.

Il manifesto non è un giornale

Seconda notizia. La app del giornale il manifesto era stata rimossa unilateralmente – dimostrando una profonda ignoranza della realtà reale – da Play Store di Google per i dispositivi Android. Dopo tre giorni di buio – come ha sintetizzato Matteo Bartocci – “un portavoce di Google ieri ha chiamato il manifesto scusandosi”. Google si è giustificata così: “L’intervento era legato ad un nostro errore e abbiamo prontamente ripristinato la app. Ci scusiamo per l’inconveniente”. Google ha quindi spiegato di avere “regole stringenti che definiscono quale contenuto è ammissibile su Play Store, a fronte delle quali rivediamo migliaia di app al giorno e interveniamo laddove necessario”. Regole stringenti – dove però la verità dettata dall’algoritmo prevale sul buon senso e sulla realtà reale – ma evidentemente incapaci di capire che quella era la app di un giornale che ha 50 anni di storia e che è veramente libero da padroni. Continuava Matteo Bartocci: “La cosa ha fatto comunque scalpore sia dentro che fuori la Rete. Tutti, volenti o no, usiamo i servizi di Google e capire che si può sparire e ricomparire con un abracadabra è stato un colpo per molti. Secondo Fulvio Sarzana, avvocato esperto di privacy – intervistato da Alessandro Longo su Repubblica – è saltato il bilanciamento di poteri che è alla base dello Stato di diritto. Il caso del manifesto è interessante perché Google si sta sostituendo all’autorità pubblica amministrativa nel verificare le caratteristiche di un giornale”. Quindi, ancora Bartocci, “Non è escluso che il nostro caso possa fare da apripista a regolazioni diverse delle attività delle piattaforme nei confronti di soggetti come la stampa che sono costituzionalmente protetti da ogni interferenza pubblica e privata”.

E rimandava all’articolo 21 della nostra Costituzione – legge suprema, prescrittiva e vincolante – che riconosce il diritto di libertà di manifestare il proprio pensiero con la parola, lo scritto e ogni altro mezzo di comunicazione, ammettendo che spetti solo ed esclusivamente all’autorità giudiziaria (e quindi non a un’impresa privata come è Google) il potere di procedere a sequestro, ma comunque e sempre con un atto motivato. Ma non basta: l’articolo 15 sempre della nostra Costituzione (riconfermata con voto popolare al referendum del 2016), riconosce che la libertà e la segretezza della corrispondenza e di ogni altra forma di comunicazione sono inviolabili e anche qui “la loro limitazione può avvenire solo ed esclusivamente per atto motivato dell’autorità giudiziaria”. Con il che – articolo 15 più articolo 21 – secondo la nostra interpretazione ogni censura, ma anche ogni profilazione a fini capitalistici della vita umana, ogni algoritmo predittivo, ogni controllo della posta elettronica, ogni esoscheletro eccetera sono tutte azioni/pratiche/attività in aperta violazione della Costituzione, a prescindere dal Gdpr. Sarebbero in aperta violazione, se invece ogni giorno, in ogni atto della nostra vita digitale, noi non acconsentissimo di fatto a questa violazione: che è diventata normale, un dato di fatto che pare non più modificabile (troppo ricco e politicamente potente è il business che vi ruota attorno e attraverso), noi stessi violando i nostri diritti umani e civili e politici. E il nostro eventuale consenso non può aggirare o negare ciò che la legge prevede e impone, perché anche se dessimo il nostro consenso ad essere ridotti in schiavitù sarebbe comunque un reato. Conclude Matteo Bartocci: “Nell’attesa di nuove regole che inevitabilmente prima o poi arriveranno [quanto accaduto al “Manifesto”] è perciò un invito in più a usare solo ciò che serve, a mettere più sabbia possibile negli ingranaggi dei Big Data, a informarsi direttamente alle fonti decentralizzate (carta e web) e non su scintillanti vetrine che promettono molto più di quello che possono effettivamente mantenere”^[2].

La rete-fabbrica e la sua organizzazione scientifica della vita umana

In realtà, da tempo noi deleghiamo la regolamentazione e il governo della nostra vita digitale (che è sempre più vita civile, politica, culturale, sociale) – ma non solo – a norme imposteci da imprese private per il loro profitto privato. Cioè, la nostra vita intera è sempre più regolamentata e governata in ogni suo più piccolo dettaglio da soggetti privati (e dai loro dispositivi tecnologici ma soprattutto normativi) che, per tendenza e per vocazione, sono a/anti-democratici. Sembra un paradosso, ovviamente; e lo è. Eppure, è la normalità della nostra vita e sembra che a tutti vada bene così. Ma – facendo qualche paragone – è come se affidassimo/delegassimo la scrittura del codice della strada e la sua applicazione alle industrie automobilistiche, la regolamentazione della caccia ai cacciatori, la repressione dei furti ai ladri. Siamo allora in quella che oggi qualcuno chiama finalmente tecno-dittatura, o meglio – come scriviamo inascoltati da più di dieci anni – di totalitarismo tecno-capitalista (ma ne parlava già mezzo secolo fa e anche più la Scuola di Francoforte in diverse declinazioni, da Marcuse a Horkheimer-Adorno).

Ovvero, il tecno-capitalismo non produce solo beni e servizi, ma oggi governa la nostra vita anche dal punto normativo e sanzionatorio. Quello che era il sogno del neoliberalismo – trasformare l’economia di mercato in una società di mercato dove tutto è industria e impresa e competizione/concorrenza – si realizza oggi in quello che era il pericolo massimo – sempre per i francofortesi – di avere una società amministrata e automatizzata^[3], oggi appunto controllata e amministrata da algoritmi/macchine/IoT/AI: indirettamente come nel caso olandese, ma analogamente e direttamente in quasi tutti i paesi del mondo tramite appunto imprese private. Per una società/polis governata da una razionalità solo strumentale/calcolante-industriale – e strumentale perché finalizzata alla massimizzazione del profitto e del controllo; calcolante perché la realizzazione di questo fine di profitto privato passa attraverso lo strumento del calcolo/calcolabilità/prevedibilità, quindi mediante la riduzione della ricchezza e della molteplicità/diversità della vita in sua mera matematizzazione/reificazione/datificazione e sulla esattezza/efficienza matematica di un algoritmo immaginato per essere il nuovo regime di verità^[4] nella e della società tecnologica, a prescindere da etica e umanità; industriale, perché oggi tutto è industria e tutto è industrializzato per essere merce, compresa la vita dell’uomo tradotta in dati attraverso tecniche di ingegnerizzazione dei comportamenti (e a molta dopamina distribuita gratuitamente per indurre dipendenza) e/o di economia comportamentale.

Con però l’aggiunta, oggi – tendenza ancora più pericolosa – di avere una vita intera appunto governata/guidata/motivata/organizzata da imprese private che – ricordiamolo sempre – non sono diventate social per amore dall’umanità, ma per massimizzare ancora di più il proprio profitto/plusvalore, mettendo a pluslavoro crescente non solo il lavoro e il consumo delle persone (come nel ‘900), ma estraendolo (il profitto/plusvalore attraverso il pluslavoro di tutti) dalla vita anche o soprattutto sociale, relazionale, intima, emozionale delle persone.

Se l’Organizzazione Scientifica del Lavoro di Taylor si applicava dentro la fabbrica, oggi che la rete è diventata anche o soprattutto una fabbrica integrata e globale possiamo dire forse che l’Organizzazione Scientifica/algoritmica della vita intera dell’uomo è governata e organizzata da imprese private la cui azione normativa diretta è uscita dalle fabbriche fordiste per diffondersi sull’intera società – che diventa così non solo società di mercato, ma società-fabbrica o società tecno-capitalista, dove tutti siamo messi al lavoro h24 lavorando, consumando e producendo dati. Più che di tecno-dittatura dobbiamo allora parlare di totalitarismo d’impresa se appunto il suo comando (semplifichiamo un po’, ma giusto per essere più chiari) non è più solo dentro la fabbrica, ma si impone sulla vita intera dell’uomo e della società. Totalitarismo d’impresa – parte del più ampio totalitarismo del calcolo e della razionalità industriale/industrialista – che non solo scrive e poi detta la legge, divenendo potere legislativo/normativo ed esecutivo insieme, ma è anche potere giudiziario decidendo da se stessa e per se stessa del giusto e dell’ingiusto, del possibile e del non possibile, del vero e del falso, oggi capace anche di comminare sanzioni e pene (il manifesto cancellato) non solo dentro la fabbrica fordista, ma nella società-fabbrica in forma di rete – la sua autorità estendendosi ormai sul globo intero.

Con la differenza che Rutte si è dimesso davanti allo scandalo della sua “Minority report fiscale”, mentre nessuno chiede le dimissioni di Sundar Pichai, Ceo di Google/Alphabet – e tutto si chiude con un “ci scusiamo per l’inconveniente”, mandato al “manifesto”.

Ovvero, a due secoli di distanza – più che la distopia neoliberale – si realizza la distopia dei positivisti/razionalisti-strumentali/calcolanti-industriali come Claude Henry de Saint-Simon (1760-1825), che divideva la società tra industriali e oziosi e la immaginava governata da scienziati e industriali, con i grandi banchieri e i grandi industriali visti come “guide” dei lavoratori: ovvero scienza & tecnica intese come motori e organizzatori dell’intera società^[5].

Tutto questo mutamento istituzionale e di trasferimento di potere è stato reso evidente anche dalla questione dell’uso di Trump dei social, dove il problema vero è che a decidere se e come oscurare le paranoie e i golpismi del presidente uscente è sempre un’impresa privata, che decide in termini di opportunismo di business a prescindere da una decisione politica o della magistratura e da un preliminare giudizio di legittimità della censura e dalla valutazione di un possibile reato; e dalla questione WhatsApp, portando l’Authority italiana per la tutela della privacy a scrivere: “Il Garante ritiene che dai termini di servizio e dalla nuova informativa non sia possibile, per gli utenti, evincere quali siano le modifiche introdotte, né comprendere chiaramente quali trattamenti di dati saranno in concreto effettuati dal servizio di messaggistica dopo l’8 febbraio. Tale informativa non appare pertanto idonea a consentire agli utenti di WhatsApp la manifestazione di una volontà libera e consapevole.” Ovvero, Zuckerberg ci vuole ignoranti della sua legge/norma (i termini di servizio e sulla privacy), che però dobbiamo accettare a prescindere, rovesciando il “non è ammessa l’ignoranza della legge”.

Orwell e la scienza

E allora – dopo questa ulteriore riflessione su qual è (e dove risiede) il vero potere nelle società di oggi – cioè il potere della razionalità strumentale/calcolante-industriale, personificato in imprese private – concludiamo con le parole di George Orwell, di cui è appena uscito un volume di suoi scritti inediti in Italia, dal titolo “Fuori dalla balena”^[6], a proposito di scienza (che non è la tecnica, ma ne è parente stretta, essendo fondate entrambe sulla medesima razionalità) e di umanesimo, Orwell temendo di fatto un governo di scienziati (oggi direbbe forse: di industriali): “Il fatto è che una mera formazione in una o più delle scienze esatte, pur combinata con grandissimi talenti, non è garanzia di una visione umana o scettica. I fisici di mezza dozzina di grandi nazioni, che stanno tutti ferventemente e segretamente lavorando alla bomba atomica, ne sono una dimostrazione. Ma tutto ciò significa che il pubblico generico non dovrebbe essere più istruito scientificamente? Al contrario! Significa soltanto che l’educazione scientifica per le masse produrrà pochi benefici e probabilmente un mucchio di danni, se si riducesse semplicemente a più fisica, più chimica, più biologia, ecc., [oggi noi diremmo: più competenze informatiche, più skills digitali, più semplificazione, più delega alla tecnica] a detrimento della letteratura e della storia. Il suo probabile effetto sull’essere umano medio sarebbe di ridurre la portata dei suoi pensieri e di renderlo più che mai sprezzante verso tale conoscenza come se non la possedesse; e le sue reazioni politiche sarebbero probabilmente in qualche modo meno intelligenti di quelle di un contadino illetterato che abbia immagazzinato una qualche memoria storica e un senso estetico sufficientemente solido”.

BIBLIOGRAFIA

1. https://europa.today.it/lavoro/algoritmo-falis-poveri.html ↑
2. M. Bartocci, “Google si scusa e la app del manifesto ricompare”, il manifesto del 16 gennaio 2021 ↑
3. Cfr., M. Horkheimer (2000), “L’eclisse della ragione. Critica della ragione strumentale”, Einaudi, Torino (ma l’edizione originale è del 1947); e Id., “La società di transizione. Individuo e organizzazione nel mondo attuale”, Einaudi, Torino ↑
4. E. Sadin (2019), “Critica della ragione artificiale”, Luiss, Roma, pag. 59 ↑
5. In L. Demichelis (2020), “Sociologia della tecnica e del capitalismo. Ambiente, uomini e macchine nel Tecnocene”, FrancoAngeli, Milano, pag. 104 ↑
6. G. Orwell (2021), (a cura di Marco Settimini), “Fuori dalla balena”, Aspis Edizioni, Milano ↑