la riflessione

Potenza e onnipotenza dell’IA nel capitalismo moderno: il futuro è ancora per tutti?

Un articolo di John Thornhill sul Financial Times esplora i rischi e i vantaggi dell’IA, evidenziando come la digitalizzazione e la propaganda industriale influenzino la società. Massimo Airoldi, in “Machine Habitus,” discute la socializzazione algoritmica e l’impatto del capitalismo di sorveglianza. La riflessione finale invita a riconsiderare il nostro rapporto con la tecnologia per evitare l’alienazione

Pubblicato il 18 giu 2024

Lelio Demichelis

Docente di Sociologia economica Dipartimento di Economia- Università degli Studi dell’Insubria

Qualche tempo fa il Financial Times si domandava, nel titolo di un articolo di John Thornhill-FT’s innovation editor: Can the AI future work for everyone? E iniziava ricordando come “since the San Francisco start-up OpenAI launched its ChatGPT chatbot in November 2022, millions of users have experienced first-hand the near-magical powers of generative AI. At the click of a mouse, it is now possible to prompt plausible Shakespearean sonnets about a goldfish, or generate fake photographs of the Pope in a puffer jacket, or translate one computer code into another” (“Da quando la start-up OpenAI di San Francisco ha lanciato il suo chatbot ChatGPT nel novembre 2022, milioni di utenti hanno sperimentato in prima persona i poteri quasi magici dell’IA generativa. Con un semplice clic del mouse, è ora possibile creare sonetti shakespeariani plausibili su un pesce rosso, o generare foto false del Papa in giacca a vento, o tradurre un codice informatico in un altro”, ndr).

Capitalismo digitale: una gabbia di vetro nella tana del Bianconiglio

Da qui le sue riflessioni sui rischi e sui vantaggi e le promesse dell’intelligenza artificiale – come ieri del digitale, della rete, dei social, come sempre del consumismo e della pubblicità, del management e del marketing, come sempre dell’industria dello spettacolo e dell’intrattenimento dove il sempre uguale (la struttura narrativa come delle serie televisive) deve però sembrare sempre nuova e diversa…

Indice degli argomenti

Potenza (e onnipotenza) dell’intelligenza artificiale (e del capitale)

Il mondo e il modo industriale delle nuove tecnologie è pieno di propaganda e di promesse che quasi mai si realizzano. Eppure ogni volta, la propaganda – o detto altrimenti: marketing, management per la digitalizzazione delle masse, social e i troppi intellettuali organici/mainstream sempre presenti in quasi tutti i dibattiti in cui si discute di digitale, lavoro digitale e oggi di IA – riparte più forte e più invasiva che prima.

Perché il mantra dell’industria digitale è sempre: dovete (noi tutti dobbiamo) adattarci a tutto ciò che noi industriali inventiamo per il nostro profitto capitalista. Ovvero, davanti a noi industria che governa il mondo e la vita di tutti, voi dovete (voi che dovete fare vostro il mantra che noi industriali oggi digitali vi insegniamo, perché non abbiate altro mondo che quello che noi industriali produciamo per voi) voi dovete praticare solo una saggia rassegnazione davanti ai dati di fatto che vi imponiamo – come sosteneva già due secoli fa il positivista Auguste Comte e il positivismo sostenendo che industria e società sono la stessa cosa, che la società è essa stessa un reparto dell’industria (una “unità industriale” scriveva un altro positivista come Saint-Simon), che deve essere organizzato quindi come l’industria e il mondo deve essere governato da industriali, banchieri e tecnocrati e scienziati (appunto, come oggi). Posto che l’ordine della scienza (oggi diciamo degli algoritmi e dell’intelligenza artificiale) e l’ordine della società si devono unire (ancora Comte) in un ordine indivisibile, “e la meta finale consiste nel giustificare l’ordine sociale esistente”[i] – e quindi diventa appunto proibito immaginare alternative al sistema.

L’habitus della modernità: come cambia la nostra relazione con la macchina

A ragionare di nuovo su potenzialità e rischi dell’intelligenza artificiale – e sulla onnipotenza del capitalismo, della colonizzazione tecnologica del vivere individuale e sociale e della alienazione di un uomo che sempre più delega la propria vita alla tecnologia/algoritmi (e dire capitalismo di sorveglianza e di piattaforma e oggi di intelligenza artificiale sempre di capitalismo e di sfruttamento capitalistico dell’uomo e della biosfera si tratta) – ci aiuta un libro come Machine Habitus, di Massimo Airoldi[ii].

Ma prima facciamo però un passo indietro e torniamo agli anni Novanta del secolo scorso. Quando tutti – industriali, economisti, sociologi, politici di destra e di sinistra, finanzieri – sostenevano, cercando di convincerci (alla fine riuscendoci perfettamente) che grazie alle nuove tecnologie avremmo lavorato meno, fatto meno fatica e avremmo risolto il fastidioso problema dei cicli economici – che un po’ vanno su (crescita) e un po’ vanno giù (recessione, stagnazione)- Noi entrando finalmente in una new era fatta di tecnologia affascinante e di crescita economica infinita e illimitata. Promettevano l’età dell’oro o il paradiso in terra. Ci abbiamo creduto quasi tutti. Ma in terra ci siamo finiti tutti noi che abbiamo appunto creduto (come bambini) a quella favola propagandistica e oggi, grazie a quelle nuove tecnologie che dovevano essere liberanti da lavoro e fatica e da recessioni economiche – e ai loro sviluppi successivi – ci ritroviamo a lavorare h24, sette giorni su sette, senza più distinzione tra tempo di vita e tempo di lavoro, i due tempi ormai perfettamente confusi tra loro (ed è lo sfruttamento massimo di quello che Marx definiva pluslavoro, posto che oggi gran parte del nostro lavoro, come la produzione di dati, è lavoro gratuito, ovvero il capitale è riuscito a compiere la magia di farci lavorare senza pagarci, noi felici di farlo tanto siamo stati catturati dal feticismo e dalla familiarizzazione con la tecnica, tanto siamo diventati ciechi da non vedere appunto neppure il nostro pluslavoro, il nostro (auto)sfruttamento di forza-lavoro digitale, tanto ciechi da non vedere che lo smartphone non è solo un giocattolo ma soprattutto è un mezzo di produzione (che sembra nostro, ma che in realtà è del capitalista) che ci mette al lavoro e ci tiene al lavoro (managerializzati per il capitale/capitalisti) seguendoci passo passo, senza lasciarci mai, neppure quando dormiamo, perché lo smartphone non dorme mai.

Lo abbiamo scritto più volte, ma ricordare quel decennio e l’eterogenesi dei fini che quella favola bella e affascinante ha prodotto su di noi – ma falsa come tutte le favole, utili soprattutto a farci adattare al sistema così com’è – e che non poteva non produrre, ma per capirlo occorreva togliere il velo ideologico, cioè appunto la propaganda che la supportava e di cui era essa stessa strumento. E togliere il velo è utile anche oggi – semmai ancora di più oggi, se ricordiamo quella favola e il suo voltarsi nel suo contrario – per non finire di nuovo (e rimandiamo a Max Weber) nella gabbia tecnica e capitalistica che si chiama intelligenza artificiale e che il capitale sta approntando per noi, gabbia nella quale saremo sempre rinchiusi fino a quando non sarà consumato l’ultimo grammo di litio (come ieri di carbone, per Weber). Allora occorreva non farci appunto catturare dal feticismo e dai totem tecnologici e dalla religione del capitalismo – secondo Walter Benjamin, o del tecno-capitalismo secondo noi. Allora ci siamo invece fatti catturare. Cerchiamo di non replicare oggi.

Ricordare quel decennio di paranoie tecnologiche e di schizofrenia esistenziale di massa, ci aiuta allora a riflettere sul nostro rapporto feticistico e infantile con la tecnologia, ancora e sempre non vedendo la differenza – fondamentale, epistemologica – tra la tecnica di ieri e la tecnica di oggi, tra il gioco del meccano di tanto tempo fa (magari qualcuno ci ha giocato, tra sottili elementi metallici pieni di buchi e una infinità di viti e di dadi minuscoli, provando a costruire gru, ponti e camion e locomotive) e uno smartphone di oggi, che sembra un giocattolo (e pieno a sua volta di giochi affascinanti e apparentemente meno stupidi del vecchio meccano), smartphone che però è soprattutto un mezzo di connessione e cioè un mezzo di produzione di profitto capitalistico. Mediante la produzione di dati da parte di tutti noi forza-lavoro che abbiamo uno smartphone per il profitto di pochi che sono i padroni di piattaforme/social/motori di ricerca eccetera eccetera. La differenza è che il meccano era un gioco singolo, spesso da giocare in solitaria; mentre lo smartphone sembra un giocattolo altrettanto singolo e personale (è sempre con me, è relazionale con me e per me) mentre in realtà converge con altri smartphone attraverso la rete digitale, ovvero non esiste se non connesso con la rete e quindi mi integra – io con lo smartphone – nel sistema tecnico e capitalista, del capitalismo delle piattaforme (la forma digitale della fabbrica fisica) e del capitalismo della sorveglianza. Facendomi lavorare a produrre dati. Incessantemente.

Noi e le macchine, di ieri e di oggi

Macchine singole e poco automatizzate, ieri; macchine integrate con altre macchine e ibridate con gli uomini, oggi. La differenza si è compiuta sotto i nostri occhi e non ce ne siamo accorti, e oggi non possiamo vivere se non connessi con le macchine e con gli altri attraverso le macchine, secondo le disposizioni permesse dalla macchine. Lo chiamiamo progresso e innovazione, ma è frutto della nostra incapacità di governare macchine che imparano da sole e che governano, esse, la nostra vita.

Vale ricordare allora – per definire appunto il nostro rapporto sempre più passivo e passivizzante, massimamente oggi con l’i.a. (anche se sembra sempre più attivo e creativo e proattivo) con le macchine anche digitali – ciò che scriveva un po’ di anni fa il sociologo e filosofo francese Jacques Ellul: “ogni nuovo elemento tecnico, ogni nuova innovazione tecnica è solo un mattone dell’edificio dell’apparato, un ingranaggio del sistema tecnico. Ed è quindi perfettamente inutile pretendere che il computer applicato alla dimensione politica [ma ugualmente dobbiamo dire – aggiungiamo, per la dimensione sociale e culturale, oltre che economica] possa diventare un organismo di decentralizzazione, di diffusione, di personalizzazione delle informazioni e di agevolazione del controllo politico. Si tratta di una utopia volta a tranquillizzarci e a permettere quindi al sistema informatico di realizzarsi. Ci troviamo qui in presenza di un fatto di importanza decisiva: l’uomo rifiuta radicalmente di conoscere il processo, e ponendo la questione in termini metafisici e assoluti, si convince che tutto sia ancora possibile […] e che il nuovo fattore tecnico sia liberatore. Così tranquillizzato lascia progredire il meccanismo e poi, quando vede il risultato, dice: Ma questo non era ciò che avevamo previsto. Ma ormai il danno è fatto”[iii]. In realtà, da tempo l’uomo non guarda più ai processi (lasciati in autonomia alle macchine) e neppure al risultato (se lo dice l’algoritmo…) e non dice più: ma questo non è ciò che avevamo previsto, perché gli uomini e la democrazia non progettano più, non controllano più e semplicemente si adattano (ancora il positivismo che ci perseguita) a un sistema tecnico (e capitalista) del tutto incontrollato e incontrollabile quanto più è automatizzato e amministrato automaticamente – e quindi anti-democraticamente e irresponsabilmente verso la biosfera e le future generazioni.

Potrebbe aiutarci un diverso rapporto con la tecnica, oggi con gli algoritmi?

La socializzazione con gli algoritmi

Scrive Massimo Airoldi, sociologo dei processi culturali e comunicativi all’Università degli Studi di Milano: un agente sociale è “un partecipante alla società, contemporaneamente partecipato da essa”. Quindi anche gli algoritmi lo sono (lo sarebbero), data la nostra relazione stretta con essi (noi producendo dati per gli algoritmi/i.a., gli algoritmi governando la nostra vita) E quindi Airoldi considera “sia individui che macchine intelligenti appunto come agenti attivi nella realizzazione dell’ordine sociale”, posto che, “come nel caso dei bambini, una volta gettati nel mondo, questi sistemi di machine learning diventano agenti sociali, che plasmano la società e ne sono a loro volta plasmati”[iv]. E richiama il sociologo francese Pierre Bourdieu e il suo concetto di habitus, inteso come “un sistema di disposizioni durature che derivano dalle strutture e condizioni di esistenza di uno specifico ambiente sociale. Tali disposizioni incarnate si formano in giovane età e tendono a orientare l’intera vita, gli scambi sociali, le pratiche e persino le percezioni”. Cioè “l’orchestrazione senza direttore d’orchestra delle pratiche individuali deriva da copioni culturali incarnati che contemporaneamente abilitano e vincolano l’azione, senza bisogno di regole fisse e di deliberazioni razionali”, essendo diventate parte del pre-conscio individuale ma anche sociale. Apparentemente, quindi, l’habitus è bi-direzionale, habitus e individuo (uomo e algoritmi) si costruiscono e soprattutto di riproducono in una reciproca relazione, tra universale e particolare.

Il problema – che però, a differenza di Airoldi, ci impedisce di parlare di socializzazione tra algoritmi e uomini è che questo habitus è pro-dotto e ingegnerizzato, dalla rivoluzione industriale in avanti, da quella che chiamiamo razionalità strumentale/calcolante-industriale che si fa pedagogia di con-formazione di massa e uni-dimensionale (come visto già da Marcuse negli anni Sessanta nel suo L’uomo a una dimensione, più attuale oggi di allora), appunto attraverso management, marketing, industria culturale e oggi social. Razionalità in realtà totalmente irrazionale (vedi crisi climatica e ambientale) ma che è il direttore d’orchestra che crea l’habitus della modernità, al quale gli individui devono adattarsi e solo adattarsi con saggia rassegnazione (ancora il positivista Comte), eseguendo la partitura secondo le indicazioni di tecnica e capitale. Producendosi quindi una disposizione duratura che non nasce più (se mai lo è stata) dall’interazione sociale (dove particolare e universalesono in un rapporto costituente e istituente reciproco), ma industriale e industrializzato (dove l’universale-capitalismo pre-determina il particolare individuale, lo ingegnerizza, lo plasmasecondo le proprie esigenze produttive, consumative e oggi di datificazione – questo è appunto human engineering – gli algoritmi/i.a. essendo il mezzo di produzione anche o soprattutto dell’habitus per la prosecuzione della rivoluzione industriale e della divisione del lavoro e insieme il mezzo di ingegnerizzazione comportamentale dell’uomo.

La codificazione della realtà e della conoscenza: tra industria e management

Airoldi definisce “il machine habitus come il meccanismo chiave attraverso il quale particolari condizioni storiche, disposizioni culturali e strutture sociali vengono codificate in sistemi algoritmici socializzati, attraverso contesti di dati […]”[v] – ma occorre tuttavia ricordare che la codificazione della realtà e della conoscenza è processo tipico dell’industria e del management (e della scienza), da ben prima di Taylor ma soprattutto da prima della sua organizzazione scientifica del lavoro. E allora e su tutto, può esserci socializzazione tra umani e algoritmi, tra umani e numeri/dati (sì se anche l’uomo viene ridotto a numero, no se vogliamo/dobbiamo restare umani)? Oppure dovremmo piuttosto dire, come ci sembra più corretto, che gli algoritmi sono una forma di ingegnerizzazione e di industrializzazione comportamentale eteronoma dell’uomo perché sia appunto – come vuole/impone il sistema – forza-lavoro, tra algoritmi predittivi e di accompagnamento, tra macchine che imparano da sole e intelligenza artificiale che si prospetta come la totale espropriazione dell’uomo da conoscenza, riflessività, responsabilità?

Lo conferma anche Airoldi, verso la conclusione del suo suggestivo e ricco tentativo di costruire una sociologia degli algoritmi: “gli algoritmi […] in quanto tecnologie opache che orientano le nostre vite digitali, contribuiscono a reiterare meccanismi di distinzione, governando la circolazione dei contenuti culturali e filtrandoli secondo logiche di personalizzazione e dipendenza dal percorso. […] Insomma, le macchine sono certamente diverse dagli esseri umani, ma forse contribuiscono ancor più di noi alla riproduzione di un ordine sociale diseguale ma naturalizzato”[vi] – e rimandiamo di nuovo a Comte e al positivismo. Naturalizzato, ma sempre e comunque artificiale.

Algoritmi e intelligenza artificiale: strumenti di produzione o di alienazione?

E tuttavia Airoldi ribadisce “che non sono gli agenti artificiali in sé i responsabili dei processi (reali o immaginati) di degradamento, sfruttamento e irreggimentazione della vita sociale. Il problema non è il machine learning strictu sensu […], ma semmai gli obiettivi inscritti nel codice e, soprattutto, il suo contesto applicativo più ampio: un capitalismo della sorveglianza che schiavizza le macchine socializzate insieme ai loro utenti”[vii]. In realtà per noi sono soprattutto questi agenti artificiali in sé, per sé e per propria essenza e usabilità (Heidegger) a produrre incessantemente e oggi sempre più pervasivamente i processi di frammentazione, alienazione, de-politicizzazione/de-socializzazione e quindi di sussunzione/incorporazione, messa al lavoro degli operai che oggi devono produrre dati e sempre più dati.

E allora è forse utile riprendere, anche per chiarire il nostro rapporto con gli algoritmi, il concetto di socializzazione di ruolo/funzione, che è l’apprendimento delle prescrizioni (Luciano Gallino nel suo Dizionario di sociologia), “in forza delle quali l’individuo è plasmato come essere sociale capace di pensare e di agire in conformità ai valori e alle norme dominanti nella società di cui fa parte, o, più specificamente, in un dato settore di essa. In tal modo l’individuo si formerà una struttura motivazionaletale da fargli trovare gratificante il fatto di agire come deve agire in base ai ruoli che gli sono prescritti”. E che oggi sono prescritti appunto dalle nuove tecnologie (dagli algoritmi predittivi, dalla i.a., ma sempre dentro e finalizzate al ruolo e funzione che ciascuno deve apprendere e svolgere nel sistema della rivoluzione industriale e della divisione del lavoro, cioè di produttore, consumatore, generatore di dati, spettatore.

Evitare la gabbia del capitalismo digitale: un nuovo approccio alla tecnologia

E allora, tornando all’inizio, prima di domandarci Can the AI future work for everyone? dovremmo chiarire la nostra posizione nel mondo e il nostro rapporto con la tecnica ( di soggetti oppure di oggetti della tecnica e del suo capitalismo?). Per evitare di chiuderci nuovamente e feticisticamente nella gabbia del capitalismo oggi digitale, le cui sbarre non sono solo un codice a barre (o un QR Code).