Con l’AI l’uomo non è più sapiens? Gli effetti del nostro innamoramento per ChatGPT

ChatGpt è la star del momento. E ogni giorno, una notizia nuova: ChatGpt ha superato il test di medicina; sa scrivere una tesi (e già i docenti cercano di immaginare un nuovo software antiplagio come Compilatio.net); scrive articoli per i giornali e i giornalisti stanno iniziando a percepire sulla loro pelle che anche il loro lavoro è a rischio – dopo avere magari propagandato per anni, assecondando improbabili docenti di Scuole di business e guru à la Steve Jobs ed evitando ogni pensiero critico, che il digitale era il nuovo che avanzava e che non si poteva né doveva fermare, che era un epocale cambio di paradigma, qualcuno proponendo addirittura, anni fa, di dare a Internet il Premio Nobel per la pace (sic!).

ChatGPT, attenti: rischiamo l’appiattimento culturale

D’altra parte, la qualità di certi siti di informazione – di mass media un tempo autorevoli – ma ormai ridotti a siti soprattutto di gossip è talmente caduta in basso che una macchina come ChatGpt sicuramente li supera in qualità e capacità di approfondimento, evitando anche gli errori di grammatica.

Perché questo nostro innamoramento (reale o indotto?) per ChatGpt? Tecnofilia a prescindere? Feticismo per l’intelligenza artificiale? O siamo bambini che vogliono giocare con il nuovo Meccano? Oppure – e peggio – è una volontaria ed edonistica auto-alienazione da sé come persone, da sé come uomini sapiens, dalla propria libertà, dalla democrazia, dalla conoscenza e dal sapere? Oppure è la felicità per l’avvicinarsi/concretizzarsi (siamo stanchi di dover pensare e di dover decidere, davvero troppo faticoso!) dell’Algoritmo Definitivo, scritto con le maiuscole come Dio, di cui scriveva anni fa Pedro Domingos e in grado di estrarre tutte le informazioni dal Big Data e di darci le risposte prima ancora di avere fatto le domande^[1]?

L’uomo tecnologico non-sapiens

Uomini sapiens (di più: sapiens-sapiens), così ci vantiamo di essere, con molta presunzione. Ma oggi ci crediamo ancora più sapiens avendo creato l’intelligenza artificiale, dimenticando che non è intelligente e neppure artificiale^[2], ma è una mega-macchina che saccheggia risorse naturali, sfrutta il lavoro umano, uccide la privacy (cioè la base imprescindibile della libertà individuale) e compromette l’eguaglianza. Mega-macchina che in realtà, e soprattutto, espropria l’uomo del suo aggettivo di sapiens, perché non si può essere sapiens – per la contraddizione che non lo consente – se si produce qualcosa come ChatGpt che funziona senza l’uomo, a prescindere dall’uomo che la usa, semmai sfruttando l’uomo che deve produrre i dati di cui necessita l’intelligenza artificiale per vivere, sostituendosi all’uomo che diventa quindi homo stultus. Perché non si può essere sapiens – sempre per la contraddizione che non lo consente, anche se siamo affascinati dall’idea di poter vivere (meglio: funzionare) secondo questa contraddizione che ormai sconfina nella paranoia e nella schizofrenia – perché non si può essere sapiens, appunto, lasciando, come ha scritto Shoshana Zuboff in uno dei suoi interventi sul NYT, che “gli imperi aziendali della sorveglianza competano ormai con la democrazia sui diritti fondamentali e sui principi legali su cui essa si fonda, usando a proprio vantaggio il controllo assoluto e il potere totale che hanno su sistemi e infrastrutture di informazione di vitale importanza con lo scopo di allontanare le persone dai governi, sostituire la società con sistemi computazionali e installare un governo computazionale al posto della democrazia”^[3].

Detto in breve: non si può essere sapiens se la sapienza/intelligenza viene trasferita in una macchina, che per di più impara da sola. Non basta definirla intelligente per definire anche noi come intelligenti/sapiens – perché rinunciare alla sapienza è da stupidi/stolti e si diventa nichilisti di sé stessi, annullandosi/azzerandosi come soggetti. Certo, scrivendo questo non diciamo niente di nuovo e sono secoli che ci si interroga sull’uomo, sul bene e sul male, sul giusto e sull’ingiusto, sulla Ragione e sulla Sragione. E qualcuno potrebbe aggiungere di nuovo che, viste le pessime condizioni in cui abbiamo ridotto il mondo e la società umana – crisi climatica e ambientale, guerre a pezzi e guerre intere, disuguaglianze crescenti e povertà che aumenta mentre i ricchi sono sempre più ricchi – tanto sapiens non siamo, essendo diventati ormai compulsivamente e capitalisticamente sado-masochisti verso noi stessi e verso la biosfera.

Ma oggi l’uomo non-sapiens si è fatto egemone e sta negando e rinnegando se stesso come mai prima d’ora – e lo fa voluttuosamente e quasi edonisticamente e narcisisticamente (specchiandosi nella macchina e innamorandosi di sé come macchina), in nome della libertà (in realtà negandola) e dell’intelligenza (artificiale) – e ciò proprio grazie a una intelligenza artificiale che cessa di essere un mezzo nelle mani ragionevoli e sapienti e consapevoli e responsabili di un uomo che dovrebbe essere sapiens, per diventare un totalmente altro dall’uomo: uomo che conseguentemente diventa totalmente stultus, anche perché messo lì a produrre, a pluslavoro totale (quindi, stultus all’ennesima potenza) sempre più dati che servono per chiuderlo ancora di più nella gabbia virtuale del tecno-capitalismo, evoluzione a sua volta della gabbia d’acciaio capitalistica, definita centoventi anni fa da Max Weber (“che oggi determina con strapotente costrizione, e forse continuerà a determinare finché non sia stato consumato l’ultimo quintale di carbon fossile, lo stile della vita di ogni individuo, che nasce in questo ingranaggio, e non soltanto di chi prende parte all’attività puramente economica”).

Per un’AI etica occorre uno sforzo globale: cosa devono fare aziende e governi

Sapiens, sapienza, insipienza

Sapiens, ovvero: saggio, sapiente, ragionevole, avveduto. Sapienza, ovvero saggezza, ragionevolezza, avvedutezza, responsabilità. E soprattutto, consapevolezza: che è l’elemento essenziale per la costruzione dei processi di autonomia, individuazione, democrazia e libertà individuale; consapevolezza che va riferita: “a) all’atto fondamentale che apre gli occhi del soggetto [cioè dell’individuo] sul mondo e lo mette in condizione di trovarsi di fronte ad esso e di dividere la propria esperienza in soggettiva e oggettiva; b) all’atto con cui il soggetto si introduce nella propria esperienza distinguendo l’immaginario dal reale; c) all’atto con cui il soggetto dispone la propria presenza nel mondo”^[4]. Consapevolezza intesa quindi come capacità e come possibilità di un soggetto umano (individuo ma anche la società come insieme di individui) di conoscere, comprendere, valutare la realtà, distinguendo tra reale e immaginario o virtuale, tra valutazione soggettiva e oggettiva della realtà. Qualcosa – la consapevolezza e quindi la responsabilità – che l’uomo perde totalmente delegando se stesso all’intelligenza artificiale – tranne i casi (sempre più rari) in cui questa sia ancora un mezzo e non un fine, il fine del tecno-capitalismo. L’uomo passando quindi – grazie alla tecnica – dalla sapienza all’insipienza, che è quella condizione di degenerazione psichica – che noi associamo all’alienazione, al conformismo, ai comportamenti other directed che però devono sembrare inner directed, alla paranoia e alla schizofrenia – di una persona ignorante e sciocca ma che presume di sapere, solo perché ha una intelligenza artificiale/ChatGpt che sa e pensa per lui.

Noi e la tecnologia

ChatGpt è allora l’occasione per tornare a riflettere sul nostro rapporto malato con le macchine e con l’innovazione tecnologia – sempre e comunque dominata da una nostra visione idilliaca, infantile/puerile (crediamo sia un giocattolo con cui giocare e tornare felicemente bambini al parco giochi), irresponsabile e non precauzionale (per le sue evoluzioni future e per i suoi impatti sociali e ambientali) – senza capire cioè che la tecnologia di oggi non è la tecnologia di ieri. Una differenza che – proprio per il nostro feticismo tecnologico, per il nostro pensare che anche ChatGpt non sia affatto diversa dal vecchio Meccano – non vediamo, anzi rifiutiamo di vedere (è una sorta di rimosso compulsivo che affonda nella nostra psiche), cioè di prendere consapevolezza di una differenza che è invece sostanziale. Per farlo – per provare a distinguere tra tecnologia (e tecnica) di ieri e di oggi – ci appoggiamo a un grande filosofo della tecnica come Günther Anders (1902-1992) e alle sue riflessioni contenute nei due volumi de “L’uomo è antiquato”^[5], ricordando che da poco sono usciti anche i suoi “Stenogrammi filosofici”^[6], deliziosa, godibile e importante (per le riflessioni cha a sua volta produce nel lettore) raccolta di aforismi.

Dunque, Anders (e ne riassumiamo i punti principali): a) non esistono più macchine singole, ma tutte le macchine convergono in macchine sempre più grandi, in mega-macchine appunto, in mega-apparati/sistemi; e “la convergenza dei sistemi, che avviene già da lungo tempo [Anders lo scriveva nel 1977] è inarrestabile e questa convergenza è causata dalla tecnica [perché appunto l’integrazione e l’accrescimento sono nella essenza della tecnica] e la tecnica è la rivoluzione che si sviluppa in modo permanente; essa non si muove nella direzione delle libertà dell’uomo, bensì nella direzione del totalitarismo degli apparecchi; e come pezzi di questo mondo di apparecchi noi uomini siamo, nel migliore dei casi, proletari; o probabilmente qualcosa di molto peggio”^[7]. La mia vecchia macchina da scrivere meccanica e quella di mio nonno, ancora con una custodia in legno, erano macchine singole; il pc da cui sto scrivendo questo articolo è una macchina che da sola, se non fosse integrata in rete, se non convergesse con altre macchine, sarebbe poco più di una macchina da scrivere, ma appunto, è molto di più, converge in una mega-macchina o in una mega-fabbrica capitalista chiamata rete, anche se ci illudiamo che sia nostra/personal. Questa convergenza però non è solo delle macchine, ma anche di noi che ci affidiamo a queste macchine: cioè anche noi veniamo integrati/convergiamo/siamo sussunti in un sistema tecnico (e capitalistico) artificiale che non controlliamo, di cui siamo parti che si credono autonome e libere mentre in realtà ne siamo appunto i proletari (produciamo dati senza limiti di orario) e funzioniamo come le macchine ci chiedono di funzionare, ai tempi-ciclo dettati dalle macchine, oggi producendo e consumando appunto h24 e allo stesso tempo accrescendo sempre più la nostra produttività e il nostro pluslavoro per il plusvalore del tecno-capitale; b) le forme tecniche – i modi con cui funzionano le macchine – diventano forme sociali, e strutturano l’organizzazione della società sulla base del funzionamento delle macchine e delle esigenze delle macchine e del capitale; cioè sempre più viviamo, agiamo, pensiamo, di informiamo, comunichiamo secondo le norme di funzionamento delle macchine e della convergenza tra macchine, escludendo ogni libero arbitrio; c) queste macchine non sono più mezzi nella libera disposizione dell’uomo (non lo erano neppure le macchine che hanno avviato la rivoluzione industriale, ma oggi non lo sono molto più di allora e dell’intero ‘900 – e queste macchine disciplinano e soprattutto organizzano-comandano-sorvegliano i nostri comportamenti (sono cioè forme/norme comportamentali disciplinari e biopolitiche secondo Michel Foucault o psicopolitiche secondo Byung-Chul Han); d), è appunto nell’essenza della tecnica dover fare tutto ciò che tecnicamente si può fare, cioè “il tecnicamente possibile è quasi sempre accettato come obbligatorio” (appunto, l’innovazione non si può e non si deve fermare mai, anche se l’innovazione minaccia libertà, democrazia e biosfera); e) in questo sistema inoltre “è difficile stabilire dove finisce l’educazione e dove ha inizio l’addestramento” a produrre, consumare e soprattutto a far funzionare le macchine (ecco le competenze/skills richieste dal sistema industriale/digitale, piegando la scuola ad essere produttrice di forza-lavoro e non luogo di riflessione e di pensiero critico), addestrando ciascuno a ibridarsi con le macchine, sussumendosi nella/alla forma/norma di funzionamento delle macchine e del capitalismo (profitto, produttività sempre crescenti); f) in ogni macchina è innata una volontà di potenza, diventando maggiore di se stessa (il digitale, che al tempo di Anders ancora non c’era e oggi sì, ne è uno degli esempi); g) la tecnica – e non più l’uomo – è il nuovo soggetto della storia e quindi non siamo più nell’Antropocene, come qualcuno si ostina a ripetere senza prendere consapevolezza dei mutamenti antropologici avvenuti e generati e poi ingegnerizzati dalla tecnica – ma (andando oltre Anders), nel Tecnocene: cioè il mondo è governato sempre più dalle machine, dall’intelligenza artificiale – e governato significa che tutta la nostra vita passa attraverso macchine ed è organizzata, comandata (ciò che dobbiamo fare e come) e sorvegliata da macchine/algoritmi.

Oltre Anders

Con Anders abbiamo dunque ricordato qual è l’essenza del sistema tecnico, cioè la sua logica di accrescimento illimitato/infinito: una essenza che si combina nichilisticamente con quella del capitalismo, dominato anch’esso da una logica di accrescimento infinito e illimitato in questo caso del profitto privato, attraverso l’espansione infinita e la convergenza crescente dei mercati in un mega-mercato (la chiamiamo globalizzazione), dove tutto è merce, compresi noi stessi e tutto è competizione. Essenza che noi abbiamo definito come razionalità strumentale/calcolante-industriale: strumentale perché finalizzata appunto al proprio accrescimento come sistema tecnico e capitalistico, senza ammettere mai l’esistenza di limiti, siano essi fisici, morali/etici, di democrazia); calcolante perché appunto fondata sul solo calcolo, confuso arbitrariamente (ma strumentalmente) con efficienza; e industriale perché l’organizzazione industriale del lavoro e della vita è il modo più efficiente – ma insieme ecocida e alienante, cioè è una efficienza del tutto irrazionale – per fare profitto; come irrazionale è credere che la transizione digitale, essendo in realtà il digitale un capitalismo all’ennesima potenza, ci aiuterà nella transizione ecologica, quando in realtà le due transizioni sono in contraddizione/conflitto tra loro^[8].

La sapienza non è invece calcolo, perché il calcolo è sì esatto ma non necessariamente è giusto e responsabile e saggio; il calcolo è matematica e la matematica è avalutativa per definizione e per sua essenza, mentre la sapienza (che è l’opposto dell’esattezza) deve essere giusta, saggia e responsabile. E consapevole.

Con ChatGpt abbiamo allora aggiunto un altro tassello alla alienazione da noi stessi e dalla sapienza e dal libero arbitrio e dalla democrazia (supra, Zuboff) e dalla conoscenza e dalla responsabilità. Credendoci sapiens siamo diventati totalmente insipienti, appunto persone ignoranti e sciocche che credono di sapere solo perché ChatGpt offre loro la risposta a ciò che non sanno e che sempre più si rifiutano di sapere. Esito totalmente e totalitariamente nichilistico e autolesionistico – sadomasochistico – per quell’umano che senza tecnica è incapace di vivere. E che, producendo macchine a cui poi si assoggetta (si sussume in essa e con essa, vivendo come una macchina), si crede sapiens. Ma non lo è.

Abbiamo cioè realizzato – assecondando le esigenze del capitale – quella società automatizzata e amministrata dalle macchine temuta mezzo secolo fa dal francofortese Max Horkheimer e che qui riprendiamo; quella società dove “tutto sarà regolamentato, veramente tutto! Tutto potrà essere regolato automaticamente, che si tratti dell’amministrazione dello Stato, della regolamentazione del traffico o di quella del consumo”. E “alla fine, se non si verificano catastrofi che annientano ogni forma di vita, sta una società completamente amministrata, automatizzata, perfettamente funzionante, dove il singolo può sì vivere senza preoccupazioni materiali [oggi, anche senza dover pensare, come con ChatGpt], ma dove non conta più nulla. La differenza tra i ministri e i vigili urbani diventerebbe minima, poiché, che si schiacci un pulsante in un ministero oppure a un incrocio per far scattare il semaforo rosso o verde, tutto si ridurrà al fatto di imparare come si usano i meccanismi automatici che assicurano il funzionamento della società”^[9].

Bibliografia

1. P. Domingos, “L’Algoritmo Definitivo”, Bollati Boringhieri, Torino, 2016 ↑
2. K. Crawford, “Né intelligente, né artificiale”, il Mulino, Bologna, 2021 ↑
3. S. Zuboff, “Soltanto la democrazia può salvare se stessa dalle Big Tech” – https://www.linkiesta.it/2021/12/linkiesta-magazine-democrazia-salvare-big-tech/ ↑
4. U. Galimberti, “Dizionario di Psicologia”, voce “Consapevolezza”, Feltrinelli, Milano, 2018, pag. 311 ↑
5. G. Anders, “L’uomo è antiquato”, 2 voll., Bollati Boringhieri, Torino, 2003 ↑
6. G. Anders, “Stenogrammi filosofici”, Bollati Boringhieri, Torino, 2022 ↑
7. G. Anders, “L’uomo è antiquato II”, cit., pag. 98 ↑
8. L. Demichelis, “La società-fabbrica”, Luiss UP, Roma, 2023 ↑
9. M. Horkheimer, “Crisi della ragione e trasformazione dello stato”, PGreco, Milano, 2015, pag. 15 ↑