Molti, e non da oggi, sono stati i commenti che agendadigitale.eu ha dedicato agli algoritmi razzisti, discriminanti per genere, predittivi ma sulla base di bias che ne inficiano il funzionamento e ai rischi che questi determinano per la libertà e i diritti dell’uomo, per la democrazia, per l’azione delle polizie del mondo, per la stessa giustizia. Oggi torniamo a farlo dopo l’uscita, nelle scorse settimane, di un libro davvero importante: “La giustizia digitale”, edito da il Mulino. Ancora più preciso è il sottotitolo: “Determinismo tecnologico e libertà”.
Gli autori – francesi – appartengono a campi diversi tra loro, ma che si integrano perfettamente nel libro: Antoine Garapon è infatti magistrato e Segretario generale dell’Institut des Hautes Études sur la Justice; Jean Lassègue è invece filosofo ed epistemologo, ricercatore del Cnrs francese e direttore del Lias, Laboratoire d’Informatique et d’Automatique pour les Systèmes di Parigi.
La digitalizzazione della giustizia
Giustizia digitale. Una opportunità o un rischio?
La digitalizzazione è una realtà ma è anche un mito e soprattutto un rischio. È un imperativo categorico ma anche una ideologia. Apparentemente è liberante, ma è invece tendenzialmente totalizzante/totalitaria. Soprattutto è un processo deterministico e basato sul trionfo, ovunque e in ogni luogo e per ogni processo, di una razionalità strumentale/calcolante-industriale, che è poi la ragione occidentale (o sragione, essendo irresponsabile per gli effetti, domani delle sue azioni deterministiche di oggi, siano essi effetti sociali e/o effetti ambientali). Una ragione/razionalità oggi diventata la ragione del mondo globale, escludendo ogni altra razionalità non calcolante e non finalizzata al profitto.
La digitalizzazione – ultima versione della tri-secolare rivoluzione industriale – è dunque l’ultimo atto un determinismo tecnologico che ha una lunga storia. Determinismo che possiamo intendere come “la proprietà di un sistema tale che a ogni suo stato non solo segue uno e un solo prossimo stato, ma che non esistono altri stati possibili” (Trautteur, 2021: 51), detto altrimenti: non ci sono alternative e l’innovazione tecnologica non si deve fermare.
Oggi la digitalizzazione è appunto ovunque e in ogni momento della nostra vita. Anche nella giustizia. Ma lasciamo che accada come qualcosa di ineluttabile, senza invece porci il problema – per evitare che sia davvero un processo deterministico o del tutto sfuggito al nostro controllo – di valutarlo come processo in sé e di valutarne gli effetti. Che è invece ciò che ci offrono Garapon e Lassègue. Quindi, la lettura del loro saggio è caldamente consigliata a tutti coloro che hanno a cuore il libero arbitrio, l’autonomia e l’intelligenza – ma anche la democrazia e la libertà.
Teoricamente, la digitalizzazione applicata (anche) alla giustizia dovrebbe aiutare ad evitare errori giudiziari e una eccessiva discrezionalità e quindi aiutare a generare una giustizia più giusta, più oggettiva, meno passionale. In realtà, ogni sistema giuridico moderno (umano) prevede più gradi di giudizio proprio per correggere eventuali errori. E sappiamo che anche la legge può essere non-giusta, quindi lontana da un concetto di giustizia. E i magistrati applicano poi una legge, per definizione astratta, a dei casi concreti, e quindi l’errore è sempre possibile – ma appunto, correggibile.
Che succede con la giustizia predittiva
E con la digitalizzazione invece cosa accade? Che la certezza (ma è in realtà un atto di fede che ci viene imposto, mediato/prodotto da una narrazione che il digitale fa di se stesso per farsi accettare da noi senza opposizione e senza un minimo di spirito critico) di poter avere una giustizia giusta solo grazie al digitale si rafforza e la digitalizzazione progressiva della giustizia si autolegittima attraverso questa narrazione (l’algoritmo non sbaglia mai, essendo per auto-definizione sempre esatto). In realtà si produce un effetto opposto. Intanto, si rischia di generare una giustizia predittiva (sulla base delle sentenze del passato e sulle precedenti decisioni di un giudice, pene e risarcimenti compresi) e non più basata sull’analisi e sulla valutazione complessa del caso di specie. Ma soprattutto emerge una evoluzione efficientistica/produttivistica (sulla base del solo calcolo) anche della giustizia, mentre si accresce la nostra delega alle macchine che a sua volta è funzionale alla autonomizzazione della tecnologia (e anche della giustizia digitale) da una valutazione e da un controllo umani, affidando non alla norma di legge ma alla norma che fa funzionare l’algoritmo il compito di decidere di una vita umana.
E invece Garapon e Lassègue ci ricordano che la giustizia ha bisogno di un ambiente umano fatto di simbologie, di emozioni, di relazioni, di un linguaggio umano e non macchinico. Questo non significa, secondo i due autori, lasciare la tecnica fuori dalla porta. Ma – e piuttosto – farne un uso altamente consapevole e responsabile da parte dell’uomo, proprio perché la giustizia si applica massimamente all’uomo, è creata dagli uomini per gli uomini, gestita da uomini. Insomma, va bene usare le tecnologie digitali, ma come supporto alla decisione dell’uomo, senza che il supporto (il digitale) prenda il sopravvento sull’uomo e sull’esercizio della giustizia. Anche per evitare – come scrive Maria Rosaria Ferrarese nella sua Presentazione all’edizione italiana del libro, “di ricadere in atteggiamenti di accettazione entusiastica e acritica” del digitale, che gli autori appunto stigmatizzano “come frutto del mito della delega alle macchine; un mito, essi osservano, che agisce come un circolo vizioso, una sorta di prolessi che alimenta una fede anticipata in qualcosa che sarà effettivo solo domani, e che tuttavia produce effetti già oggi, sulla base della stessa delega alle macchine” (“La giustizia digitale”: 15).
Inoltre, la digitalizzazione della giustizia non determina neppure una individualizzazione del giudizio – teoricamente da favorire – ma al contrario (perché appunto basata su una razionalità astratta, avalutativa e solo calcolante e quindi non meditante/meditativa/valutativa – una standardizzazione del giudizio date dalle sentenze simili del passato contenute nel Big Data. E quindi produce effetti di conservazione e di autoreferenzialità del diritto e di conformismo giudiziario, incapace di confrontarsi con il mutare dei contesti e dei valori di una società. E “così il sogno di una giustizia amministrata in forma neutra, oggettiva, esente dal rischio di incorrere in storture cognitive, o in opzioni ideologiche o errori di valutazione, si rovescia nel suo contrario e ipostatizza retaggi e opzioni del passato. (…) Peraltro, il modello determinista si pone in contrasto con le odierne tendenze giurisprudenziali alimentate dal costituzionalismo e dalla cultura del diritto” (Ferrarese: 19).
Digitalizzare la giustizia è quindi sommamente pericoloso. Ma la standardizzazione – aggiungiamo – è in verità già nell’essenza della tecnica ed è implicita nella razionalità strumentale/calcolante, quindi anche nel digitale e nei processi di digitalizzazione – che proprio questa standardizzazione, omologazione e ripetizione producono e riproducono incessantemente.
La delega alle macchine e l’algoritmo come Dio
Scrivono Garapon e Lassègue: “L’immaginario del prolungamento, se non addirittura del superamento dell’umano tramite l’azione di dati che non avrebbero più bisogno di essere interpretati, poiché degli algoritmi se ne farebbero carico una volta per tutte, deve essere interpretato come un nuovo mito. (…) Questo nuovo mondo deve necessariamente avvenire secondo una modalità meccanica, assolutamente deterministica, essendo d’ora in avanti una questione di lavoro di macchine, che non smetterà di estendersi. Tale retorica incoraggia a credere appunto fin da oggi [la prolessi] in ciò che sarà effettivo solo domani, poiché il domani è meccanicamente ineluttabile” (ivi: 108). Ovvero, macchine e mito contro il libero arbitrio dell’uomo. La negazione dell’umano e il trionfo della macchina, cioè della tecnica intesa non solo come tecnologia ma, e in premessa, come razionalità strumentale/calcolante.
Non solo: “Questi algoritmi e il loro utilizzo rivelano sia una de-simbolizzazione e sia una re-simbolizzazione. Una de-simbolizzazione perché il sapere algoritmico fa emergere la fragile umanità dei giudici, i limiti di una giustizia giuridica e l’artificialità delle finzioni, tuttavia necessarie per la vita del diritto; e una re-simbolizzazione cercando di sostituire all’imperfetta giustizia degli uomini una certezza scientifica assoluta” (ivi: 113). E qui ritroviamo allora “la vecchia idea che il giudizio spetti a Dio, l’unico essere che non è vittima di errori cognitivi, ragione per cui il Giudizio finale è la pietra di paragone a cui tutti gli uomini devono sottostare, un Giudizio infallibile. Credevamo di essercela lasciata alle spalle, in quanto superata, ma ritorna nel modo più curioso: tramite un culto devoto alla tecnologia” (ivi: 115). Appunto, da Dio al digitale, dal Giudizio di Dio al Giudizio di un algoritmo. Imbarazzante.
Un mito da sfatare
Di più: il mito della delega alle macchine “tende a rappresentare il mondo sociale come un sistema. (…) Il mito idealizza il rapporto digitale ed estende la visione economica [economicistica, calcolante] a qualsiasi relazione umana, compresa quella con se stessi, allo scopo di renderla più funzionale e fluida. Il ragionamento economico diventa così egemonico, basandosi sull’idea di interesse e di calcolo razionale. (…) ma oltre ad un’efficacia tecnica, il calcolo racchiude anche un’efficacia magica che si presume capace di rendere conto sia dell’intero mondo che del rapporto fra le sue parti: il mondo è allo stesso tempo completamente digitalizzabile e strutturato digitalmente, dal cervello alla materia, passando per la società” (ivi, 242-243). Dove il computer “dà corpo al mito e al tempo stesso lo esemplifica; è l’oggetto che incarna la totalità del mito”.
E ancora: “La rete e la strutturazione a rete designano una nuova configurazione dei rapporti sociali in cui la funzione del diritto” – un tempo struttura terza rispetto ai rapporti sociali e si pensi alla natura del contratto e alla sua valutazione da parte di un giudice indipendente dalle parti contraenti – “diventa invece immanente, localizzandosi ormai nella tecnica stessa” (ivi: 245). O meglio: alla razionalità strumentale/calcolante della modernità occidentale – quella che impone non solo di standardizzare/omologare, ma anche o soprattutto di internalizzare e sintetizzare il potere in sé come digitale/razionalità calcolante. Cioè, ogni convenzione sociale va soppressa, “la cultura è livellata tanto dalle regole impersonali della globalizzazione, quanto del calcolo razionale (…). La cultura in generale, il diritto e la cura della giustizia sono considerati come fonti di storture cognitive. La legalità sistemica” – il modo con cui funziona la macchina digitale, con le proprie norme incorporate in sé come sistema – “si congeda da ogni idealità. (…) Non c’è differenza fra i parametri tecnici che permettono a un meccanismo di funzionare e la virtù del sistema, poiché la sua unica legittimità [e legittimazione] è nel suo stesso funzionamento” (ivi: 249). E poiché (aggiungiamo) questo funzionamento è ritenuto esatto perché basato sul calcolo, il sistema digitale/tecnico diventa autoreferenziale, ma anche autopoietico (processo che accade quando il soggetto che genera l’innovazione diventa esso stesso oggetto dell’ordine prodotto), o autotelico secondo Luciano Gallino (“i sistemi tecnologici paiono in certi casi riprodursi ed evolversi come se, anziché mezzi per aiutare la nostra sopravvivenza e riproduzione, o quella dei sistemi socioculturali (…), essi badassero anzitutto ai loro interessi riproduttivi” (2007: 124).
Il potere invisibile degli algoritmi
Ovvero – ed è un altro elemento del digitale/digitalizzazione che sempre dimentichiamo, presi dal nostro feticismo per il nuovo e per l’innovazione: “Il nuovo potere [del digitale e della delega alle macchine] agisce in modo paradossale in quanto disciplina la coesistenza umana ma senza porsi come vincolante. O meglio, sembra aumentare le nostre libertà mentre invece le limita in modi inediti. Al pari di tutte le conquiste della modernità che, come sottolineava Marcuse, possono trasformarsi in strumenti di controllo (…). Questo ambiente digitale di natura post-politica” – tende cioè a sostituirsi/sovrapporsi alla polis, svuotandola di senso e di contenuti – “moltiplica le libertà individuali (in particolare di carattere sociale) forse allo scopo di allontanare la libertà politica, costringe moltiplicando le scelte, racchiude attraverso una infinita apertura ma senza alternative, richiede di obbedire collaborando, dà la parola a tutti ma, rifiutando qualsiasi riferimento critico (…) ottiene l’obbedienza attraverso il sorriso della tecnologia” (ivi: 254). Ovvero: “La giustizia digitale ostruisce il futuro con il pretesto di aprirlo, mentre installa degli automatismi che finiscono per chiuderlo” (ivi: 258).
Attenzione dunque al digitale, dicono un magistrato filosofo del diritto e un filosofo ed epistemologo. Mettendoci in guardia da una deriva che sembra inarrestabile, quella appunto della nostra delega crescente alle macchine. Anche per amministrare la giustizia. Che diventando digitale non sarà giustizia, ma mero calcolo. Sempre ricordando, con il filosofo Aldo Masullo che la mente è anche calcolo, ma nella mente il pensiero non è il calcolo… il pensiero trascende il calcolo, ovvero “il pensiero, senza il controllo del calcolo, è delirio. Ma il calcolo, sottratto al governo della vita pensante, è insensatezza” (Masullo, 2011: 208). Anche o soprattutto quando si deve generare giustizia.
E dunque, quale tecnologia digitale? “L’approccio da noi scelto” – concludono gli autori – “ci invita a giocare d’astuzia con questa forza del mito [della delega alle macchine], perché da un lato essa mostra una grande energia ma, dall’altro tende a imporre il proprio ordine in misura indefinita. E per questo essa trova un ambiente favorevole, dato che oggi le nostre società – in cui si assiste a una diversificazione dei costumi o a religioni che si indeboliscono o che, al contrario tendono ad occupare l’intero spazio pubblico – cercano nelle macchine un riferimento indiscutibile per regolare la loro vita” (ivi: 261). Non si combatte un mito – scrivono Garapon e Lassègue – solo dimostrandone la falsità, quanto e soprattutto “stabilendo una distanza sufficiente a interpretare i fenomeni in altro modo”; quindi “il digitale deve essere allora inteso come una nuova tappa nella lunga storia della condizione umana, di una antropogenesi alla quale esso contribuisce, senza monopolizzarla. La nostra critica del mito della delega alle macchine non è né conservatrice né totale; verte innanzitutto sui limiti interni alla calcolabilità che esso pone al suo centro e poi sulla necessità di opporre una forza politica non al suo progetto, ma all’egemonia di quest’ultimo, stabilendo una riflessività” (ibid). Cioè una consapevolezza.
Affinché anche il digitale non diventi quella “forza a noi estranea” di cui scriveva già Marx a proposito delle macchine e dell’industria.
Bibliografia
Gallino L. (2007), “Tecnologia e democrazia”, Einaudi, Torino
Garapon A. – Lassègue J. (2021), “La giustizia digitale. Determinismo tecnologico e libertà”, il Mulino, Bologna
Masullo A. (2011), “La libertà e le occasioni”, Jaca Book, Milano
Trautteur G. (2020), “Il prigioniero libero”, Adelphi, Milano
