Il piano del Vaticano per un’AI etica, “The Vatican’s AI ethics Plan”, è tra le cinque notizie del 2020 che hanno ottenuto maggiore attenzione secondo l’”Artificial Intelligence Index 2021” della Stanford University, uscito all’inizio di marzo.
A fronte dell’iniziativa, nota come “Rome Call for AI Ethics”, la figura che appare è Monsignor Vincenzo Paglia, Presidente della Pontificia Accademia per la Vita e consigliere spirituale della Comunità di S. Egidio, ma la presenza papale è evidente: il 28 febbraio 2020 lo stesso Monsignor Paglia ha letto all’Assemblea Plenaria della Pontificia Accademia un discorso del Papa, in quei giorni condizionato da problemi di salute. Un discorso in cui si sottolinea come l’Intelligenza Artificiale porti mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana.
In quella occasione, è stata presentata la “Rome Call for AI Ethics”: firmatari, oltre il Vaticano, il Ministro per l’Innovazione Tecnologica del Governo italiano, la FAO, Microsoft e IBM.
Vaticano e AI etica: un passo verso nuovi concordati internazionali
Il diverso statuto giuridico dei firmatari evidenzia: primo, la sovrapposizione tra Stato indipendente, Stato del Vaticano e vertice della Chiesa Cattolica; secondo, la presenza nell’accordo di entità private con pari dignità e autorevolezza di Stati nazionali e organismi sovranazionali.
Entrambi i punti spingono a ricordare quel particolare accordo, recepito nella nostra stessa Costituzione, che è il Concordato. Facile ricordare l’importanza storica mostrata da questo istituto giuridico nel Ventesimo Secolo: basta ricordare i casi, tra le due guerre, dell’Italia e della Germania.
La legittimazione dello Stato del Vaticano a stabilire accordi si fonda sulla sovrapposizione tra lo stesso Stato del Vaticano e la Chiesa Cattolica. Le pubbliche autorità di Italia e della Germania ammettono una sorta di doppia cittadinanza: numerosi cittadini dei due Stati sono allo stesso tempo anche membri della Chiesa; i membri, o fedeli, della Chiesa attribuiscono alla Chiesa stessa una autorità; lo Stato Vaticano, legittimato da questa autorità, tratta da pari a pari con gli Stati nazionali e gli organismi internazionali.
Esistono forti analogie tra le fonti dell’autorità del Vaticano e le fonti dell’autorità di Microsoft, IBM, Alphabet/Google, Facebook, Amazon: anche queste imprese private possono trattare da pari a pari con gli Stati nazionali e con gli organismi internazionali in virtù della legittimazione attribuita loro dai propri utenti. Come e più dei membri di una Chiesa, gli utenti delle grandi case digitali sono assoggettati alle loro leggi. Come ben sappiamo, una parte sempre più significativa della vita politica e civile si svolge nel quadro delle regole e degli spazi concessi dalle grandi case digitali. La loro sorveglianza ed il loro controllo sull’agire dei cittadini è più efficace e pressante della sorveglianza e del controllo che gli Stati nazionali sono in grado di esercitare.
Dunque, ci sono motivi per intendere la firma della “Rome Call for AI Ethics” come primo passo di un nuovo assetto del diritto internazionale. Il Vaticano, proponendo l’accordo sull’AI etica, forte della propria storia, prepara il terreno per futuri concordati dove gli Stati nazionali, federali o confederali, e l’Europa unita, nella sua duplice natura di riunione tra governi nazionali e di parlamento unico sovranazionale, si troveranno a dover stabilire accordi trattando da pari a pari con le nuove potenze private digitali.
Qualcuno ha proposto l’analogia tra le grandi case digitali e le Compagnie dell’epoca dell’Imperialismo, ma c’è una grande differenza: le Compagnie erano entità private come le grandi case digitali, ma agivano su concessione degli Stati nazionali. Non a caso, la concessione alla Compagnia delle Indie fu revocata nel 1800 dal governo inglese. La forza delle grandi case digitali sta invece nell’aver acquisito potere a prescindere da qualsiasi concessione, anzi, dall’aver creato un nuovo terreno di azione di conoscenza e controllo esclusivi: sono dunque loro nella condizione di concedere spazi di azione agli Stati nazionali, e non viceversa.
Oggi, il potere delle grandi case digitali è evidente nel governo delle piattaforme sociali, luoghi di vita per i cittadini; nell’appropriazione di beni comuni, i dati; nel concetto stesso di “cloud”, la “nuvola”ubiqua e fuori dal pubblico controllo.
Ma l’attenzione dello Stato Vaticano va oltre, e guarda alla scena emergente, in cui si va manifestando in modo più pesante il controllo sulle vite degli esseri umani: l’Intelligenza Artificiale.
Vaticano e AI etica: il perché del documento
Per leggere senza fraintendimenti la “Rome Call for AI Ethics”, ricordiamo che l’espressione AI – Intelligenza Artificiale è oggi un termine-ombrello, teso a colpire e ammonire l’opinione pubblica.
Un termine sotto cui confluiscono filoni di ricerca diversissimi e anche in contraddizione tra loro ma accomunati da uno scopo, che, a ragione, inquieta le autorità vaticane: sostituire l’essere umano con le macchine.
Si può naturalmente disquisire all’infinito sulle modalità e sulla misura di questa sostituzione: si può parlare di accompagnamento dell’umano, si può discettare di convivenza, interfacciamento, simbiosi tra uomo e macchina. Ma non si può ignorare la presenza dei progetti, i loro successi, l’enorme quantità di investimenti che raccolgono.
Appare meschina l’opinione di chi si consola rinviando nel tempo la questione, considerando che gli effetti più perversi si manifesteranno solo in tempi futuri. Ingenuo e disinformato chi minimizza.
Le autorità vaticane, giustamente, invitano ad occuparsene oggi. Perché, come si legge nel documento, è in gioco “il modo in cui percepiamo la realtà e la stessa natura umana”.
Il Vaticano, facciata istituzionale della Chiesa Cattolica, si pone come difensore dei diritti degli esseri umani di fronte alla minaccia esistenziale implicita in “tecnologie che si comportano come attori razionali ma non sono in alcun modo umani”.
Vaticano e AI etica: i contenuti del documento e i problemi aperti
Peccato che l’appello “Rome Call for AI Ethics” non contenga niente di nuovo e si limiti a ripetere ciò che gli stessi attori impegnati nello sviluppo di Intelligenze Artificiali hanno, sulla carta, concordato e scritto in ormai numerosi manifesti e lettere d’impegno.
Non si pone minimamente in discussione la corsa del progresso: la Chiesa si adegua al mondo.
Come vogliono le grandi case digitali, l’Intelligenza Artificiale dovrà essere “robusta”. In aggiunta, si concede, dovrà essere anche “benefica”. Facile e comodo ripetere che gli esseri umani e la natura dovranno essere “al centro dello sviluppo dell’innovazione digitale”. Facile anche affermare che gli esseri umani dovranno essere “supportati e non sostituiti” dalle Intelligenze Artificiali.
Si afferma solennemente che l’allineamento del progresso tecnologico con il vero progresso della razza umana e con il rispetto del pianeta debba soddisfare tre requisiti: deve includere senza alcuna discriminazione di ogni essere umano; deve avere a cuore il bene dell’umanità e il bene di ogni essere umano; deve essere consapevole della complessa realtà del nostro ecosistema.
Si può notare come nel documento si ripetano alla lettera le Tre Leggi della Robotica dello scrittore e scienziato Isaac Asimov, formulate nel 1940 e sintetizzate dieci anni dopo con l’inserimento della Legge Zero: “Un robot non può recar danno all’umanità e non può permettere che, a causa di un suo mancato intervento, l’umanità riceva danno”. In più c’è solo il riferimento all’ecosistema.
Le leggi di Asimov sono ancora un riferimento affascinante e preciso ma hanno almeno tre punti deboli.
Il primo consiste nell’universalismo: si dà per scontato che esista un’etica universale, indipendente dalle culture e dalla storia. Qui sta l’aspetto forse più insidioso del patto che la Chiesa propone ai fabbricanti di Intelligenze Artificiali: noi massimi portatori dei valori universali dell’umanità, vi legittimiamo nella vostra pretesa, o speranza, di inserire questi valori negli algoritmi.
Il secondo è che si resta nelle mani dei tecnici che programmano il codice: il cittadino non ha modo di controllare, non esiste difesa di fronte ad un tecnico malevolo.
Il terzo è che nel momento in cui si accetta l’esistenza di “attori razionali in alcun modo umani”, si deve accettare di conseguenza la possibilità che questi attori, Intelligenze Artificiali divenute autonome, possano divenire in grado di andare oltre le stesse regole imposte loro dai tecnici che le hanno progettate.
Resta dunque aperto un doppio ordine di interrogativi: chi controlla le AI? Le AI andranno oltre le regole di progettazione?
Nella “Call” si risponde al primo punto ribadendo il diritto di ogni persona a essere messa in grado di sapere se stia interagendo con una macchina o con un essere umano.
Ricordiamo però che tra i firmatari del documento c’è Microsoft, finanziatore di Open AI, impresa leader nel campo delle ricerche AI più avanzate e al centro all’attenzione per aver sviluppato GPT-3, un linguaggio che ha come caratteristica proprio rendere indistinguibile agli esseri umani se a parlare loro è una macchina oppure no.
Si è scelto invece di non affrontare il secondo punto. La corsa al progresso non è messa in discussione, il rischio esistenziale dovrà essere accettato. Anche nel lungo periodo, la speranza resta affidata ai “valori e principi che saremo capaci di instillare nell’AI”.
“Saremo capaci”: l’appello non chiama in causa gli esseri umani, quindi cittadini, membri della Chiesa, ma ci si limita a chiamare in causa gli imprenditori, i manager, i tecnici impegnati nel settore digitale.
Una caratteristica dell’appello vaticano è il ricorrente uso, a partire dal titolo, della parola “etica”. Ma l’”integrità etica della razza umana” appare esclusivamente affidata all’ “impegno etico di tutti gli attori coinvolti” dell’industria digitale.
Il neologismo “algor-ethics” non aggiunge nulla, anzi sancisce che tutto dipenda dagli addetti ai lavori: i cittadini ed i fedeli non sono che sudditi o utenti. Si legge infatti: “I promotori dell’appello esprimono il loro desiderio di lavorare insieme, in questo contesto e a livello nazionale e internazionale, per promuovere ‘l’algor-etica’”. E ancora:“Dobbiamo partire fin dall’inizio dello sviluppo di ogni algoritmo con una visione ‘algor-etica’, cioè un approccio di etica per progettazione”.
Vaticano e AI Etica: la voce di Papa Francesco
Ma faremmo torto alle buone intenzioni dell’iniziativa del Vaticano sull’AI etica, se non guardassimo, oltre che al testo del documento, al discorso del Papa che la promuove e la celebra.
Già nell’enciclica “Laudato Si’” Papa Francesco ha ricordato come il paradigma tecnocratico tenda ad esercitare il proprio dominio, cosicché nulla rimanga fuori dalla sua logica. Le potenzialità che abbiamo acquisito con la tecnologia, scrive il Papa, ci offrono un tremendo potere ed è “terribilmente rischioso che esso risieda in una piccola parte dell’umanità” (104).
Affermazioni di cui si coglie un richiamo nel discorso papale che ha motivato la Call, in cui ha sottolineato come la profondità e l’accelerazione delle trasformazioni dell’era digitale sollevino problematiche inattese, che impongono nuove condizioni all’ethos individuale e collettivo, e come l’IA induca “mutazioni profonde nel modo di interpretare e gestire gli esseri viventi e le caratteristiche proprie della vita umana, che è nostro impegno tutelare e promuovere, non solo nella sua costitutiva dimensione biologica, ma anche nella sua irriducibile qualità biografica”.
Papa Francesco si è quindi soffermato sulla dimensione politica della produzione e dell’uso dell’AI, che non riguarda solo la distribuzione dei suoi vantaggi individuali e astrattamente funzionali ma la necessità di creare corpi sociali intermedi che assicurino rappresentanza alla sensibilità etica di utilizzatori ed educatori al momento della progettazione dei dispositivi.
La consapevolezza della tremenda potenza e della dimensione politica, però, per il momento si traduce in un povero frutto: l’algor-etica. Un appello alle competenze che intervengono nel processo di elaborazione degli apparati tecnologici, una chiamata tesa ad “assicurare una verifica competente e condivisa dei processi secondo cui si integrano i rapporti tra gli esseri umani e le macchine nella nostra era”. Così Papa Francesco, mentre afferma che non basta semplicemente affidarsi alla sensibilità morale di chi fa ricerca e progetta dispositivi e algoritmi, si presta a considerare come significativo passo avanti un patto con chi fa ricerca e progetta dispositivi e algoritmi.
L’algor-etica, scrive il Papa, “potrà essere un ponte per far sì che i principi si inscrivano concretamente nelle tecnologie digitali”: si fonda così l’accordo i nuovi potentati della scena digitale e l’intenzione di e lavorare insieme con loro espressa nella “Call”.
Gli aspetti di Realpolitik del documento
Quali sono i valori e i principi che, come si legge nella “Call”, dovranno essere instillati in ogni Intelligenza Artificiale? Papa Francesco richiama come contributo decisivo i principi della Dottrina Sociale della Chiesa: dignità della persona, giustizia, sussidiarietà e solidarietà.
Ma il riferimento alla Dottrina Sociale della Chiesa finisce per essere generico: Papa Francesco ritiene sia terribilmente rischioso che la potenza implicita nell’Intelligenza Artificiale risieda in una piccola parte dell’umanità ma il suo monito finisce per trovare povera traduzione proprio in concordato con questi nuovi potentati.
La “Rome Call for AI Ethics” è un appello: l’aspetto cruciale dell’approccio vaticano sta nel non rivolgersi agli esseri umani tutti, ai cittadini del pianeta, ma ai nuovi potenti della terra. Il Vaticano, prima e più dei governi nazionali e degli organismi internazionali, chiama in causa le imprese e i tecnici impegnati nello sviluppo di “sistemi di AI” per un’AI “etica”. La Chiesa, come madre che ha a cuore i suoi figli, chiama i nuovi potenti a condividere il ruolo di guida e di protettore.
Come testimonia l’apprezzamento da parte della Stanford University, l’iniziativa vaticana finisce per essere una legittimazione, quasi una santificazione delle imprese e dei tecnici impegnati nello sviluppo di sistemi di Intelligenza Artificiale, cui è concessa la patente di disseminatori di ‘algor-etica’.
Naturalmente, le imprese e i tecnici impegnati nello sviluppo di “sistemi di AI”, intendono l”algor-etica’ a modo loro, come una ripetizione di ciò che già hanno sottoscritto in diversi manifesti. L’IA dovrà essere sviluppata alla luce di generici e non impegnativi principi: trasparenza, inclusione, responsabilità, imparzialità, affidabilità, sicurezza e privacy. Principi affidati all’insindacabile cura degli addetti ai lavori.
Questi sono i banali principi affermati nella “Call”, i principi che alla fine il Vaticano sottoscrive. Qualcosa di un po’ diverso dai principi della Dottrina Sociale della Chiesa. Qualcosa di diverso da ciò che si legge nell’enciclica “Laudato si’”. E ancor più, qualcosa di diverso da ciò che si legge nel Nuovo Testamento.
Il Vaticano per ora si contenta di proporre una nuova vaga parola, interpretabile a proprio piacimento. Ottenendo il risultato di vedersi accolto nell’empireo di coloro che governano lo sviluppo dell’Intelligenza Artificiale.
Vaticano e AI: il richiamo di Paolo a “farsi umani”
La montagna vaticana ha così partorito un topolino. Ma se teniamo presenti la tradizione cristiana e la Parola di cui la Chiesa è custode, ed anche se prendiamo spunto dall’enciclica “Laudato si’”, siamo stimolati a letture molto più profonde e impegnative.
Per non entrare in dispute teologiche, dottrinali e pastorali, ci limitiamo a citare di passaggio la parabola del Grande Inquisitore narrata da Dostoevskij: il Grande Inquisitore, austero esponente della Chiesa, inveisce contro il Cristo, misteriosamente riapparso.
Gli chiede il perché di questo ritorno che disturba. Disturba perché l’élite che regge il mondo si considera investita di una sacra missione e ha buon gioco nel sostenere che il popolo, vittima delle proprie paure e della propria ignoranza, non può capire. Un popolo che quindi deve essere governato con messaggi consolatori e rassicuranti, in modo da non disturbare gli ‘addetti ai lavori’, gli esperti, i professionisti, l’élite, la classe politica.
Nell’Era Digitale, questa distanza ha raggiunto la massima misura: i tecnici digitali, nuova avanguardia dell’élite, lavorano nei loro laboratori, sempre più lontani dai cittadini.
Lontanissimi dai cittadini sono i tecnici che lavorano allo sviluppo di diverse forme di Intelligenza Artificiale. Lontanissimi dai lavoratori dei magazzini e dai consumatori sono i tecnici che scrivono gli algoritmi che governano il funzionamento della gran macchina di Amazon.
Lontanissimi dai comuni esseri umani sono gli ‘esperti’ (ricercatori tecnico-scientifici e manager dei potentati digitali) che si impegnano a insufflare un’etica negli algoritmi. Anche dando per scontato che possa esistere una universale definizione dell’etica, cosa che appare indimostrabile, l’etica è affidata al buon senso ed al buon cuore dei tecnici.
Ora il Vaticano si candida a partecipare a questa insufflazione dell’AI etica. Il Vaticano offre anche alla comunità professionale degli esperti una nuova parola: algor-etica. Ma ben poco c’è dietro la parola. I tecnici vanno per la loro strada, e i preoccupati interrogativi posti nell’enciclica “Laudato si’” restano lettera morta.
Paolo di Tarso, nella “Lettera ai Filippesi”, indica un altro ben più impegnativo, radicale percorso. Il tecnico digitale, chi scrive algoritmi, poiché dispone di strumenti preclusi agli altri esseri umani, si trova ad essere oggi nelle condizioni di un dio che crea e governa il mondo. Paolo ha scritto la lettera ai Filippesi ricordando la spoliazione dalla condizione divina di Cristo, che si è fatto riconoscere dagli esseri umani come essere umano.
Spogliarsi dei propri privilegi. Svuotarsi del proprio potere. Guardare il mondo, la vita, i frutti stessi del proprio lavoro, con la saggezza dell’essere umano. Qualcosa di ben diverso dal comodo impegno ad insufflare principi etici negli algoritmi.
“Kènosis”, la parola greca che indica questo atteggiamento, descrive un percorso di conversione doloroso: chiama alla rinuncia alle sicurezze e le certezze che il tecnico, nel corso della sua carriera, si costruisce. Ma solo attraverso questa conversione, chi lavora nel campo dell’Intelligenza Artificiale, potrà cogliere il senso di ciò che sta facendo.
