bene male e tecnologia

Haiku sull’evoluzione digitale: il drago e l’intelligenza artificiale

In un affresco della chiesa di S. Pietro in Civate si vedono i santi che combattono il drago. Questo dipinto e un haiku del ‘700 ci ricordano che il bene va perseguito, ma il male c’è. Nel contesto tecnologico il drago è l’AI che va governata, non solo dai tecnici: ci vogliono anche giuristi, filosofi, teologi

Pubblicato il 30 Gen 2023

Giuliano Pozza

Chief Information Officer at Università Cattolica del Sacro Cuore

Usare le informazioni del futuro e del passato per interpretare e guidare il presente. L’uomo e la natura da sempre si sono confrontati con trasformazioni o evoluzioni “disruptive”, quella digitale è solo l’ultima arrivata.

Allora forse si possono trovare spunti per interpretare l’evoluzione digitale negli Haiku di un poeta sconosciuto del ‘700 giapponese, che ho trovato fortuitamente in un volumetto acquistato sul lago di Como e che userò per introdurre ogni tema della rubrica, ma anche dai monasteri benedettini, dai broccoli romaneschi, dal Bushido, dalle esperienze di chi è già nel futuro, dalla Divina Commedia, da due medici sperduti nel Vietnam rurale e dalle cattedrali romaniche.

A lezione di trasformazione digitale dai monasteri benedettini

Indice degli argomenti

Undicesimo Haiku: il bene, il male e la gestione dei rapporti sul luogo di lavoro

“Il cuore saggio

Persegue sempre il bene

Ma vede il male”

Questo, lo ammetto, è un passaggio difficile e un po’ oscuro. Ma il nostro anonimo è così, gli piace portarci su sentieri via via sempre più impervi e aperti a molte interpretazioni. Per cercare di decifrarlo, vorrei partire dallo splendido affresco della chiesa (ed ex monastero) di S. Pietro in Civate perché a mio parere bene si accorda con l’undicesimo Haiku^[1]. A volte ci sono questi ponti inspiegabili tra culture così lontane. Nell’affresco di Civate si vedono i santi che combattono il drago, rappresentazione di Satana, che sta cercando di insidiare Maria e suo figlio Gesù. Questo affresco ci ricorda, come l’Haiku, che il bene (rappresentata dalla mandorla in cui è racchiuso il Cristo, simbolo di resurrezione, e dai santi intorno a lui) va perseguito, ma il male c’è: deve essere visto e combattuto, non ignorato.

Civate, la riscoperta dei sentieri e il mistero di S. Pietro al monte

Se prendiamo ad esempio la gestione delle relazioni sul luogo di lavoro, molte metodologie e tanta letteratura sulla gestione dei team si “scordano” l’ultimo verso di chiusura dell’Haiku. Ad esempio, i vari framework di tipo “agile” che pure io amo molto, errano nell’assumerà una visione puramente positiva dell’uomo. Il pensiero retrostante è: tutte le persone sono intrinsecamente buone e, se non ostacolate dalla società, dalla burocrazia aziendale o dal contesto organizzativo, daranno il meglio di sé e useranno la tecnologia per migliorare la condizione propria e dell’umanità.

All’estremo opposto troviamo la visione negativa dell’uomo, rappresentata plasticamente ne “Il Signore delle mosche”^[2] di W. Golding. Golding descrive come un gruppo di ragazzini, che si ritrovano naufraghi senza adulti su un’isola deserta, si trasformi in poco tempo in una società degenere e violenta. Nella filosofia e nella letteratura ci sono tantissimi esempi di queste polarizzazioni. Forse, come spesso accade, la verità sta nel mezzo. L’uomo è sia bestia che angelo. O forse, come diceva Pascal, “’l’uomo non è né un angelo né una bestia, e purtroppo, quando vuol fare l’angelo, finisce per fare la bestia”.

La regola di S. Benedetto e il male insito (anche) nei team

Se rileggiamo per esempio la regola di S. Benedetto, invece, è piena di un sano pragmatismo: l’uomo ha in sé sia la propensione verso il bene che l’inclinazione al male, quindi va orientato e aiutato nel suo percorso di ascesi. Ne ho già parlato in altri articoli, ma vale la pena di sintetizzare alcuni punti. Nella Regola sono previste diverse tipologie di punizioni graduate in base alla gravità della mancanza. Si va dai digiuni all’allontanamento temporaneo alla scomunica. Tuttavia, non esiste quasi mai la punizione definitiva dell’esclusione per sempre, tranne in casi gravissimi. Inoltre, S. Benedetto insiste moltissimo nella regola sulla condanna della mormorazione: il feedback deve essere dato nei dovuti modi, ma deve essere dato e non mormorato. Per guidare soprattutto i più giovani ci sono diverse figure, dai decani alle guide spirituali, che hanno proprio il compito di vigilare sul fatto che i monaci a loro affidati non si perdano. È una specie di coaching continuo che vede il male, senza morbosità o pessimismo, per tendere al bene. San Benedetto nel Prologo della Regola cita il Salmo 34 che dice: “Se vuoi possedere la vera ed eterna vita, preserva la lingua dal male, le labbra da parole bugiarde; allontanati dal male e fai il bene; cerca la pace e seguila“. In queste parole riecheggia l’Haiku del nostro anonimo: la ricerca continua della pace intesa come armonia del bene non deve far cadere nel buonismo, ma deve partire dalla constatazione che il male c’è, esiste. In ciascuno di noi, nei nostri team, nelle nostre organizzazioni.

Bene, male e tecnologia: l’IA è il drago da tenere a bada

E la tecnologia? È un bene o un male? Oppure è “neutra”, come sostengono in molti? Mi sono posto la domanda un’infinità di volte in questi decenni in cui ho interpretato il ruolo di tecnologo. Un autore che amo molto, Umberto Galimberti, scrive: «La tecnica non è neutra, perché crea un mondo con determinate caratteristiche che non possiamo evitare di abitare e, abitando, contrarre abitudini che ci trasformano ineluttabilmente. […]. Per il fatto che abitiamo un mondo in ogni sua parte tecnicamente organizzato, la tecnica non è più oggetto di una nostra scelta, ma è il nostro ambiente, dove fini e mezzi, scopi e ideazioni, condotte, azioni e passioni, persino sogni e desideri sono tecnicamente articolati e hanno bisogno della tecnica per esprimersi. Per questo abitiamo la tecnica irrimediabilmente e senza scelta»^[3].

In questo “abitare la tecnica” sarà fondamentale trovare le giuste modalità di governo, che sappiano “vedere il male” non il senso di fatalismo in cui ci inducono le tante narrazioni distopiche che ci assediano, ma per cercare e seguire la pace e il bene. Qui la ricetta non c’è, ma una certezza è evidente a chi sa guardare la realtà: non si può lasciare il governo della tecnologia ad una élite di tecnocrati o a governi autoritari, che è quello che stiamo facendo ora. Se poi volessimo identificare in modo esplicito un “drago” da tenere a bada nell’evoluzione digitale, questo è probabilmente lo sviluppo e l’uso senza regole dell’Intelligenza Artificiale. Ami Webb, in un suo interessantissimo libro^[4], analizza come si stanno muovendo i due gruppi di tecno-giganti che chiama G-MAFIA (Google, Microsoft, Amazon, Facebook, IBM and Apple) e BAT (Baidu, Alibaba e Tencent) nello sviluppo dell’AI. In questo momento sono loro a “governare” l’evoluzione tecnologica.

Purtroppo, a dispetto delle intenzioni che a volte sono anche buone (e a volte meno), gli scenari possibili che la Webb analizza alla fine del libro tendono quasi tutti in modo preoccupante alla distopia. Se guardiamo in particolare all’occidente con i suoi tecno-giganti, è evidente che le élite che stanno sviluppando i sistemi di intelligenza artificiale di nuova generazione sono per lo più composte da statunitensi bianchi e maschi. Questo introduce una serie di pericolosissimi bias che possono portare agli scenari più catastrofici descritti nel libro della Webb. Su un tema cruciale come quello dell’AI sarà fondamentale il coinvolgimento di persone diverse per cultura, genere, origine e preparazione.

Conclusioni

Non bastano i tecnici ma ci vogliono anche giuristi, filosofi, teologi. La posta in gioco è troppo alta per lasciare che un gruppo di persone, pur con le migliori intenzioni, sviluppi gli algoritmi che condizioneranno il nostro futuro. Me ne sono reso conto recentemente quando ho chiesto un piccolo finanziamento ad una banca per la ristrutturazione con il 110%. Pur avendo sulla carta i requisiti, quando chiesi al commerciale che mi seguiva se potevo stare tranquillo sulla fattibilità dell’operazione, mi rispose: “In teoria sì, ma dobbiamo attendere il responso dell’algoritmo. Se l’algoritmo darà esito positivo, ci potranno essere approfondimenti ma non vedo problemi, perché possiamo parlare con un collega umano e quindi portare le nostre ragioni a fronte di eventuali dubbi. Se l’algoritmo per qualche motivo da esito negativo, non posso fare più nulla e dobbiamo chiudere la richiesta. Con l’algoritmo non si dialoga.” Mi sono reso conto, durante quella conversazione, che l’algocrazia non è il nostro futuro, è già il nostro presente.

La mia speranza è che, almeno a livello di normativo e di governo dell’AI, l’Europa possa giocare un ruolo, come lo ha giocato sulla protezione dei dati, per introdurre qualche elemento di garanzia a tutela di noi comuni cittadini dallo strapotere degli algoritmi di intelligenza artificiale. L’artificial intelligence act è forse un primo passo nella giusta direzione per tenere a bada il drago!^[5]