Clive S. Lewis scrive nel 1961, nel suo famoso Diario di un dolore, dedicato alla moglie deceduta: “Com’è trito e ipocrita dire ‘Sarà sempre viva nel mio ricordo!’. Viva? Ma è proprio quello che non sarà mai più. Tanto varrebbe credere, come gli antichi egizi, che si possono trattenere i morti imbalsamandoli. Non riusciremo mai a persuaderci che se ne sono andati?” (Adelphi 1990, p. 26).
La risposta è no, se diamo credito – per esempio – all’immaginazione fantascientifica di Adolfo Bioy Casares, amico intimo nonché collaboratore di Jorge Luis Borges. Nel suo breve romanzo L’invenzione di Morel anticipa nel 1940, almeno in parte, la San Junipero magistralmente inventata da Black Mirror. Egli descrive, infatti, l’esperimento compiuto da Morel il quale, con una macchina di sua invenzione capace di registrare e proiettare, popola un’isola deserta nella Polinesia con le rappresentazioni “vive” e “attive” di svariati morti. Costoro ripetono all’infinito momenti di vita trascorsa che, catturati dalla sua macchina, non possono che rimanere eternamente presenti. “Il mio abuso – confessa Morel – consiste nell’avervi fotografati senza permesso. È chiaro che non si tratta di una foto come tutte le altre; è la mia ultima invenzione. In quella fotografia, vivremo per sempre. Immaginate un palcoscenico sul quale venga rappresentata per intero la nostra vita, nel corso di questi sette giorni. A recitare siamo noi. Tutte le nostre azioni sono state registrate”.
Le persone ricostituite o riassemblate post mortem, mediante le registrazioni di ciò che sono realmente state, scompaiono solo quando viene spenta la macchina. Quando è accesa ripetono daccapo e senza sosta le stesse scene, come fanno i brani di un album o la pellicola di un film, ma se ne distinguono perché sono persone vive, che compiono azioni e attività. “Se accordiamo la coscienza […] alle persone che ci circondano – conclude Morel – non potremo negarla, con argomenti validi e conclusivi, a quelle create dai miei apparecchi” (Bur 2017, ebook).
La risposta ante litteram che Casares, tramite Morel, dà alla domanda retorica di Lewis evidenzia un fatto che caratterizza in maniera incontrovertibile e da sempre l’umanità: pur di non scendere a patti con la perdita e l’assenza, preferiamo “imbalsamare” i morti, utilizzando gli strumenti di volta in volta a disposizione. L’attuale evoluzione delle tecnologie digitali, dell’intelligenza artificiale e della realtà virtuale non fa altro che enfatizzare il bisogno della presenza eterna dei nostri cari, il bisogno di questa imbalsamazione.
Foreverism, al bando la nostalgia
Il filosofo Grafton Tanner ha coniato il neologismo “Foreverism” (Polity Press 2023) per indicare la caratteristica particolare di un’epoca – la nostra – che intende eliminare la nostalgia, traendone al tempo stesso profitto. Foreverism rappresenta, cioè, un periodo storico che vuole conservare e aggiornare in maniera costante il passato, impedendogli di diventare tale. Le persone, gli eventi artistici, le serie televisive, ecc. devono durare per sempre, non devono mai permettersi di finire una volta per tutte. Questo presente infinito non coincide con la mera conservazione, tipica dei musei e degli archivi, ma con l’aggiornamento, la rianimazione. Volendo, anche con la ripetizione, basta però che presenti qualche elemento inedito. Siamo gli esseri umani che, più di tutti, non accettano il “the End” alla fine di un film, il sipario che cala una volta terminata l’opera teatrale, ovviamente e soprattutto la morte che ci priva della presenza preziosa di chi amiamo.
Ed ecco, pertanto, il tentativo in atto di usare l’intelligenza artificiale come la versione odierna della macchina di Morel: cioè, mantenere vivi, attivi e aggiornati i morti, rielaborando i dati da loro precedentemente pubblicati, condivisi e registrati nella dimensione online. Da quando ho cominciato a occuparmi di “Digital Death”, cioè dal 2014 circa, c’è stato un incremento significativo di esperimenti volti a usare l’intelligenza artificiale in vista di questo particolare scopo, sfruttando – tra l’altro – le sue notevoli evoluzioni nel corso degli anni.
All’indomani del celeberrimo episodio Be Right Back di Black Mirror, siamo stati testimoni di alcuni sparuti esperimenti volti a produrre una sorta di immortalità digitale dando vita e autonomia ai dati prodotti in vita: Eterni.me, Eter9, LifeNaut, l’app Luka ideata da Eugenia Kuyda, il “dadbot” creato da James Vlahos, tutti esperimenti che ho analizzato e descritto ne La morte si fa social nel 2018 e che ho ripreso brevemente qui. A distanza di sei anni dalla pubblicazione di quel libro, la situazione è cambiata in maniera radicale: dal 2020 il dadbot personale di James Vlahos si è trasformato nell’app HereAfter AI utilizzabile da chiunque voglia creare il proprio Life Story Avatar interattivo post mortem a partire dalle narrazioni biografiche pazientemente registrate. Sempre nel 2020 abbiamo visto il documentario sudcoreano I Met You, che mostra una mamma incontrare in realtà virtuale la riproduzione artificiale della figlia deceduta a 7 anni. E nel 2022 Rohit Prasad, il vice presidente senior del team che si occupa di Alexa, ha presentato l’abilità eccezionale acquisita dal famoso assistente vocale di Amazon: vale a dire, l’imitazione e la replica di una voce – per esempio, quella di una nonna morta – a partire da un solo minuto di registrato (ne ho parlato qui).
Riproduzioni artificiali dei defunti: i “thanabots”
Man mano che progredisce ChatGPT, si è cominciato quindi a parlare di “thanabots”, evidenziando il desiderio di comunicare con i morti coltivato da società come Project December, Seance AI e via dicendo. Addirittura, il progetto StoryFile permette ai morti di partecipare, sottoforma di ologrammi, al proprio funerale interagendo con i propri cari e, pertanto, rendendo possibile la narrazione distopica della serie tv Upload, che proprio qualche anno fa mostrava – in termini ironici – una situazione del genere. È notizia degli ultimi giorni, inoltre, che in Cina con soli 52 yuan (6,75 euro) si potrebbe in teoria continuare a parlare con i propri cari defunti, usufruendo dei servizi offerti dalla piattaforma di e-commerce Taobao.
E, infine, siamo circondati da un numero crescente di avatar e ologrammi di musicisti, attori, politici, ecc. che, una volta defunti, continuano tuttavia a essere presenti nella nostra società mediante le loro riproduzioni artificiali. Celine Dion duetta con l’ologramma di Elvis Prestley, Christina Aguilera con quello di Whitney Houston. Addirittura, in Israele, Ofra Haza e Zohar Argov hanno scritto e cantato una canzone insieme, intitolata significativamente Here Forever. Haza è morta nel 2000, Argov nel 1987. I due non hanno mai scritto nessun tipo di canzone a quattro mani, ovviamente.
Gli studiosi che si occupano del fenomeno coniano, di continuo, nuove formule per descriverlo. Gordon Bell e Jim Gray hanno distinto da un’immortalità a senso unico, che ci permette di comunicare con il futuro attraverso ciò che abbiamo prodotto nel corso della vita, un’immortalità a doppio senso, la quale aggiunge alla prerogativa dell’altra immortalità quella di poter continuare a interagire e ad aggiornarci. Katarzyna Nowaczyk-Basińska e Paula Kiel distinguono, invece, una immaginazione tanatologica (“thanatological imagination”) da un’immaginazione immortalistica (“immortalogical imagination”). La prima si riferisce a un soggetto che, sopravvivendo alla morte degli altri, deve scendere a patti con la loro perdita, mentre la seconda a un soggetto invece che diviene di per sé un futuro immortale, in virtù delle tecnologie che lo fanno sopravvivere alla propria morte (si veda questo paper). Entrambi i soggetti usufruiscono, seppur in modo diverso, delle tecnologie appena descritte: l’uno per mantenere un contatto con il proprio caro defunto, l’altro al contrario per mantenere post mortem un contatto con i propri cari in vita.
Rischio di alienazione nel lutto digitale
Quali sono le conseguenze di questo pullulare di thanabots, Life Story Avatar, ologrammi dei morti, ecc.? I rischi maggiori, per chi è in lutto, sono ovviamente l’accentuarsi del trauma prodotto dalla perdita e l’alienazione.
Pensiamo alla situazione di una persona che, perdendo anzitempo il partner o un figlio e non riuscendo a distinguere la realtà dalla finzione per il troppo dolore provato, si isola dal mondo passando le proprie giornate a conversare con lo spettro digitale del morto tramite Alexa o per mezzo di ChatGPT.
Non serve una laurea in psicologia per capire la problematicità immediata di una situazione del genere. Questa problematicità è resa ancora più acuta dalla consapevolezza che le società che offrono il servizio mirano a trarre guadagno da una simile debolezza, dunque cercano di rendere sempre più veritiera la comunicazione tra i vivi e i morti.
Violazioni della privacy nella riproduzione post-mortem
Per il soggetto che viene riprodotto in prima persona post mortem è chiaro, invece, che il rischio maggiore consiste nel diventare una specie di burattino, sia nel caso in cui abbia consentito a essere riprodotto artificialmente una volta deceduto sia nel caso in cui invece venga violata la sua privacy (la cantante Madonna, a tal proposito, ha scritto nel suo testamento che non vuole diventare un ologramma). Potrebbe darsi che la riproduzione dei suoi comportamenti palesati nel corso della vita diventi la base per un aggiornamento della sua intera personalità: potrebbe, cioè, cominciare a sostenere tesi in cui non ha mai creduto, pubblicizzare prodotti mai utilizzati, diffondere idee contrarie al suo credo. In altre parole, non avendo più controllo della sua vita, potrebbe essere utilizzato per le finalità più varie. E se questo è certamente pericoloso per una persona comune, lo è ancora di più per una pubblica: per esempio, per un politico o per un personaggio influente all’interno della società.
L’illusione dell’immortalità digitale
Detto questo, proviamo ad andare più a fondo. Che cos’è di fatto un thanabot? Coincide veramente con la persona defunta, prolungandone la vita ad libitum? A mio avviso, qui di immortalità non ve ne è l’ombra. Il thanabot è soltanto l’ultima tappa di un percorso umano che utilizza ogni mezzo in grado di registrare delle tracce nell’ottica di conservare la memoria degli assenti. Il thanabot è, cioè, una riproduzione, la cui unica differenza rispetto al documento audiovisivo o al messaggio vocale registrato consiste nel non limitarsi alla ripetizione, riuscendo a interagire.
Detto in altri termini: il fantasma residuo del morto, coincidente con una fotografia, una voce registrata o un filmato, riproduce e dunque ripete sempre la stessa identica scena. Non è capace a dialogare. È la persona in lutto che, infatti, interpreta simbolicamente entrambi i soggetti del dialogo. Pensiamo a chi va sulla tomba del proprio caro per parlargli, a chi gli scrive su WhatsApp, a chi aderisce alla teoria dei Continuing Bonds, mantenendo un dialogo simbolico con chi non c’è più. Il thanabot, a differenza del fantasma residuo, risponde in modo autonomo, ma lo fa ignorando la complessità e la varietà di un’identità umana. Le sue risposte sono riproduzioni che si aggiornano artificialmente: riproducono e aggiornano connessioni di causa-effetto, del tutto prive delle casualità e dell’imprevedibilità tipiche di ogni essere umano.
I comportamenti relazionali di ogni individuo sono, infatti, condizionati da molteplici fattori: il vissuto man mano accumulato, l’insieme delle potenzialità e delle idiosincrasie coltivate via via che passa il tempo, tutti quegli aspetti irrazionali che non possiamo mai in alcun modo ricondurre entro un perimetro sicuro, capace di contenere la perfetta e oggettiva spiegazione. I thanabots riproducono connessioni – perlopiù, asettiche – senza casualità o incoerenze.
Se chiedessi, tramite Alexa, alla mia nonna defunta vent’anni fa cosa ne pensa del campionato 2023/24 della Juve, la sua risposta sarebbe il sunto di: 1) i comportamenti e le idee condivise e registrate nel corso della sua vita, dunque rielaborate dai programmi di intelligenza artificiale: per esempio, la particolare forma di tifo palesata per la squadra bianconera; 2) le informazioni oggettive inerenti agli esiti dello specifico campionato indicato; 3) la somma dei due punti precedenti: vale a dire, la razionalizzazione del particolare tifo espresso per la Juve insieme alla probabile reazione alla notizia di un campionato fallimentare. In altre parole, la risposta – per quanto possa essere dialetticamente precisa – non supera mai uno standard astratto ricavato da una piccola porzione di notizie. Magari mia nonna, fosse in vita, esprimerebbe la sua felicità – del tutto imprevista – per lo scudetto dell’Inter. Il bello del tempo che passa, della maturità acquisita negli anni e in virtù delle esperienze vissute, è la non prevedibilità assoluta del nostro modo di pensare.
L’incoerenza umana e le limitazioni dell’IA
L’incoerenza, che ci piaccia o no ammetterlo, è un elemento costitutivo della personalità individuale. Possiamo essere incoerenti di per sé, possiamo dire A pensando B, possiamo cambiare idea da un momento all’altro. E questo è un aspetto inaccessibile a qualsiasi programma di intelligenza artificiale, intento a rielaborare dati condivisi e registrati. Semmai, tali considerazioni possono avallare pericolosamente l’utilizzo del thanabot del morto per le finalità commerciali o politiche precedentemente indicate. Di certo, non l’autenticità della relazione interpersonale tra il dolente e il morto.
In altre parole, ci basta davvero una fredda relazione matematizzata per parlare di un rapporto autentico, sincero e realistico tra i vivi e i morti? Ovviamente, lo stato d’animo di una persona che soffre per la perdita può incidere in maniera profonda sul suo modo di concepire il thanabot, dunque può comunque confonderla e farle credere di avere ancora con sé la persona amata.
Ma, al tempo stesso, il carattere freddo, asettico e matematizzato del thanabot può rendere alla lunga noiosa la persona che non c’è più: chi è in vita prosegue il suo cammino esperienziale, mentre chi è morto è “imbalsamato”, fermo alla giornata in cui ha perso la vita e le sue interazioni sono solo la continua rielaborazione di ciò che non può più essere effettivamente aggiornato. Magari, dopo un certo lasso di tempo, ci si stufa di una persona che interagisce stando ferma a una determinata data e aggiornandosi sulla base di previsioni astratte. Per esempio, abbiamo certezze assolute sulle idee dei nostri cari, morti prima della pandemia, a proposito dei vaccini contro il Covid-19 o delle misure di contenimento del virus? Possiamo basarci su delle supposizioni, quelle su cui lavorerebbe il thanabot, ma senza alcun tipo di certezza.
Riflessioni etiche e psicologiche sull’uso dei thanabots
In definitiva, la fondamentale gestione etica, sociale, culturale e psicologica dei thanabots e delle loro continue evoluzioni deve tener conto di questi aspetti, di modo da educare i cittadini a usufruirne, nel caso vogliano proprio farlo e tenendo conto delle singole situazioni e dei singoli lutti, solo come delle memorie molto innovative, che però nulla hanno a che vedere con chi è morto per sempre. Esercizi tecnologici per non dimenticare una tonalità vocale, per ricordare episodi cancellati dalla memoria o specifiche forme di dialogo, per nutrire la memoria ricostruttiva – quella che tende a sovrapporre le invenzioni circostanziali agli episodi effettivi – con la memoria riproduttiva, la quale appunto riproduce asetticamente una situazione avvenuta in una determinata circostanza e registrata. Esercizi tecnologici per allenare la mente, man mano che l’oblio cancella significative porzioni di vita. Nulla a che vedere con la presenza di qualcuno che, una volta deceduto, è inevitabilmente divenuto assente. Persuadiamo noi stessi che se ne è andato e scendiamo a patti con il fatto che vivo non lo sarà mai più (Lewis docet).
