Marsilio propone questi giorni una nuova traduzione di Eva Futura, il romanzo filosofico e di fantascienza scritto da Villiers de l’Isle-Adam, e pubblicato per la prima volta nel 1886. La tempistica non potrebbe essere delle migliori, a coincidere con le proposte sull’Intelligenza Artificiale dell’Unione Europea.
Padroni, non schiavi della tecnica: sei passaggi per riprendere il controllo sulle nostre vite
La trama di Eva Futura
Al centro di Eva Futura c’è un nobile inglese, Lord Ewald, innamorato dell’attrice americana Alicia Clary. Ewald, tormentato dalla inadeguatezza di Alicia che pur trova bellissima, sogna una compagna che avendo le stesse fattezze sia più intelligente e sensibile. Così, prima di risolversi ad abbandonare questo mondo, fa visita a un amico scienziato, le cui ricerche aveva finanziato anni prima e che adesso è un punto di riferimento mondiale: Thomas Edison. Lui gli assicura di avere la soluzione e lo conduce nel suo laboratorio, a Menlo Park – sede oggi, tra le altre aziende informatiche, di Facebook. Nei sotterranei del padiglione, grazie alle proprie arti elettriche, Edison ha costruito un giardino dell’Eden artificiale, nel quale vive, come una Eva altrettanto artificiale, l’andreide Hadaly. L’idea dello scienziato è di trasferire le grazie di Alicia Clary su Hadaly, già infusa in precedenza con l’intelligenza, arguzia e sensibilità che mancano alla donna.
Insomma, non siamo lontani da Galatea, la statua amata da Pigmalione, forse il vero prototipo delle bambole di ieri come di oggi. Hadaly, l’andreide di Villiers, è definita una ‘imitazione umana’ che a differenza della carne non invecchia. E che, da buona andreide, è lontana da quel femminile percepito ‘come flagello’, cioè un essere pensante con desideri e aspirazioni. Lo dice il creatore stesso, Thomas Alva Edison, che quella magnifica macchina fabbrica-ideale era più naturale della donna vera.
La breve vita di Samantha all’Ars Electronica Festival
Nel 2017 Samantha arrivò all’Ars Electronica Festival in Linz. Non durò molto, però. Lunghe mani maschili la avevano circondata, rompendola e distruggendone la figura così abilmente costruita da ingegneri e programmatori.
Samantha era una bambola – una andreide, per essere precisi. Una ‘essa’, non una ‘ella’. Nel frattempo, le nostre case si riempiono di assistenti virtuali con voci suadenti di donna, ed evocativi nomi femminili: Alexa, Siri, Cortana.
Ma cosa hanno in comune Samantha, Alexa e Cortana? Sono assistenti del potere e del desiderio maschile – non chiedono. Non sfidano. Non mettono in discussione. Obbediscono, rispondono, placano, assecondano e assistono. Non fanno domande e non hanno idee o opinioni.
Tutte le implicazioni dell’antropomorfizzazione delle machine
È importante interrogarsi sull’antropomorfizzazione delle machine, un tema centrale che ha a che fare con l’etica, la filosofia, e anche con la responsabilità legale, considerato che le macchine dall’aspetto umano possono tradire e produrre una falsa rassicurazione.
Non è per caso che stia emergendo con forza una nuova consapevolezza dei limiti della neutralità di dati e macchine. Non c’è artefatto tecnologico senza valore sociopolitico, sia nel suo utilizzo che nel suo essere. Software, macchine, algoritmi possono contenere e rappresentare dinamiche di oppressione le quali, se non capite e affrontate, potranno confermare quei pregiudizi, quali razzismo e sessismo, di cui la società dovrebbe invece liberarsi. L’aspetto tecnico-sociale dell’artefatto è qualcosa che stiamo imparando a conoscere adesso, con i maghi di Menlo Park – lo stesso luogo, notavamo, dove nel romanzo di Villiers Edison ha progettato l’andreide Hadaly – e più in generale della Silicon Valley, che senza volere hanno mostrato al mondo l’inestricabile connessione tra potere e tecnologia, in un contesto geopolitico nel quale il progresso tecnologico assume la dimensione di una corsa testosteronica verso un futuro distopico.
Quali regole del gioco?
Diventa dunque essenziale codificare le regole del gioco. L’Unione Europea ha pubblicato una serie di regole che cominciano adesso l’iter parlamentare. Lo scopo è di definire il quadro normativo legato all’IA, soprattutto quando gli artefatti presentano un alto livello di rischio. Un quadro ambizioso e in divenire, che rivela la consapevolezza che le regole ci debbano essere – e presto. La normativa legata al trattamento dei dati personali (la GDPR) arrivò troppo tardi, dando tempo al mondo digitale di trasformarsi nel frattempo in un far west, una free-zone che oggi facciamo fatica a governare.
Diciamo dunque che alla IA servono regole per governare il comportamento degli individui che producono questi artefatti.
Robot e macchine sono sempre più presenti, e io sono convinta che un regime di collaborazione sia possibile. La collaborazione richiede regole certe. Alcune riguardano rischi e controlli: un ecosistema legislativo capace di produrre innovazione rimanendo dentro la certezza della legge. D’altra parte, è però necessaria una discussione etica, poiché l’antropomorfizzazione può anche avere effetti negativi, pur essendo un desiderio quasi naturale. La femminilizzazione della robotica sta introducendo un pericoloso elemento di distopia che va fermato.
L’ambizione dei maghi di Menlo Park non differisce, in fondo, da quella di Edison in ‘Eva Futura’: la hybris di definire una vita femminile solo e semplicemente attraverso il suo creatore maschile. È quella stessa hybris che produce algoritmi capaci di creare la realtà, di curare, di definire le relazioni tra passato, presente e futuro, e di codificare gli stereotipi nella pubblicità e nelle storie a cui veniamo esposti.
Conclusioni
Davanti agli scenari di automazione è opportuno quindi ricordare che la tecnologia non è uno spazio neutro; e se la definizione dei limiti delle macchine che costruiamo richiede di costruire e insegnare un’etica, tale etica non può prescindere dalla consapevolezza che la tecnologia, per essere liberatrice, deve prima liberarsi di ciò che la rende oppressione. Se l’oppressione è l’opinione di pochi che assurge a pensiero dominante, allora è proprio nella robotica, negli algoritmi e nella progettazione dei prodotti tecnologici che si devono ripensare il pluralismo e la costruzione di un’etica condivisa.
