Sebbene tutte le macchine presenti sul pianeta Terra siano di produzione umana, è singolare come si pensi così spesso ad esse mettendole sullo stesso piano dei loro autori, come se esse possiedano un proprio status sostanzialmente indipendente, persino antitetico.
Per converso, nel descrivere questa alterità dell’automa, soprattutto quando la comunicazione è meno rigida e controllata (ad esempio, nel parlato rispetto allo scritto), addirittura esso viene definito con pronomi tipicamente riservati agli esseri viventi: “Se non ci fosse lui (cioè il computer), questo lavoro ci avremmo messo giorni a farlo!”, “Cos’hai questa mattina che ci metti mezzora ad accenderti?”).
Robot, un futuro senza lavoro umano? Ecco che deve fare la politica
La confusione che domina il rapporto uomo-macchina
Il rapporto così fluttuante tra umano e computer ha sicuramente ragioni molto profonde che non indagheremo ora, visto che qui serve solo notare come esso porti a certe sovrapposizioni e confusioni che sono alla base di alcune concezioni che, per quanto costantemente diffuse, non trovano reale motivazione.
A chi si occupa di Intelligenza Artificiale accade spesso di sentir parlare degli esiti della sua applicazione come di “risposte”. In particolare, quando l’AI è interpellata usando il linguaggio naturale e l’output del sistema è anch’esso in forma di parola pronunciata e ascoltabile, quell’output diventa automaticamente “risposta” credibile, affidabile.
L’IA ci restituisce risultati di calcolo, non risposte
Se, come dice il vocabolario, la risposta è la pura conseguenza dell’atto di richiedere, indubbiamente l’output digitale lo è, ma in un senso più ristretto si dovrebbe aver sempre coscienza che esso è un “risultato”. Come tale, prima di accettare quell’esito come risposta ci si dovrebbe porre qualche scrupolo.
In un bellissimo documentario della BBC che viene regolarmente trasmesso in italiano anche dal semisconosciuto canale “RAI Scuola”, lo scienziato e comunicatore Jim Al-Khalili tenta un dialogo con un robot conversazionale e le cose partono bene, ma poi l’automa comincia a deviare sbagliando l’attribuzione di significato di una sola parola pronunciata dall’umano e ne scaturisce così una spassosa slavina di stupidaggini. Ovviamente, proprio perché dotato di AI, il funzionamento dell’oggetto digitale migliorerà nel tempo, ma questo piccolo esempio può darci la chiave giusta per comprendere come un risultato di calcolo possa allontanarsi facilmente dall’essere una risposta utile.
Non si tratta, si badi bene, di fiducia umana mal riposta ma di abbassamento dell’attenzione della persona verso l’automa, nel dimenticare cioè che esso genera output come conseguenza logica dell’input, non per forza coerente con l’intenzione della domanda espressa.
Perché dalle macchine vogliamo un “di più”
Il problema dell’attesa che l’uomo ha verso la macchina si manifesta in molti modi, talvolta così sottili che la loro diffusione ne favorisce la credibilità.
Assumiamo il caso di un’auto a guida autonoma che sia coinvolta in un incidente stradale. I media trattano un caso del genere dando alla notizia massima evidenza, anche portando il focus sui danni causati da quell’auto prima ancora che sulle cause dell’incidente, di cui magari il veicolo a guida digitale non ha responsabilità. Se guardiamo a tempi appena passati, anche le macchine che furono costruite ai tempi della prima rivoluzione industriale subirono lo stesso processo: esse erano sempre l’unica causa degli incidenti sul lavoro.
Posto che né in un caso né nell’altro non si pensa istantaneamente a possibili errori umani nella progettazione e realizzazione dello strumento tecnico, sembra che le macchine possano sostituire i propri creatori solo se esse eseguono le loro attività in maniera pressoché perfetta, senza errori o mancanze, come super-umani dotati di ogni virtù e privi di qualsiasi limite o difetto: quel che si concede ad un’autista che abbia bevuto un bicchiere in più è invece imperdonabile nei confronti dell’automa.
È singolare come accada anche l’inverso. Di recente c’è stato il caso, ampiamente riportato dai media, di un autista di autobus romano che seguiva un film sul cellulare mentre guidava il mezzo pubblico nell’affollato e complicato traffico della capitale. È stata una giusta indignazione che, guardata da un altro punto di vista, esprimeva come a volte ci si attenda da un umano un comportamento che sarebbe del tutto implicito in un robot, cioè la totale concentrazione dei propri strumenti percettivi verso l’esecuzione precisa dell’attività richiesta.
Insomma, talvolta si vuole che l’uomo si comporti da automa e altre volte non si perdona all’automa l’imitazione di errori umani.
Sembra che quando le soluzioni derivino da una macchina esse debbano avere un qualche “di più” di quella umana, anche se l’efficacia è la stessa o persino maggiore.
Questo ha a che vedere sia con il perfezionamento che gli automi possono avere nel tempo (in particolare quelli dotati di AI, che sono progettati proprio per ri-creare autonomamente le modalità di soluzione del problema posto), sia con la sequenza di generazioni umane.
Lavoro, macchine e dignità
Si pensi, ad esempio, all’ostilità verso la macchina di chi viene sostituito come lavoratore dalla macchina stessa e di come sia invece opposta la sensazione che proveranno le persone della generazione immediatamente successiva, le quali molto probabilmente non avranno alcuna intenzione di tornare a fare un lavoro che, faticoso, pericoloso ed estenuante, sarà rapidamente definito “disumano”, dunque inaccettabile.
Se qualcosa ci ha insegnato l’automazione dei lavori produttivi che ha caratterizzato gli ultimi due secoli e mezzo della storia della nostra specie, è che le mansioni in cui le persone sono state sostituite dagli automi sono divenute presto indesiderabili per chiunque, casomai praticabili solo in condizioni in cui la miseria sia tale da indurre uomini, donne o bambini ad accettare uno stato di occupazione paragonabile alla schiavitù pur di procurarsi il minimo indispensabile per sopravvivere.
Questo induce a pensare che non dovremmo dar poi così tanto peso a chi paventa la perdita di posti di lavoro ogni volta che l’automazione raggiunge nuove aree del fare umano. In realtà, questo approccio non è corretto poiché, anche immaginando di remunerare coloro i quali perdono il proprio posto in maniera esattamente uguale a quando lo possedevano, il ruolo sociale di lavoratori che essi avevano portava con sé un elemento non contrattabile quale la dignità.
Che lavoro e dignità siano legate è questione complessa, tanto più se si pensa che solo da pochissimo tempo (un secolo e mezzo, più o meno) la cultura sociale ha avuto una tale trasformazione tale per cui la dignità, un tempo preciso ed esclusivo connotato dei nobili che non lavoravano, è stata poi attribuita in forma eguale, se non maggiore, a quanti operano con mani ed intelletto alla costruzione di qualsiasi valore materiale e immateriale della società.
Sebbene molte catastrofiche proiezioni sulla perdita di occupazione che deriverà dalla sempre maggior digitalizzazione, in particolare delle attività strettamente produttive, paiano non trovare riscontro nella realtà man mano che il tempo passa, la società deve comunque prevedere delle modalità per prevenire il fatto che coloro siano eventualmente forzati a lasciare il proprio ruolo aziendale si sentano privati anche della propria dignità.
È un tema difficile ma, proprio per questo, ritengo non debba essere lasciato a margine di ogni approfondimento si voglia portare avanti sul tema dell’etica dell’innovazione o anche solo dell’Intelligenza Artificiale.
Le generazioni future godranno sicuramente della continua miglioria nell’apporto che le macchine daranno al vivere umano, ma egualmente si deve cercare in ogni modo di non penalizzare la dignità dei presenti, ricordando che l’etica dei loro e nostri padri è ancora presente ed è in quella che si radica la dignità portata dal lavoro, anche quando esso si manifesti ancora nelle sue forme più opprimenti.
I pregiudizi non sono dell’intelligenza artificiale ma degli uomini
Una ulteriore osservazione sul rapporto tra umano e AI deriva da come si sia constatato che i risultati ottenuti attraverso questa tecnologia siano talora caratterizzati da pregiudizi.
Un esempio mille volte riportato è quello di un sistema di AI che, analizzando le caratteristiche di un reato e le condanne che erano state emesse in passato in circostanze analoghe da corti statunitensi, determinava in casi analoghi sanzioni diverse a seconda dell’appartenenza dell’imputato a differenti “categorie” di gruppo sociale, reddito, residenza. Tale applicazione era stata addestrata utilizzando esempi reali in grande quantità ma, non essendo essi stati precedentemente revisionati per evitare la creazione di un campione eccessivamente caratterizzato, essa ha “imparato” ciò che aveva interpretato da quell’insieme; dunque, riproponendo gli stessi pregiudizi che i giudici umani avevano manifestato nel loro decidere le sorti dei colpevoli.
Se la prima reazione social-mediatica è stata quella di criminalizzare l’algoritmo per l’applicazione di “bias” in maniera tanto discriminante, appena dopo una visione più illuminata ha portato a percepire come esso non fosse che la formidabile visualizzazione del razzismo che pervadeva il sistema di giudizio di tante corti.
Episodi del genere dovrebbero attirare la nostra attenzione sia su quanto i pregiudizi permeino ancora le società, sia su come lo strumento “AI” possa rendere evidenti comportamenti personali e collettivi su cui è fortemente negativo il giudizio comune ma non altrettanto energica la reazione affinché non si verifichino ulteriormente.
Conclusioni
Insomma, riguardare l’insieme di certe contraddizioni umane che il rapporto tra noi e gli automi che abbiamo creato rivela, penso possa servire per analizzare più a fondo cosa si intende quando si parla, come spesso si fa, di “riportare l’uomo al centro” in riferimento all’evoluzione tecnologica, specialmente quella digitale. Quella espressione appare quasi come supplice richiesta (a chi altro se non all’umano stesso, poi?) di poter tornare in un punto da cui qualcuno percepisce di essere stato rimosso senza colpa. Più utilmente, essa permette di percepire come sia sempre più necessario condividere una visione integrale del rapporto uomo – automa, tanto più ora, momento in cui è indispensabile pensare a come vogliamo sia il futuro e creare un reale “progetto umano”.
