“Vi sono certi fenomeni ai quali nelle nostre società si dà il nome di etici o morali, che tutti credono conoscere perfettamente, e che nessuno ha mai saputo rigorosamente definire. Non sono mai stati studiati da un punto di vista interamente oggettivo. Chi se ne occupa ha una qualche norma che vorrebbe imporre altrui, e da lui stimata superiore ad ogni altra” (Vilfredo Pareto)
L’Unione europea sta procedendo con passo accelerato nella definizione di linee guida per uno sviluppo etico dell’intelligenza artificiale. Questo perché a fronte di un grande e rinnovato entusiasmo nei confronti dell’AI, molti esprimono anche il timore che questa nuova rivoluzione porti ad effetti negativi legati alla riduzione del lavoro (le macchine ce lo ruberanno?), alla nostra sicurezza (ci saranno armi autonome in grado di decidere da sole chi uccidere), alla generazione di disuguaglianze e discriminazioni sociali.
C’è però un aspetto forse un po’ trascurato ed è quello che riguarda la possibilità di utilizzare l’intelligenza artificiale per misurare meglio il valore che generiamo e i costi che sosteniamo, per ottimizzare l’utilizzo delle risorse e per inserire la produzione in un’economia circolare. Potrebbe essere questa la via per un futuro tecnologico in cui avere la massima fiducia.
Intelligenza artificiale, come si muove l’Europa
Lo scorso 8 aprile è stata pubblicata la versione finale del documento “Ethics guidelines for trustworthy AI” redatto da un gruppo di esperti nominati dalla Commissione Europea. Una versione rilasciata dopo un impegnativo lavoro di analisi, approfondimento e integrazione di oltre 500 contributi tecnici giunti alla Commissione da parte di altrettanti stakeholder chiamati in causa dopo la prima bozza presentata il 18 dicembre 2018.
Lo scopo di queste linee guida consiste nel promuovere un’Intelligenza Artificiale affidabile che:
- deve aderire alla legislazione,
- seguire i principi e i valori etici
- essere robusta sia lato tecnico che sociale poiché un sistema di IA potrebbe causare danni anche con le migliori intenzioni.
L’affidabilità è quindi il risultato di queste tre componenti che non possono prescindere l’una dall’altra ma lavorare in modo armonico integrandosi al meglio.
Il documento europeo non descrive così solo raccomandazioni o principi etici, ma una vera e propria guida di come questi principi devono essere applicati nei sistemi socio-tecnici suddivisa in tre livelli di astrazione che portano anche esempi di opportunità e minacce che si possono incontrare nei sistemi di Intelligenza Artificiale.
Prima di parlare di comportamento etico delle macchine, dovremo però parlare di comportamento etico dell’uomo. Dovremo definire dei modelli affidabili, scrutinabili e configurabili del ragionamento morale umano, capire il contesto in cui viviamo e agiamo, e realizzare strumenti complessi in grado di prevedere gli effetti dell’interazione tra fattori socio-culturali, economici, demografici e ambientali. Numerose ricerche di ambito sia filosofico che psicologico, nell’arco di un decennio, hanno messo in luce la difficoltà di definire il ragionamento morale umano al di fuori di parametri emotivi e culturali.
Economia del cow boy vs economia dell’astronave
Partiamo dall’economia, che per definizione rappresenta un modo di operare volto a ottenere il massimo vantaggio con il minimo dispendio di energie e di risorse. Nell’economia classica le risorse scarse sono il capitale e il lavoro, mentre le risorse naturali si intendono infinite. Quella che l’economista americano Kenneth Ewart Boulding (1910 – 1993) chiamava l’economia del cow boy, contrapponendola all’economia dell’astronauta. L’economia del futuro dovrà rassomigliare all‘economia dell’astronauta.
La Terra va considerata una navicella spaziale in cui la disponibilità di qualsiasi cosa ha un limite; sia per quanto riguarda la possibilità di uso, sia per la capacità di accogliere i rifiuti. In questa navicella, bisogna perciò comportarsi come in un sistema ecologico chiuso, capace di rigenerare continuamente i materiali, usando soltanto un apporto esterno di energia.
Le differenze tra i due tipi di economia diventano più evidenti nell’atteggiamento verso il consumo. Nell’economia del cowboy, il consumo è considerato positivamente come anche la produzione. Il successo dell’economia è misurato sulla produttività dei fattori di produzione parte dei quali, ad un certo prezzo, sono estratti dalle riserve di materie prime e di beni non di mercato. Mentre un’altra parte è output che va a costituire le riserve di inquinanti. Se vi fossero riserve infinite da cui estrarre le materie prime e in cui depositare gli effluenti, allora la produttività sarebbe una misura attendibile del successo dell’economia.
Il prodotto interno lordo è una rozza misura della produttività. Dovrebbe essere possibile distinguere la parte del PIL originata da risorse irriproducibili rispetto a quella originata da risorse riproducibili, così come la quota di scarti nel consumo rispetto alla quota di beni di riciclo. Probabilmente nessuno, ad oggi, ha mai tentato di suddividere il PIL in questo modo, malgrado l’interesse e l’importanza di questo esercizio.
Di contro, nell’economia dell’astronauta, la produttività è considerata come qualcosa da minimizzare, piuttosto che massimizzare. La misura essenziale del successo dell’economia non sono la produzione e il consumo, ma la natura, l’estensione, la qualità e la complessità dello stock totale di capitale. Comprese le risorse umane nella loro dimensione fisica e mentale. Nell’economia dell’astronauta siamo fondamentalmente interessati alla conservazione degli stock e ogni cambiamento tecnologico che dia come risultato il mantenimento di un dato livello totale degli stock con una diminuzione del prodotto (cioè meno produzione e meno consumo) è un vantaggio.
Se l’Intelligenza Artificiale viene inserita in tale contesto, il suo uso etico va misurato in merito a elementi del tutto nuovi e, spesso, in contraddizione con quelli normalmente accettati:
- i suoi effetti vanno misurati in merito al valore che producono, ma come si misura tale valore? Se PIL e profitto non sono sufficienti, sono necessari nuovi indicatori. Probabilmente quelli che fanno riferimento al BES (Benessere Equo e Sostenibile) adottati anche dall’Italia sotto la spinta dell’Istat, o, meglio, dei suoi equivalenti internazionali come OECD Regional Well Being.
- il costo delle azioni umane (o di quelle di macchine dotate di autonomia) va giudicato in base al consumo di risorse non rinnovabili o all’impatto sull’ecosistema che queste producono. In pratica, se viviamo in una grande astronave, il costo di un’azione è determinato dall’impatto che l’azione ha sull’astronave stessa, sul consumo di carburante, sull’eventuale danno al sistema di supporto vitale, eccetera.
Il problema è che misurare gli effetti positivi delle azioni (per esempio tramite il BES) e i relativi costi non è affatto semplice. Lo sarebbe se l’astronave Terra fosse piccola, o se tutte le azioni e i relativi effetti fossero locali. In un mondo globalizzato tutto ciò è complesso. Da qui il prezioso contributo che potrebbe dare l’Intelligenza Artificiale trasformandosi in un insieme di cruscotti nella plancia che consentano di tenere sotto controllo le azioni umane giudicandone gli effetti positivi (il well being) i negativi (i costi).
Intelligenza artificiale e mondo del lavoro
Se guardiamo al passato vediamo che il benessere è stato generato prima di tutto da una equa redistribuzione dei vantaggi ottenuti dalle macchine. Lotte operaie, a volte feroci, hanno permesso di ridurre gli orari di lavoro e migliorare le condizioni. Basti pensare che ad inizio anni Ottanta a Torino gli orari di lavoro contavano 16 ore giornaliere (per donne, bambini e uomini in modo indifferenziato). In realtà oggi gli orari di lavoro, dopo una forte riduzione fino a metà degli anni 80, stanno crescendo e le condizioni di lavoro stanno peggiorando.
Vi è poi il tema della perdita del lavoro. La maggior parte degli studi su questo argomento dal 2013 ad oggi, mettono in guardia sulla riduzione di occupazione (si parla di mestieri a rischio o, più correttamente, di percentuali di lavoro automatizzabili).
Non è giusto affermare che i cuochi non spariranno, solo saranno in quantità minore perché le percentuali di lavoro automatizzabili nel lavoro di cucina aumenteranno. Da ciò derivano tre opzioni:
- maggiore disoccupazione dei cuochi,
- alcuni cuochi dovranno trovare un nuovo lavoro, che oggi non immaginiamo nemmeno,
- riduzione degli orari di lavoro dei cuochi con mantenimento dello stipendio, ridistribuendo il vantaggio ottenuto dal lavoro delle macchine.
Chi sostiene la seconda ipotesi pensa che l’economia possa crescere all’infinito. Il già citato Boulding era solito affermare: “Chi crede che una crescita esponenziale possa continuare all’infinito in un mondo finito è un folle, oppure un economista”.
Non possiamo continuare a misurare solo il lavoro. Dobbiamo considerare l’insieme delle condizioni di vita delle persone. Insieme al lavoro dobbiamo quindi considerare lo stipendio, gli orari di lavoro, l’equilibrio tra lavoro e tempo libero, la soddisfazione, la passione, le relazioni interpersonali, l’ambiente di lavoro, e altro ancora. Dobbiamo inoltre considerare se quel lavoro porta a vantaggi o a danni (non solo considerando il mercato), sul benessere, sull’ambiente, sulla società in generale.
Intelligenza artificiale e riduzione dei costi
Oltre a misurare il benessere, l’IA può aiutarci ad ottimizzare i consumi e i costi. Tornando all’idea dell’astronave, l’aumento del PIL può essere visto come un aumento dei costi, non del benessere.
Se riuscissimo a ridurre il consumo di energia, l’inquinamento che generiamo, l’uso dei pesticidi, delle materie plastiche tutto questo porterebbe ad un miglioramento, non ad un peggioramento delle condizioni di vita. Erosione del suolo ed inquinamento delle acque causati dall’agricoltura intensiva e dall’utilizzo di pesticidi sono effetti secondari di un aumento delle rese agricole che non possono essere considerati non prevedibili nei modelli di sviluppo odierno e che dovrebbero essere a disposizione dei decisori politici perché possano assumere decisioni informate in merito alle politiche alimentari ed economiche (Il dilemma dell’onnivoro, Michael Pollan, 2006).
Non dimentichiamo che, di fronte ad un disastro ecologico, il PIL sarebbe destinato a crescere a causa della spesa necessaria a rimediare ai danni generati, mentre il benessere, di conseguenza, non aumenterebbe.
L’assurdità dell’obsolescenza programmata
Un esempio concreto: oggi quando compriamo un nuovo elettrodomestico, sappiamo che è destinato a durare meno di quello precedente a causa di una più rapida obsolescenza del bene. In realtà da una parte si parla di obsolescenza tecnologica, dall’altra parte di obsolescenza del prodotto vero e proprio che tende a guastarsi prima del modello procedente.
Se apparentemente, e secondo il modello classico, questo è ritenuto un valore perché incrementa la produzione aziendale, la necessità di forza lavoro, gli acquisiti e quindi la ricchezza, in verità, sempre per il modello dell’astronauta, tutto questo è semplicemente assurdo. Dove butteremo la vecchia lavatrice (che spesso è in buona parte di plastica non riciclabile)? Ma non solo sostituiamo il vecchio modello, quando l’innovazione potrebbe essere inserita in modo modulare.
Torniamo quindi al tema “obiettivo”. Se l’obiettivo diretto dell’uomo è solo il profitto e utilizza le risorse naturali per raggiungerlo, anziché benessere produrrà inquinamento. Ecco perché è necessario riformulare l’intera teoria economica in chiave ecologica. Anzi l’economia deve diventare parte dell’ecologia.
Se riuscissimo ad inquadrare le nostre attività all’interno dell’ecosistema, potremmo non solo ridurre i costi, ma anche far crescere il benessere.
