La filosofia della tecnologia, grazie soprattutto alla svolta empirica, ci aiuta a guardare la tecnica-tecnologia come una realtà pluridimensionale. In questa costituzione possiamo riconoscere tre diversi livelli rispetto ai quali deve focalizzarsi la riflessione etica.
Intelligenza artificiale, la via per un approccio più etico e regolato
I tre livelli di una riflessione etica sull tecnologia
Ad un primo livello la tecnica può essere vista come un mezzo, come un’attività finalizzata ad uno scopo. A questo livello si analizzano gli artefatti tecnologici come estensioni delle capacità umane: la tecnica è un modo per realizzare la trasformazione del mondo circostante. Così capito, l’artefatto tecnologico non possiede alcuna dimensione etica: l’unica finalità dell’artefatto in sé è l’efficienza ed è la volontà dell’uomo che ne determina l’uso corretto.
Ad un secondo livello, le tecniche possono essere viste nella loro capacità di trasformare aree della vita umana. A questo livello gli artefatti tecnologici sono come dei contenitori che al loro interno trasmettono una certa ‘intenzionalità tecnologica’, un modo di capire la realtà e di rispondervi che è in grado di inclinare l’utente verso una determinata finalità. Questo livello di comprensione della tecnica-tecnologia ha due conseguenze eticamente rilevanti.
- In primo luogo, la tecnica-tecnologia non conosce mai un uso moralmente neutro: l’intenzionalità tecnologica che ogni artefatto possiede chiede di essere assunta in libera e consapevole responsabilità e di essere sottoposta a un continuo discernimento etico.
- In secondo luogo, la tecnologia possiede anche una certa ambiguità che Ihde chiama «multistabilità»: poiché, come già visto, la tecnologia è strettamente connessa al suo essere situata in una cultura, ogni artefatto tecnologico, a questo livello, non ha una sua essenza ma acquista senso nel suo uso in un determinato contesto. L’etica contribuisce fortemente tanto nell’esercizio della libera e consapevole responsabilità quanto nell’esercizio di quel discernimento etico in grado di lasciar emergere l’intenzionalità tecnologica della tecnica-tecnologia. In particolare, lo stile del dialogo etico aiuta credenti e non credenti nella ricerca del bene capito e voluto.
Infine, ad un terzo livello, la tecnica-tecnologia esprime un atteggiamento di base degli esseri umani verso il mondo. Gli artefatti tecnologici rappresentano il modo con cui una cultura si esprime e si organizza in un tempo e in un luogo. Edifici, tecnologie, realizzazioni artistiche e tutti gli altri prodotti dell’attività dell’uomo costituiscono il livello visibile di una cultura. Questo livello esiste e si realizza in forza di una serie di giudizi di valore che sono condivisi da una comunità. Infatti, ogni gruppo sociale strutturato si propone una visione di «bene comune» definito dalle finalità specifiche che determinano e reggono il gruppo stesso. In base a tale visione di bene comune specifico si strutturano le relazioni interne ai singoli ambiti di socialità, in base ad esso viene anche valutato l’esercizio dei ruoli attribuiti ai singoli e si formano le attese reciproche. La domanda etica attraversa tutto il processo di formazione, di progressiva strutturazione e di eventuale modificazione, che dà forma ai vari livelli e modi concreti della socialità: è la domanda sulla correttezza, in termini di autenticità umana, delle finalità perseguite e dei modi di perseguirle. Questo livello normativo condiviso costituisce l’ethos di un popolo, ovvero è espressione della moralità dei singoli nello strutturarsi della storia.
La tecnica a questo terzo livello diviene rivelatrice delle gerarchie di valori di una cultura ed espressione della moralità vissuta, dell’ethos, di una società: anche se l’essenza della cultura di un gruppo è il suo modello di assunzioni di base condivise e date-per-garantite, la cultura si manifesterà al livello degli artefatti e di convinzioni e valori condivisi e osservabili. Nell’analisi di una cultura è importante riconoscere che gli artefatti sono facili da osservare ma difficili da decifrare e che convinzioni e valori condivisi e osservabili possono solo riflettere razionalizzazioni o aspirazioni. Per capire la cultura di un gruppo bisogna cercare di arrivare alle sue assunzioni di base condivise e si deve capire il processo di apprendimento attraverso il quale tali assunti di base si sono formati.
Siamo consapevoli che la tecnica-tecnologia esprime un atteggiamento di base degli esseri umani verso il mondo: gli artefatti tecnologici rappresentano il modo con cui una cultura si esprime e si organizza in un tempo e in un luogo, e al tempo stesso esprimono la visione che l’uomo ha di sé stesso e del mondo; inoltre, tentano di realizzare i suoi desideri più profondi. In altri termini la tecnologia è sempre, in una certa maniera, legata a un’antropologia di riferimento. Come già faceva notare Schein, la visione antropologica che soggiace allo sviluppo della tecnica-tecnologia è la più difficile da decifrare analizzando i soli artefatti tecnologici, ma non per questo si rivela meno efficace nel plasmare la cultura e la società.
La costruzione di una cultura organizzativa aziendale
Da questa consapevolezza prende il via la costruzione di una cultura organizzativa aziendale. La cultura organizzativa è, nella visione di Edward Schein, l’insieme coerente di assunti fondamentali che un certo gruppo ha inventato, scoperto o sviluppato mentre imparava ad affrontare i problemi legati al suo adattamento esterno o alla sua integrazione interna, e che hanno funzionato in modo tale da essere considerati validi e quindi degni di essere insegnati ai nuovi membri come il modo corretto di percepire, pensare e sentire in relazione a tali problemi. La cultura organizzativa è un concetto polisemico, ma è il modo con cui si può realizzare un modello convergente con le prospettive sociologiche, antropologiche ed etiche. Cultura fa riferimento alla definizione di strategia come prospettiva: visione condivisa del mondo, ideologia, identità, paradigma, teoria del business. La cultura può essere vista come un aspetto importante della strategia di un’organizzazione e come fonte di performance superiore.
Poiché la cultura organizzativa può essere vista come il collante che tiene insieme l’organizzazione attraverso la condivisione di schemi di significato, implementare un comportamento eticamente significativo in una organizzazione richiede la creazione di un’adeguata cultura organizzativa: creare schemi di significati e modi di comportamento che inverino le istanze capite come fondamentali per ottenere quanto voluto. Infatti, è la cultura organizzativa che:
- crea senso di identità;
- facilita impegno collettivo;
- promuove stabilità del sistema sociale;
- definisce schemi interpretativi;
- funge da meccanismo di controllo.
Solo se queste istanze divengono cultura organizzativa si riesce a rendere omogeneo e funzionale quanto il management individua come strategico e identificativo dell’azione dell’azienda. Questo trasforma il livello etico fondamentale in comportamento dei developers e in caratteristiche dei prodotti tecnologici sviluppati: il capito e il voluto del management diventa ciò che dà forma agli artefatti tecnologici prodotti. Le istanze etiche sapranno così essere un insieme di valori ma anche la struttura genetica degli artefatti prodotti.
La non-cultura non esiste
È importante aver chiaro che non esiste la non-cultura. Sappiamo dalla psicologia che non si può non comunicare, e che anche chi non vuole comunicare, di fatto, comunica. In maniera analoga, la cultura organizzativa si crea anche senza un’esplicita volontà dell’azienda-vertice. Ecco perché è sempre necessario conoscerla, comprenderla e, se necessario, modificarla, rafforzarla, e sostenerla.
Nel caso specifico dell’intelligenza artificiale la realizzazione di sistemi con un così grande impatto sociale e la natura tecnologica di tale trasformazione richiedono alcune attenzioni specifiche. L’assenza di una cultura aziendale significherebbe il proliferare di microculture nei diversi reparti e settori del management. La realizzazione di un sistema complesso, come un AI, richiede un allineamento di intenti e dei valori condivisi nei diversi elementi aziendali che partecipano alla sua realizzazione. Si pensi al caso presentato degli algoritmi di valutazione del rischio di recidiva per il mondo giudiziario: l’assenza di una serie di valori condivisi ha portato alla realizzazione di algoritmi che tecnicamente sono corretti e funzionano ma che, di fatto, non esprimono o realizzano i valori e gli assunti di base – la giustizia – che giustificano e al cui servizio è volta la loro stessa realizzazione.
L’assenza di una cultura organizzativa, quindi, non si risolve in un vuoto bensì in una serie di culture che esprimono, mediano e danno forza a valori e assunti diversi, multipli o addirittura contrastanti. Se questa fosse la condizione di sviluppo tecnologico, ci troveremmo di fronte a risultati a livello di sistema impredicibili e incontrollabili. Nello scenario descritto dall’introduzione di intelligenze artificiali pervasive per il riconoscimento facciale l’esito imprevedibile – fino ai più temibili scenari distopici – è semplicemente la prova che, come detto poc’anzi, un artefatto tecnologico è opaco rispetto ai valori: lo stesso artefatto può esprimere valori e assunti estremamente differenti. L’unico modo per garantire la presenza di alcuni valori fondamentali è renderli vivi e presenti in una cultura organizzativa. Certo la presenza di una cultura organizzativa da sola non garantisce il risultato sperato ma la sua assenza lo rende di fatto insperabile.
Le necessità di adattarsi ai mutamenti della tecnologia
Un ulteriore elemento chiave è connesso alla novità del campo tecnologico di cui parliamo. Produrre soluzioni tecnologiche con le intelligenze artificiali richiede di intraprendere decisioni aziendali che devono seguire le evoluzioni del settore tecnologico, le sensibilità sociali e le effettive opportunità.
Se queste decisioni non sono parte di una cultura, cioè di un organismo vivo che si adatta e risponde alle mutazioni interne ed esterne, rischiano di diventare linee guida che, al pari di parole incise nella roccia, non sanno adattarsi alle mutevoli condizioni. Le soluzioni prese in maniera rigida e immutabile, le soluzioni cioè che non prendono forma in una cultura organizzata nel veloce mutare degli scenari rischiano addirittura di produrre effetti opposti.
Il mercato delle intelligenze artificiali chiede di essere abitato adattandosi alle sue costanti trasformazioni. Fare questo come organizzazione richiede di superare un modello atomizzato per acquisire un modello organico. Solo una cultura organizzativa può produrre una risposta organica e sinfonica. Inoltre, la realizzazione di prodotti ad alta tecnologia richiede il lavoro di diverse parti e componenti dell’azienda a cui sono affidate le realizzazioni dei diversi mezzi necessari al raggiungimento del fine. La cultura organizzativa è la sicurezza di non confondere mai i mezzi con i fini: lo sviluppo di ogni componente delle soluzioni di intelligenza artificiale è un mezzo che si orienta al fine unico e univoco dell’organizzazione. Se non si crea una cultura adeguata i singoli mezzi rischiano di diventare fini. Se questo dovesse accadere il sistema di intelligenza artificiale non garantirebbe più i requisiti etici e di sicurezza richiesti o desiderati dall’organizzazione che lo sviluppa.
Conclusioni
Nel campo delle intelligenze artificiali, il risultato «intelligente» del sistema è frutto dell’interazione dei diversi componenti che lo compongono. Però il risultato non è meramente un qualcosa di riducibile alla somma delle sue parti. Questo richiede che la realizzazione di ogni singola parte guardi al tutto inteso non solo come artefatto prodotto ma anche al fine globale che si propone di realizzare. Questa dinamica è l’espressione operativa di una cultura in azione. Allora un risultato eticamente soddisfacente, nel mondo delle intelligenze artificiali, è pensabile solo come frutto voluto di una cultura organizzativa, poiché questa è il tensore che tiene insieme e orienta il lavoro delle parti.
Gli esempi con cui abbiamo aperto questo nostro contributo trovano proprio in questa assenza di una cultura organizzativa che li genera la loro opacità: sono grandi prodigi tecnici che però mostrano scenari non voluti o problematici perché il fine che possono perseguire non è espressione esplicita del gruppo che li ha implementati e realizzati. Solo la presenza di una cultura organizzativa esplicita vincola i mezzi al fine desiderato. Solo la comunicabilità all’esterno di questa cultura organizzativa permette ai partner istituzionali e alla società di vedere con trasparenza il fine perseguito e cogliere i mezzi, gli artefatti tecnologici, come strumenti e garanzie di valore e di eticità aziendale. Cummings e Worley forniscono alcuni orientamenti per realizzare un cambiamento culturale che qui decliniamo nel senso di quanto fin qui emerso.
*Estratto dal libro “Human in the loop. Decisioni umane e intelligenze artificiali” di Paolo Benanti, Mondadori Università, 2022 (Capitolo 6)
