Parlare di trasparenza e tracciabilità nella PA e di come AI può potenziarle ha tutta l’aria di un’altra mediocre associazione per scrivere un ennesimo, probabilmente inutile, articolo generalista.
Ma questa volta, questa associazione, merita un’attenzione diversa per un motivo di tutta evidenza: il caso americano, cioè Musk e Trump, che stirano questa associazione in un modo non ovvio e ci consentono qualche riflessione non inutile, almeno stavolta.
Indice degli argomenti
L’AI come strumento per migliorare la trasparenza amministrativa
Partiamo dai primi termini della questione, cioè la trasparenza e la tracciabilità: la trasparenza dei processi amministrativi è la base per costruire e mantenere la fiducia dei cittadini nell’amministrazione pubblica di un paese democratico ed avanzato, mentre la tracciabilità delle decisioni e delle procedure ne è un requisito perché stabilisce ed accerta le responsabilità dei funzionari della PA.
Operazioni trasparenti rassicurano i cittadini sul fatto che l’amministrazione stia lavorando nel loro interesse. Quando il pubblico ha accesso alle informazioni sulle delibere e sulle decisioni, aumenta la fiducia nella governance e riduce lo scetticismo nei confronti di agende nascoste o corruzione. E questo è già lo stato di un’amministrazione democratica ed avanzata.
L’altro termine di cui vogliamo parlare è l’intelligenza artificiale. L’AI può portare la trasparenza e la tracciabilità all’interno della pubblica amministrazione a ben altri livelli rispetto al presente, automatizzando i processi, standardizzando i documenti e migliorando l’accessibilità delle informazioni per le parti interessate. Con l’avvento degli strumenti di AI avremo sicuramente processi di documentazione più intelligenti e automatizzati, e quindi audit documentale più efficace.
La maggiore tracciabilità garantirebbe che le decisioni possano essere ricondotte alla loro origine con precisione millimetrica, rendendo i membri della PA più responsabili delle loro azioni. Quando le attività della PA saranno aperte al controllo degli strumenti di AI che le vaglino in modo dettagliato e accurato, i funzionari avranno maggiori probabilità di aderire agli standard etici e di adempiere alle proprie responsabilità.
Con l’AI la trasparenza diventerebbe la pietra miliare di una governance efficace e svolgerebbe un ruolo fondamentale per il successo delle funzioni amministrative. Garantendo con l’AI che i processi, le decisioni e le azioni siano immediatamente visibili e accessibili alle parti interessate (e non parlatemi di accesso agli atti, così com’è oggi, per favore), la nuova trasparenza creerebbe più fiducia e favorirebbe la responsabilità e l’iniziativa dei funzionari come mai è accaduto.
L’AI e l’opportunità di maggiore inclusione dei cittadini
In più c’è l’opportunità di maggiore inclusione dei cittadini, che è strettamente legato alla trasparenza. La trasparenza consente a tutte le parti interessate, cittadini, gruppi di interesse e altri enti governativi, di rimanere informati e di poter intervenire e contribuire durante le procedure. Questa inclusività rafforza i risultati delle politiche, incorporandone le diverse prospettive. Una documentazione chiara e accessibile delle decisioni e dei processi riduce al minimo le incomprensioni tra la PA e i cittadini. La trasparenza assicura che tutti operino con le stesse informazioni, riducendo conflitti e inefficienze. Con sistemi più trasparenti, le amministrazioni possono prendere decisioni basate su prove e input ben documentati. Questa chiarezza porterebbe a risultati più informati, equi ed efficaci.
Gli attuali ostacoli al miglioramento della trasparenza della PA
Il raggiungimento di condizioni di più alta trasparenza spesso comporta vincere sfide quali la disorganizzazione, la cattiva comunicazione e la mancanza di responsabilità. Queste condizioni di insufficienza hanno, come sintomi immediatamente osservabili dai cittadini una documentazione insufficiente e non tempestiva delle procedure amministrative, comportamenti superficiali dei funzionari e strumenti spesso insoddisfacenti messi a disposizione di cittadini e funzionari.
Gli strumenti basati sull’intelligenza artificiale possono risolvere sicuramente il problema, cioè la documentazione delle procedure. Ma è necessario considerare l’impatto del contesto reale, specie in Italia. È certo che molte amministrazioni operano senza linee guida uniformi per documentare le decisioni, tracciare le azioni o condividere le informazioni, e che questa incoerenza crea lacune nella tracciabilità, lasciando gli stakeholder incerti sui processi che sono avvenuti. La resistenza al cambiamento dei funzionari abituati a modalità di lavoro tradizionali rallenta l’adozione di pratiche più aperte e responsabili. L’implementazione di misure di trasparenza richiede quindi un cambiamento culturale, prima che nuovi strumenti di documentazione.
Il giusto equilibrio tra trasparenza e riservatezza nella PA
Persino i diritti di riservatezza giocano contro la trasparenza. Le amministrazioni spesso trattano informazioni sensibili che non sempre possono essere condivise pubblicamente. Trovare il giusto equilibrio tra trasparenza e riservatezza rimane una sfida importante. La trasparenza è compromessa persino quando le amministrazioni non riescono a coinvolgere efficacemente il pubblico. Un accesso limitato alle informazioni o canali di comunicazione troppo complessi possono scoraggiare i cittadini dal partecipare o monitorare le attività delle commissioni e dei singoli funzionari. Le amministrazioni spesso generano grandi quantità di dati ma non hanno gli strumenti o le strategie per organizzarli, pseudo-anonimizzarli e presentarli in modo trasparente. Una gestione inadeguata dei dati è la prima causa secondo l’UE che può rendere opaca la PA e quindi ostacolare l’assunzione di responsabilità dei funzionari.
Inoltre, le amministrazioni possono non avere le risorse, le competenze, il personale o i finanziamenti necessari per attuare efficacemente le iniziative per la trasparenza. Questo può portare a una documentazione incompleta, a ritardi nello sviluppo delle procedure o a una comunicazione inadeguata con i cittadini. Infine, ci sono i limiti tecnologici. Sistemi obsoleti e l’incompiutezza della transizione digitale della PA rendono difficile la conservazione e la condivisione della documentazione di processo. Senza la tecnologia digitale di base per semplificare le operazioni, la documentazione e la comunicazione sono soggette a errori o ritardi. Sappiamo tutti che occorrono molte risorse per completare la digitalizzazione ed introdurre gli strumenti di AI.
Come l’intelligenza artificiale può potenziare la trasparenza dei processi
Sappiamo che gli strumenti di GenAI possono creare documenti chiari, accessibili e completi, migliori di quelli generati da un funzionario medio. L’AI può assorbire i tantissimi casi storici e quindi aiutare a redigere proposte di procedure amministrative nuove a partire dai regolamenti precedenti. Allo stesso tempo può identificare anomalie e attività sospette in tempo reale rintracciandone gli schemi di frodi in corso.
Automatizzare le attività di routine e i processi amministrativi
Automatizzando le attività di routine e i processi amministrativi, l’AI consentirebbe ai funzionari pubblici di concentrarsi sulle attività strategiche e quindi di aumentare l’efficienza operativa. In tal modo si otterrebbe il monitoraggio automatico dei requisiti legali e la generazione di report che dimostrano l’aderenza a leggi e regolamenti, semplificando gli audit. L’intelligenza artificiale può ottimizzare la gestione delle risorse, prevedendo ed anticipando la domanda di servizi essenziali come nell’assistenza sanitaria e nel pagamento delle tasse.
Pertanto, quando un procedimento amministrativo fosse in tutto o in parte affidato ad agenti AI, non incontreremmo più molti degli ostacoli alla trasparenza prima elencati.
Crittografia e controlli di accesso per proteggere le informazioni sensibili
Per la riservatezza, ad esempio, gli strumenti di AI utilizzano la crittografia e i controlli di accesso per proteggere le informazioni sensibili, rispettando le normative sulla protezione dei dati come il GDPR, mentre possono escludere l’accesso ai funzionari, se non strettamente necessario. Analizzando i dati storici i sistemi AI potrebbero essere usati per individuare e correggere i pregiudizi che sono già intervenuti nell’attività amministrativa a causa di operai umani, migliorandone la correttezza e l’equità dei risultati. Gli strumenti di AI offrono oggi le funzioni di trasparenza nativamente, che consentono di capire come i sistemi di prendono le decisioni, garantendo la responsabilità e la conformità con i codici deontologici della PA.
Esempi internazionali di AI applicata alla trasparenza amministrativa
I governi di tutto il mondo stanno dimostrando come si possa aumentare la trasparenza dell’amministrazione pubblica con l’AI, anche se è ancora presto per trarne conclusioni.
Taiwan è stata pioniera nell’uso di modelli di AI per facilitare la democrazia deliberativa su una scala senza precedenti.
Singapore è stata leader nello sviluppo di modelli di AI pubblici, costruiti in modo trasparente e con casi d’uso di servizio pubblico in mente.
Il Canada ha illustrato il ruolo della divulgazione e del contributo pubblico nell’esame dei casi d’uso dell’IAI nel governo.
Frida in Norvegia è un chatbot AI che fornisce accesso illimitato a servizi e informazioni sul welfare, mentre in India Missione Smart Cities utilizza l’intelligenza artificiale per monitorare i progetti infrastrutturali, garantendo la trasparenza dello sviluppo urbano.
In Corea del Sud il portale Open Data usa l’AI per classificare e condividere i dati governativi con il pubblico.
Il Programma e-Estonia integra l’AI per fornire accesso ai servizi pubblici, consentendo ai cittadini di seguire le transazioni governative e di accedere ai documenti pubblici online.
In Brasile il Ministero dell’Economia ha deciso di introdurre l’AI nel sito web gov.br che offre quasi 5.000 servizi pubblici e ha più di 200 milioni di visualizzazioni di pagina al mese in media.
La raccomandazione di servizi pubblici tramite AI
La raccomandazione di servizi pubblici tramite AI mira a rendere il governo più proattivo verso le esigenze del cittadino, comunicando i vari servizi pubblici a partire dalla reale necessità e aumentando la soddisfazione. L’AI utilizza regole associative in base alla cronologia di navigazione di gruppi omogenei di utenti. In pratica, considera il comportamento dei gruppi per generare un elenco di opzioni in base a ciò che è stato comunemente consultato ed al percorso che è stato seguito. In questo modo, vengono offerti servizi di cui il cittadino potrebbe ignorare l’esistenza. Sono già state registrate più di 51 milioni di visualizzazioni di raccomandazioni e, attualmente, circa il 25% delle richieste riguarda un servizio che è stato raccomandato dall’AI. In futuro, si prevede di migliorare l’intelligenza dietro le raccomandazioni del servizio e renderla multimodale e proattiva.
I rischi democratici dell’AI nella pubblica amministrazione
Sappiamo che l’AI può trasformare la PA ed abbiamo sviluppato in Europa le iniziative di governance che mitigano i rischi della sua applicazione a vari settori di attività. Stiamo quindi tutti riposando sull’assunto che l’AI sia un bonario co-pilota a disposizione del funzionario o del cittadino, che sono stati formati ad usarlo, e che opera all’interno di istituzioni pubbliche già trasparenti e responsabili, che vogliono solo migliorarsi lungo quella direttrice. Insomma, pare proprio che siamo in una botte di ferro. Ma la cronaca ci sta già mostrando le crepe di questa botte, che affiorano dove proprio non sospettavamo.
Le integrazioni dell’AI nella macchina dello stato dovrebbero essere fatte gradualmente e con attenzione, con una supervisione pubblica per la loro progettazione e implementazione e con un monitoraggio e dei meccanismi di salvaguardia per evitare pregiudizi e danni inaccettabili.
AI e derive antidemocratiche: cosa sta accadendo negli Usa
Abbiamo però già un chiaro esempio del contrario. Il Dipartimento per l’Efficienza del Governo USA (DOGE), guidato da Elon Musk vuole utilizzare l’intelligenza artificiale per ridurre i costi della pubblica amministrazione USA. L’utilizzo dell’AI per rendere più efficiente l’amministrazione pubblica è un obiettivo meritevole e non è un’idea nuova.
L’amministrazione Biden ha reso note più di 2.000 applicazioni di AI in fase di sviluppo nel governo federale. Ad esempio, la FEMA ha iniziato a usare l’AI per aiutare a valutare i danni nelle aree disastrate. Il Centers for Medicare and Medicaid Services ha iniziato a utilizzare l’IA per individuare le fatture fraudolente. Secondo il Washington Post, il gruppo di Musk ha iniziato a setacciare i dati sensibili dei sistemi governativi attraverso programmi di intelligenza artificiale per analizzare le spese e determinare quali potrebbero essere tagliate.Come ha dichiarato al Post un funzionario governativo che ha seguito il gruppo DOGE, l’obiettivo finale è quello di utilizzare l’AI per sostituire “la forza lavoro umana con le macchine”. L’idea di sostituire funzionari pubblici con agenti di AI è diversa dall’idea anestetica del copilota e direi controversa,perché non ha solo impatti di politica del lavoro ma anche risvolti essenzialmente antidemocratici.
Secondo Bruce Schneier e Nathan E. Sanders, la funzione pubblica, cioè l’enorme schiera di dipendenti che gestiscono la pubblica amministrazione, svolge un ruolo vitale nel tradurre le leggi e le politiche nel funzionamento della società. I nuovi presidenti statunitensi possono emanare ordini esecutivi di ampio respiro, ma spesso non hanno alcun effetto reale finché non cambiano effettivamente il comportamento dei dipendenti pubblici. Questa massa di funzionari burocratici, per il loro numero e la loro continuità sotto diversi governi, agiscono come un ammortizzatore che resiste al cambiamento delle politiche permettendone l’attuazione senza scossoni.
Perché le azioni di Trump e Musk sono così significative
Se volessimo scomodare Niklas Luhmann e la teoria sistemica, potremmo dire che il sottosistema amministrativo è capace di auto-osservarsi e di correggere le deviazioni nocive alla sua sopravvivenza. Inoltre, conserva una memoria stratificata e multipla del passato, metaforicamente direi che la PA è come una blockchain umana. I fautori della riforma di questi sistemi sostengono invece che questa massa frenante impedisce l’avveramento della volontà degli elettori. Noi crediamo che l’istantaneità di questo avveramento indebolirebbe le possibilità di auto-riflessione e di auto-correzione degli errori che la mancanza di mediazione fatalmente introdurrebbe.
Ecco perché le azioni di Trump e Musk sono così significative. Quanto più il processo decisionale dell’AI sarà integrato nel governo, tanto più facile ed immediato sarà il cambiamento. Se i lavoratori umani saranno ampiamente sostituiti dall’IA, i dirigenti avranno l’autorità unilaterale di alterare istantaneamente il comportamento dell’amministrazione, alzando profondamente la posta in gioco per le transizioni di potere in democrazia. L’epurazione senza precedenti della funzione pubblica da parte di Trump potrebbe essere l’ultima occasione in cui un presidente abbia bisogno di sostituire gli esseri umani nell’apparato statale per dettare le sue nuove priorità. I futuri leader potrebbero farlo solo premendo il proverbiale pulsante, e ci troveremo tutti a vederci sospendere da un momento all’altro un diritto fino ad allora goduto, con una mera notifica come se fosse soltanto scaduta la password.
Con lo stesso pulsante i programmi di assistenza sociale, se automatizzati con l’AI, potrebbero essere reindirizzati per avvantaggiare sistematicamente un gruppo e svantaggiarne un altro. Le politiche pensionistiche potrebbero essere cambiate istantaneamente, contribuendo all’aumento della eterogeneità di trattamento tra i cittadini, in base al momento in cui sono andati in pensione. Le politiche fiscali potrebbero cambiare e le agenzie per le tasse potrebbero implementarle da un giorno all’altro, creando una disparità infinita di trattamento tra i cittadini e, in ultimo, nuovi contenziosi. Le autorità di regolamentazione che monitorano i mercati potrebbero rivolgere la loro attenzione o distoglierla da una determinata azienda ad ogni istante e per qualsiasi sopravvenuta priorità.
Trasparenza o concentrazione del potere
In teoria l’AI potrebbe consentire a una nuova leadership di attuare senza mediazione i desideri dei suoi elettori e quindi di rivendicare la massima trasparenza ed immediatezza dell’azione amministrativa. Ma questo potrebbe essere estremamente negativo nelle mani di un leader autoritario, poiché i sistemi di AI concentrano il potere ai vertici e quindi potrebbero consentire a un dirigente solo di attuare istantaneamente cambiamenti pesanti in burocrazie complesse e multilivello. Se licenziare e sostituire decine di migliaia di burocrati umani è un’impresa difficile e senza speranza, sostituire un’AI con un’altra o addirittura modificare i prompt con cui operano, sarebbe molto più semplice.
L’AI ha il potere di ridurre la politica rappresentativa poiché la legge scritta non è mai completamente determinante per le azioni del governo: c’è sempre un margine di manovra per i presidenti, i leader nominati e i funzionari pubblici per esercitare il proprio giudizio. Che sia rigido o meno, che sia d’accordo o meno, ognuno di questi attori usa la discrezionalità. Nei sistemi umani, tale discrezionalità è ampiamente distribuita tra molti individui, persone che, nel caso dei funzionari pubblici di carriera, di solito restano al loro posto più a lungo degli eletti dal popolo.
Un sistema strutturato sull’AI è sicuramente più rapido ed efficiente ma è anche più fragile della burocrazia classica, e sicuramente è più volatile e più facilmente sovvertibile. In occidente il potere legislativo è un potere indipendente dal governo, che controlla la PA. Tuttavia, un esecutivo che entrasse in contrasto con la volontà del legislatore, avrebbe pur sempre il potere assoluto di comandare agenti di AI e di alterare a piacimento l’implementazione dell’intento legislativo. C’è infine il fattore tecnocratico. Sono pochissime le aziende tecnologiche che progettano i sistemi più diffusi, e che decidono su quali dati vengono addestrati e quali istruzioni seguono. Come soggetti che non sono tenuti a perseguire l’interesse pubblico ma quello dei loro azionisti, queste aziende hanno un’agenda in gran parte segreta e sono in grado di apportare modifiche agli orientamenti dei sistemi di AI che sono invisibili a tutti noi. Modifiche che riorganizzassero specifici casi d’uso amministrativi altererebbero il funzionamento della PA. L’AI può in tal modo prestarsi a strategie di offuscamento dei processi amministrativi con precisione ed efficienza, non per difetti d’origine della tecnologia, ma per l’intenzionalità di chi ne abbia il controllo.
Il pericolo della concentrazione del potere attraverso l’automazione
In aggiunta, questi attori privati sono sia vulnerabili alla coercizione dei leader politici, sia interessati a ottenere il loro favore. Musk stesso ha creato e finanziato xAI, ora uno dei più grandi laboratori di AI del mondo, con il mandato di generare contenuti anti-woke e di liberare l’industria dell’AI dai vincoli di quella ideologia, allineando quindi xAI ed i suoi prodotti ad un’altra ideologia.
L’AI ha un enorme potenziale di disintermediazione della pubblica amministrazione e quindi di concentrazione del potere nelle mani di chi la controlla. Dobbiamo riconoscere che non bastano le lodevoli regole EU sull’introduzione di AI a valle, ma occorrono relazioni più forti e strutturate con le Big Tech e gli sviluppatori delle applicazioni AI per indirizzare il futuro della governance democratica ed assicurarci come cittadini contro le potenziali derive autoritarie.
Ringraziamenti
Ringrazio Pietro Torre per le ricerche ed il confronto sui vari temi trattati, Riccardo Panunzio ed il Prof. Andrea Gaggioli per le conversazioni sul lato opaco dell’AI nei sistemi amministrativi.
Referenze
