INPS: “Ecco come usiamo l’IA a vantaggio dei cittadini”

Inps non è arrivato impreparato allo tsunami rappresentato dall’intelligenza artificiale e da tempo sta sia sperimentando che rilasciando servizi di ampia portata potenziati dalla tecnologia.

Perché l’intelligenza artificiale ora

Per molti decenni l’immagine popolare dell’Intelligenza Artificiale è oscillata tra scenari apocalittici alla Terminator a grandi speranze però mai realizzate. Gli sviluppi nel settore sembravano arrivati a un punto morto, tale da essere bollato come l'”inverno” dell’Intelligenza Artificiale.

E, nonostante tutto, il momento di “disruption” è arrivato nel 2017 da una pubblicazione di Google: “Attention is all you need“.

Una combinazione di scoperte scientifiche nelle reti neurali (i “Transformers“), unite alla potenza tecnologica offerta dal Cloud Computing e all’accesso a una quantità di dati inimmaginabili un decennio fa, ha creato rapidamente nuove praterie.

Si può sintetizzare semplicemente così:

Transformers + Cloud + Dati = Praterie

Il punto di svolta, ci tengo a ricordare, è avvenuto giusto 6 anni fa: adesso siamo entrati in una fase di drastica accelerazione. Questo ha finito per cogliere impreparati tanti grandi colossi tecnologici come la stessa Google nei confronti di startup molto più piccole ma assai più determinate (e.g., OpenAI, ossia la compagnia che ha creato ChatGPT).

A livello applicativo invece in INPS – perdonatemi la punta di orgoglio – abbiamo da tempo cavalcato questo tsunami tecnologico, sia sperimentando che rilasciando servizi di ampia portata potenziati dall’Intelligenza Artificiale.

Tutela dei dati e privacy: perché sono una priorità

Oltre 100 milioni di persone nel mondo hanno usato ChatGPT. Per contrastarlo, pochi giorni fa Google ha lanciato anche in Europa Bard, e sicuramente vedremo altre grandi compagnie di tecnologia rilasciare soluzioni sempre più avanzate nel settore dell’Intelligenza Artificiale Generativa. È altrettanto certo che non saranno solo compagnie americane a guidare questa rivoluzione, e che va prestata altissima attenzione a quelle cinesi come Baidu e Alibaba.

Tutte queste compagnie offrono ottimi servizi, di altissimo spessore tecnologico e di grande qualità. Perché non affidarsi a loro per potenziare le nostre applicazioni informatiche? La tentazione è davvero forte. C’è però un aspetto per nulla secondario, evidenziato nell’equazione sopra: i dati.

“No data, no party”, a voler rielaborare una vecchia pubblicità con George Clooney. I dati sono essenziali al funzionamento dei sistemi basati su tecnologie di Intelligenza Artificiale. Senza controlli adeguati, c’è il forte rischio di alimentare questi colossi con dati sensibili. Eclatante è stato il caso di Samsung lo scorso maggio, in cui alcuni dipendenti di dell’azienda coreana hanno condiviso su ChatGPT codice sorgente e altre informazioni altamente riservate: lo scopo dei dipendenti era quello di migliorare la qualità dei propri servizi; il problema è che tutto ciò ha portato a un “leak” (fuoriuscita) di dati segreti verso compagnie esterne. Samsung ha a quel punto vietato categoricamente ai dipendenti l’uso di ChatGPT (e simili) e si sta attrezzando per creare internamente propri strumenti di Intelligenza Artificiale.

Il problema è dannatamente serio. Una compagnia come Samsung è probabilmente in grado di risolvere questa situazione grazie a sviluppi interni. Quante altre ne sarebbero capaci? Oltre e più che tecnologico, è un problema di sicurezza nazionale e di sovranità digitale. Questo lo ha compreso bene Emmanuel Macron che, come ho scritto in questo mio articolo sulla geopolitica dell’Intelligenza Artificiale, sta investendo massicciamente per creare compagnie francesi di spicco nel campo dell’Intelligenza Artificiale.

Come si pone l’INPS di fronte a tutto ciò? Abbiamo deciso di prendere il meglio di entrambi i mondi con una strategia che lavora su due fronti a seconda del tipo di dato coinvolto:

• Nel caso di dati sensibili, sviluppo applicativo interno senza alcun utilizzo di servizi esterni
  • Pro: totale controllo sull’applicativo e la sua efficacia; creazione di “know-how” tecnologico interno; annullamento rischio “lock-in” da compagnie esterne
  • Contro: difficoltà nello sviluppo dovuta a grave carenza di professionisti di Informatica in Italia
• Nel caso di dati pubblici, sviluppo applicativo interno con utilizzo mirato di servizi esterni
  • Pro: facilità e velocità nella realizzazione
  • Contro: dipendenze esterne sull’applicativo e la sua efficacia; rischio “lock-in” da compagnie esterne

Intelligenza artificiale in INPS

Negli ultimi 2 anni sono tanti i progetti che in INPS abbiamo intrapreso per potenziare i servizi grazie a tecnologie di Intelligenza Artificiale. Ne elenco 3, il che è solo una minima parte di quelli più rappresentativi:

Classificazione e smistamento automatico delle PEC

Uno dei canali più importanti con cui il cittadino può comunicare con l’INPS è tramite PEC. La pandemia ha, nella sua tragicità, avuto l’effetto positivo di accelerare l’uso di mezzi digitali da parte degli Italiani, e questo lo si tocca con mano nel volume di PEC in ingresso: negli ultimi 3 anni si è passati da 4 Milioni di PEC in ingresso a oltre 6 Milioni stimate per quest’anno. A livello pratico, quando l’operatore INPS riceve la PEC, ne legge il testo ed eventuali allegati, ne comprende l’argomento (e.g., pensioni, invalidità civile, cassa integrazione) e a quel punto la smista al funzionario preposto a rispondere al tema. Questo è un lavoro totalmente manuale, altamente ripetitivo e che, per quanto importante ai fini del servizio, non massimizza il potenziale dell’operatore. In aggiunta, in questo caso il carico di lavoro è aumentato in pochi anni di oltre il 50% (da 4 Milioni di PEC a più di 6 Milioni ora) ed è in crescita. Che fare?

A inizio 2021 ci siamo chiesti se le moderne tecnologie di Intelligenza Artificiale potessero aiutarci in questo caso. La risposta è stata un assoluto sì. Iniziammo a sperimentare, tra i primissimi in Italia, con la versione Open Source di GPT-2, per poi passare a BERT: un altro modello di Machine Learning che fa anch’esso leva sull’architettura Transformers e che è stato sviluppato da Google. Il modello scelto è Open Source su HuggingFace (il sito di riferimento tecnologico nel settore); è stato poi “fine-tuned” (raffinato) in base ai dati delle PEC e al feedback proveniente dagli operatori. Tutto il sistema è stato sviluppato ed eseguito internamente (“on-premise“) nei Data Center INPS, proprio per soddisfare in toto GDPR ed esigenze di riservatezza legate alla sensibilità di dati dei cittadini: si è categoricamente impedito che essi potessero fuoriuscire tramite interrogazione di servizi di compagnie esterne e straniere.

Ripeto e rielaboro l’equazione di prima:

Transformers (interno) + Cloud (interno) + Dati (interno) = Praterie

E di praterie questo progetto ne ha aperte eccome:

• Ha accelerato il processo di comunicazione cittadino <- -> INPS
• È attivo su 10 città italiane di varia area geografica e dimensione, tra cui spiccano Roma, Milano e Napoli
• Ha processato al momento più di 1 Milione di PEC (numero ovviamente in continua crescita)
• A regime, contando tutte le sedi territoriali, si stima un risparmio tra i 30.000 e i 40.000 giorni di lavoro per anno
  • Gli operatori prima dedicati allo smistamento manuale delle PEC possono ora essere riallocati su attività meno logoranti e a maggior valore aggiunto, portando così ulteriori benefici verso i cittadini
• Ha creato “know-how” tecnologico interno riutilizzabile per potenziare altri servizi
• Siamo stati premiati da IRCAI, centro di ricerca internazionale per l’Intelligenza Artificiale dell’UNESCO, nella Top 10 mondiale dei progetti di supporto ai 17 “Sustainable Development Goals (SDGs)” delle Nazioni Unite tramite Intelligenza Artificiale avanzata
  • Intelligenza Artificiale INPS a favore degli Obiettivi di Sviluppo Sostenibile menzionati all’inizio di questo articolo

Gestione ottimizzata delle richieste web al Customer Service

Un altro dei canali con cui il cittadino può comunicare con l’INPS è tramite web con il servizio INPS Risponde. Anche questo è un mezzo molto usato, con 2,5 Milioni di comunicazioni annue ricevute dall’INPS.

Oggi, a livello pratico, ogni richiesta viene presa in carico da un operatore di primo livello che:

• Nel 43% dei casi è in grado di gestire e risolverla autonomamente
• Nel 57% dei casi, vista la complessità della richiesta, necessita di un ulteriore supporto da parte un operatore specializzato di secondo livello

Da questi numeri si evince che 1,4 Milioni di richieste (57% di 2,5 Milioni) sono state trattate due volte, sia dal primo livello che dal secondo livello, con un aggravio sui tempi di risposta al cittadino.

Anche in questo caso ci siamo chiesti se, forti dell’esperienza acquisita col progetto di Classificazione e Smistamento Automatico delle PEC, potessimo applicare tecnologie di Intelligenza Artificiale per ottimizzarne il processo complessivo. E di nuovo la risposta è stata assolutamente sì.

Il progetto è in corso di sperimentazione, con a monte un motore decisionale di Intelligenza Artificiale in grado di valutare la complessità delle richieste del cittadino:

• Stimiamo che, con alto grado di affidabilità, il sistema di Intelligenza Artificiale riesca ad indirizzare direttamente e correttamente il 34% delle richieste verso il giusto operatore di secondo livello senza intervento dell’operatore di primo livello
• Nei fatti, comporta una lavorazione diretta di 850.000 richieste che, oltre ad alleggerire il carico di lavoro degli operatori di primo livello, consentirà una risoluzione più immediata delle richieste dei cittadini
• Siamo stati premiati da Osservatori Digital Innovation del Politecnico di Milano nell’ambito dei Premi Agenda Digitale 2022 nella massima categoria “Attuazione dell’Agenda Digitale”

Così come nel progetto PEC precedente, vista la sensibilità dei dati nelle richieste dei cittadini, anche in questo caso l’intero sistema di Intelligenza Artificiale è sviluppato ed eseguito internamente nei Data Center INPS. Il tutto con il doppio vantaggio di riutilizzare componenti software e rafforzare il “know-how” interno.

Potenziamento dell’Assistente Virtuale

Sempre nell’ottica di una automazione utile a migliorare i servizi al cittadino, in INPS abbiamo da poco lanciato una sperimentazione che al momento riscontra pochissime simili nel mondo. Ossia, abbiamo integrato all’interno dell’Assistente Virtuale INPS lo stesso algoritmo di “Large Language Model” (LLM) alla base di ChatGPT, grazie alla collaborazione di Microsoft Azure con OpenAI. Lo scopo è quello di offrire risposte sempre più accurate verso il cittadino di alcuni servizi come la pensione “Opzione Donna”:

• Da un lato preservando informazioni sensibili che potrebbero essere comunicate dal cittadino
• Dall’altro, potenziando la qualità delle risposte con una piattaforma che alimenti l’algoritmo con dati pubblici (e.g., pagine web, circolari, normative)

A prima vista sembrerebbe un sistema semplice. Un approccio consisterebbe nel dare una grande mole di dati pubblici INPS (e.g., i contenuti dell’intero sito) a una “branch” dedicata dell’algoritmo, in modo che le sue risposte siano ancora più specifiche e centrate sui servizi INPS. Questo però presenta alcuni problemi:

• Prezzo. Tecnologie di avanguardia, che sembrano gratuite per utenti web, possono invece risultare estremamente costose per enti/imprese che vogliano farne uso
  • A questo poi si aggiunge un potenziale forte “lock-in” tecnologico su compagnie esterne. Il tutto per un servizio sicuramente valido, ma che negli anni fa lievitare spese e per cui è assai doloroso tornare indietro su soluzioni più sostenibili
• Aggiornamento delle informazioni. È da tenere sempre presente che enti come l’INPS non sono affatto statici: creano in continuazione nuovi servizi e si adeguano alle modifiche normative
  • Un motore di Intelligenza Artificiale addestrato su una base dati vecchia anche pochi mesi rischia, nel caso migliore, di non essere in grado di rispondere; nel caso peggiore, di dare una risposta sbagliata al cittadino
  • Riaddestrare un servizio computazionalmente oneroso come ChatGPT su una base dati aggiornata fa esplodere ulteriormente il problema costo di cui sopra

Il sistema che abbiamo sviluppato e stiamo sperimentando riesce ad evitare questi problemi celando elegantemente l’innata complessità di realizzazione. La soluzione prevede una strategia ibrida attraverso cui tecniche tradizionali (e.g., l’embedding di parole) sono unite in modo sinergico con l’algoritmo di cui sopra in modo da oltrepassare i limiti delle informazioni che gli si possono passare in input. Senza entrare troppo nei dettagli tecnici, per calcolare la distanza tra i documenti e la domanda dell’utente è stato determinante l’utilizzo della funzione Vector Search nella cache Redis: ci piace farlo presente, perché Redis è il database chiave-valore più conosciuto nel mondo, creato da un italiano (Salvatore Sanfilippo). Una ulteriore prova che altissima tecnologia può essere sviluppata anche in Italia.

Riflessioni strategiche

L’analisi di Nature nel box in alto ha pienamente ragione. L’Intelligenza Artificiale può giocare un ruolo determinante sui “Sustainable Development Goals” delle Nazioni Unite e portare risultati potentissimi a vantaggio della società. Ma, allo stesso tempo, queste tecnologie sono estremamente complicate da governare e presentano anche nuove sfide difficili da affrontare.

Qui evidenzio almeno due temi a cui prestare grande attenzione:

• Nuovo approccio allo sviluppo e alla gestione del software
  • I servizi basati su tecnologie moderne di Intelligenza Artificiale, specialmente poi di tipo generativo, non sono deterministici. Ossia, a fronte di uno stesso input, l’output può essere diverso e nel tempo anche divergere. Questi servizi devono quindi essere continuamente monitorati e i loro modelli costantemente raffinati, pena la degradazione della qualità della risposta
  • È assai probabile che, se usate, le tecnologie di Intelligenza Artificiale vengano innestate nel cuore delle piattaforme informatiche in modo da ottenere i maggiori benefici. Il problema però è che, alla stregua di un reattore nucleare, qualora se ne presenti il bisogno diventa poi estremamente complicato e doloroso disattivare o aggiornare queste tecnologie se non si hanno forti competenze interne
• Carenza di professionisti “hands-on“
  • Proprio per il punto di cui sopra, è assolutamente fondamentale assumere (e trattenere) professionisti con competenze concrete e pratiche nel campo dell’Intelligenza Artificiale
    • Va data sempre più rilevanza strategica al ruolo dei professionisti dell’Intelligenza Artificiale e sensibilizzare i Consigli di Amministrazione a scegliere membri con competenze nel settore (simile a come la SEC negli Stati Uniti sta richiedendo ai Consigli di Amministrazione di scegliere membri con competenze nella cyber security)
  • I Cristiano Ronaldo dell’Intelligenza Artificiale vanno pagati come tali. OpenAI, la compagnia dietro ChatGPT, paga in media i suoi ingegneri uno stipendio di 300mila dollari annui a cui vanno aggiunti pacchetti azionari o di partecipazione ai profitti: una compensazione totale media per gli ingegneri di OpenAI pari a 900mila dollari annui. Senza andare a San Francisco, ma semplicemente in Svizzera a Zurigo, Google paga ingegneri software di media esperienza l’equivalente di 300mila euro l’anno
  • L’Italia ha purtroppo un enorme deficit in quanto a istruzione universitaria nell’Informatica. In aggiunta, i nostri migliori talenti molto spesso emigrano da giovani all’estero attratti sia da stipendi che da crescita professionale; solo in rari casi rimpatriano con il loro bagaglio di esperienze

Conclusioni

Con queste premesse, la tentazione facile è quella classica in Italia quando si parla di Informatica: delegare i servizi di Intelligenza Artificiale a compagnie esterne (quasi sempre straniere) che hanno grande esperienza nel settore. Difficilissimo però, come evidenziato, da conciliare con la salvaguardia dei dati privati del cittadino. È la linea digitale del Piave che non possiamo permetterci come Paese che venga oltrepassata.

Per tutti questi motivi, la Pubblica Amministrazione deve attrezzarsi, e con la massima urgenza, per generare competenze interne nella creazione e gestione di servizi basati sull’Intelligenza Artificiale. Formazione e continuo aggiornamento tecnologico pratico sono fondamentali per rispondere a questo bisogno. Facile a dirsi, dannatamente complicato a farsi: però in INPS abbiamo intrapreso da un paio di anni questo percorso e stiamo ora cominciando a toccare con mano i risultati. È nostro dovere morale sperimentare le tecnologie più innovative a vantaggio del cittadino, divulgare cultura moderna e formare i professionisti del nostro futuro: se la nostra esperienza può essere utile ad altri enti, siamo davvero ben contenti di condividerla per il progresso del Paese.