L’utilizzo dell’Intelligenza Artificiale è ormai pervasivo in ogni settore, sia in ambito privato che pubblico. Le organizzazioni che implementano sistemi di IA possono trarre significativi benefici, ma devono essere consapevoli dei potenziali rischi. Ciò impone la necessità di ristrutturare le prassi e i processi decisionali e produttivi interni.
AI Governance e Data Governance: una relazione fondamentale
Il primo passo verso un’efficace mitigazione dei rischi consiste nello stabilire una solida AI governance, integrata con le operazioni esistenti ma anche in grado di garantire il rispetto delle normative come il regolamento europeo sull’intelligenza artificiale (AI Act)[1]. Per far tutto ciò, è fondamentale avvalersi di un robusto fondamento di Data Governance.
Per determinare il successo e la buona reputazione di un’organizzazione è cruciale la relazione tra Governance dei dati e Governance dell’AI, con la prima che fornisce la base per la gestione etica dei dati e la seconda che si concentra sul controllo degli algoritmi e sulla trasparenza. La loro connessione e integrazione oggi sono dirimenti nel plasmare il futuro delle organizzazioni.
La revisione dei processi di Data Governance per l’AI
La transizione verso l’AI Governance richiede una revisione approfondita dei processi, inclusa l’integrazione di principi etici nella gestione dei dati, e la definizione di ruoli e responsabilità, possibilmente estendendo quelli esistenti, per garantire uniformità nelle politiche e monitoraggio efficace delle performance. Una sfida ancora più accentuata nelle Pubbliche Amministrazioni, che si caratterizzano per una gestione eterogenea dei dati e una mancanza di competenze specifiche.
Un’AI etica e trasparente può emergere solo attraverso un Governance integrata di Data e AI, plasmando un futuro sostenibile e vantaggioso per organizzazioni pubbliche e private.
Cos’è l’AI Governance
Il concetto di Data Governance si è ampiamente diffuso negli ultimi anni. L’Associazione per il Data Management (DAMA), la principale organizzazione internazionale per i professionisti della gestione dei dati, la definisce come “il complesso di politiche, procedure e standard che determinano come i dati vengono acquisiti, gestiti e utilizzati all’interno di un’organizzazione”. Questo approccio strategico assicura che i dati siano affidabili, protetti e utilizzati in conformità con le normative vigenti, definendone la gestione durante l’intero ciclo di vita delle applicazioni che ne fanno utilizzo.
Con la diffusione e la maggiore pervasività dei sistemi di IA, è diventato altrettanto cruciale il concetto di AI Governance. Questa è definita come “un sistema di regole, pratiche, processi e strumenti tecnologici che vengono utilizzati per garantire che l’uso delle tecnologie di intelligenza artificiale da parte di un’organizzazione sia conforme alle strategie, agli obiettivi e ai valori dell’organizzazione, soddisfi i requisiti legali e rispetti i principi di IA etica seguiti dall’organizzazione”[2]. Prevede un’attenzione particolare alla Data Ethics, intesa come “sistema di valori e principi morali relativi alla raccolta, all’uso e alla condivisione responsabile dei dati”[3].
Le sinergie tra Data Governance e AI Governance
La relazione tra Data Governance e AI Governance è sinergica e può essere rappresentata dalla figura accanto[4]. Le due governance si intersecano perché per stabilire un framework di AI Governance bisogna necessariamente considerare e valutare la governance dei dati esistenti in base ai requisiti aziendali e legali, agli standard, ai processi, ai ruoli e alla necessità di coordinamento e interoperabilità.
Infatti, la scarsa qualità dei dati e le dipendenze poco chiare tra dati e algoritmi possono facilmente distorcere o sviare i risultati degli algoritmi di IA, ostacolando così l’efficienza di un’organizzazione.
L’AI Governance ha una portata maggiore della Data Governance in quanto si occupa di gestire non solo la qualità dei dati, ma anche le implicazioni etiche e le responsabilità associate ai rischi insiti nell’IA. Mentre la Data Governance si concentra sulla gestione della qualità dei dati, cioè, l’AI Governance affronta le sfide introdotte dall’implementazione di modelli e algoritmi e quindi sulle conseguenze sociali che ne derivano.
Le applicazioni di IA, come è noto, hanno implicazioni ancora più complesse e più ampie in termini di responsabilità, spiegabilità ed equità, e necessitano per queste ragioni di una governance a 360°. Di contro, è certo che un’efficace data governance fornisce il fondamento per un’IA responsabile, precisa e affidabile: senza dati di alta qualità, gestiti correttamente, qualsiasi sistema di IA basato su di essi potrebbe essere inefficace o pericoloso.
L’AI governance si sviluppa quindi sulle fondamenta date dalla data governance per garantire che i dati utilizzati siano gestiti con integrità, mentre entrambi i sistemi lavorano insieme per garantire che le tecnologie di IA operino entro i limiti etici e legali, sfruttando al contempo il potenziale di queste tecnologie per generare valore all’interno dell’organizzazione.
È fondamentale poi sottolineare che entrambe le governance sono componenti cruciali dell’IT Governance, che si occupa di guidare e controllare l’uso delle risorse IT per sostenere gli obiettivi organizzativi. A sua volta il tutto si inscrive nella Corporate Governance, che mira a garantire che l’organizzazione raggiunga i suoi obiettivi operando in modo etico e conforme. Come è chiaro, si tratta di un’interconnessione complessa, ma prodotta dalla giusta necessità di un approccio olistico alla gestione della tecnologia in organizzazioni estese.
La revisione dei processi di Data Governance
L’estensione della Data governance a un framework di AI Governance richiede un’approfondita rielaborazione dei protocolli esistenti.
Come anticipato, l’AI Governance si estende a tutte le fasi critiche del ciclo di vita dell’IA e include aspetti specifici legati alla raccolta dei dati, ma anche allo sviluppo, l’implementazione e il monitoraggio dei modelli di IA. Infatti, un primo punto di differenziazione consiste nell’integrazione di principi di etica dei dati e dell’IA, come per esempio la trasparenza, accountability, e fairness nelle procedure di Data governance attualmente in sviluppo per avere un sistema di gestione dei dati e dei modelli conforme rispetto a tali principi e ai requisiti regolamentari. Questo non rappresenta solo un passo avanti nella conformità ai requisiti delle normative principali in ambito IA, ma anche un impegno serio verso principi etici che dovrebbero guidare la gestione dei dati.
L’integrazione dei principi non è il solo step previsto, è necessaria anche una revisione dei ruoli precedentemente definiti per la Data Governance, ora estesi con responsabilità specifiche legate all’IA. Infatti, può emergere la necessità di creare nuovi ruoli appositamente dedicati, o integrare nuove responsabilità ai ruoli esistenti, a gestire le dinamiche complesse e in continua evoluzione dell’IA, con l’obiettivo di garantire efficienza operativa e rendere la struttura organizzativa coesa e coerente. Questo, a sua volta, facilita un’applicazione più uniforme delle policies, fornendo una guida chiara e precisa a tutti gli attori coinvolti nella gestione dei dati e dell’IA.
Ruoli chiave per una effettiva AI Governance
Tra i ruoli chiave da considerare nell’ambito della governance dell’IA, ci sono quelli già inclusi in un framework di data governance, le cui responsabilità dovrebbero essere estese per includere specifiche dell’IA, tra cui:
- Il Data Owner assume la responsabilità della proprietà dei dati, definendo requisiti di qualità, sicurezza e conformità con i requisiti dei dati.
- Il Data Steward gestisce attivamente la raccolta, pulizia, conformità e distribuzione dei dati. La sua figura è essenziale per garantire che l’IA operi in modo efficace
- Il Data scientist, responsabile della progettazione, implementazione e manutenzione dei modelli di apprendimento automatico. Il suo ruolo è cruciale per garantire la conformità dei modelli di apprendimento automatico con i requisiti aziendali e legali.
Ci sono però anche ruoli aggiuntivi, da stabilire ex-novo: quello di Ethics Officer, che promuove l’etica nell’uso dell’IA e la cui partecipazione è fondamentale per garantire un utilizzo equo e responsabile dell’IA, e quello di Model Owner, responsabile della supervisione e della corretta implementazione degli algoritmi, contribuendo così a garantire che l’IA operi all’interno di limiti etici e legali.
La creazione di ruoli specifici per l’IA offre ulteriori vantaggi, consentendo una concentrazione mirata di competenze e risorse su aspetti altamente specializzati dell’IA. Questo approccio non solo ottimizza l’efficienza operativa, ma rappresenta anche un investimento nella creazione di una forza lavoro altamente qualificata e competente nel gestire le sfide complesse dell’IA.
Le sfide nella gestione dei dati e delle competenze
Rispetto alla data governance è necessaria, inoltre, un’integrazione di specifiche tarate sull’AI nei framework di Data Quality, rappresentando un passo avanti nella creazione di un ambiente informativo di qualità superiore e nel raggiungimento degli obiettivi strategici che le amministrazioni si prefissano. Tutto questo comporta un rafforzamento delle pratiche di documentazione e di tracciabilità dei dati, nonché l’integrazione di sistemi di audit e continuo monitoraggio per valutare e mitigare i rischi associati all’uso di algoritmi di IA.
D’altra parte, questi ambiziosi cambiamenti di prassi e processi sono anche parte di quel processo messo in moto dalla Digital Decade, programma stabilito dal Parlamento Europeo nel dicembre 2022. Il programma è molto specifico sul fatto che urgono importanti cambiamenti all’interno del settore pubblico dal punto di vista della digitalizzazione dei servizi. Essi riguardano ad esempio la piena accessibilità online dei principali servizi pubblici, la possibilità per cittadini e imprese di interagire digitalmente con le amministrazioni pubbliche, e l’accesso universale a cartelle cliniche elettroniche, oltre che il 100% di accesso a mezzi di identificazione elettronica (eID) sicuri e riconosciuti in tutta l’Unione Europea[5].
Accessibilità dei servizi pubblici: accelerare sui competenze e dati
L’IA può essere un acceleratore per il raggiungimento di tali target. Per far ciò si dovrà lavorare molto sulle due sfide più ingenti per la PA: le competenze e i dati. Nel contesto italiano, infatti, la carenza di competenze specifiche spesso ostacola il cambiamento[6]. Un lento ricambio generazionale e una difficoltosa implementazione di competenze IT all’interno delle PA fa spesso sì che il personale non sia adeguatamente formato per comprendere e gestire l’IA in modo efficace.
Serve quindi un salto di qualità dal punto di vista della formazione interna e un investimento di risorse notevole per far sì che ci sia un’organica gestione di responsabilità e una coerente organizzazione interna. Inoltre, una preparazione carente e disomogenea è spesso causa di resistenza al cambiamento che fa da ostacolo all’adozione di nuove pratiche e tecnologie legate all’IA: la necessità di rimodulare costantemente processi consolidati per adattarli a nuovi paradigmi richiede un impegno significativo da parte delle PA.
Le altre criticità sono legate alla gestione dei dati e partono già dalla messa a sistema di un’adeguata Data Governance. I dati in possesso delle PA sono infatti spesso eterogenei, distribuiti in vari sistemi e spesso con formati non tabulari, esacerbando le difficoltà date dalla mancanza di standardizzazione, particolarmente evidenti nella PA italiana.
L’importanza di un modello di Governance a 360°
Il raggiungimento di un avanzato livello di implementazione dell’IA in una PA implica quindi sfide complesse e per progredire gradualmente verso un livello ottimale di maturità, diventa essenziale adottare un modello di Governance a 360°. Questo approccio implica la progressiva comprensione, integrazione e ottimizzazione dell’IA all’interno dell’organizzazione, consentendo di affrontare in modo completo e coordinato le diverse sfaccettature coinvolte nell’implementazione di questa tecnologia. Ogni fase di maturità richiede approcci specifici alla governance, alla conformità e all’implementazione responsabile dell’IA.
Un recente studio[7] individua nel settore pubblico cinque livelli di maturità:
- iniziale, in cui esistono funzioni minime basate sull’IA e non ci sono piani dettagliati per l’implementazione;
- livello di valutazione, in cui l’organizzazione è alla ricerca di possibili applicazioni;
- determinato, in cui ci sono progetti avanzati di IA che sono oltre la fase sperimentale;
- livello di gestione, vengono definiti i processi necessari per le applicazioni di IA su larga scala a livello di organizzazione;
- ottimizzazione, in cui l’organizzazione dispone dell’infrastruttura e e dell’architettura su larga scala.
In letteratura sono stati individuati altri fattori che ostacolano l’adozione di sistemi di IA e di una governance adeguata a fronteggiarne l’implementazione nel settore pubblico, tra cui la mancanza di personale adeguato a introdurre le nuove tecnologie, il rischio di un potenziale uso errato e inconsapevole dell’IA che conduce al perpetrarsi di rischi, e la difficoltà di garantire la trasparenza e i precetti etici[8].
Le PA si trovano di fronte a sfide significative per raggiungere un adeguato livello di maturità, con molte più difficoltà rispetto al settore privato[9].
Note
[1] Regolamento integrale disponibile presso: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0006.02/DOC_1&format=PDF
[2] Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. (2022). Defining organizational AI governance. AI Ethics.
[3] Gartner
[4] La figura è tratta da: Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. (2022). Defining organizational AI governance. AI Ethics.
[5] Il testo integrale del programma Digital Decade è disponibile presso: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32022D2481&from=EN
[6] https://www.agendadigitale.eu/cultura-digitale/competenze-digitali/pa-digitale-buone-intenzioni-ma-poche-competenze-ecco-come-la-tecnologia-aiuta/
[7] lsheiabni, Sulaiman, Yen Cheung, and Chris Messom. 2019. “Towards An Artificial Intelligence Maturity Model: From Science Fiction To Business Facts. Pacific Asia Conference on Information Systems, July 8-12, 2019 PACIS 2019
[8] Margetts, Helen, and Cosmina Dorobantu. 2019. “Rethink Government with AI.” Nature 568 (7751): 163–165. doi:10.1038/d41586-019-01099-5.
[9] Oliver Neumann, Katharina Guirguis & Reto Steiner (2022) Exploring artificial intelligence adoption in public organizations: a comparative case study, Public Management Review, DOI: 10.1080/14719037.2022.2048685
