Oggi più che mai i dati producono altri dati, e questo accade in tutti i settori e anche nelle nostre città. È quindi sempre più sentita l’esigenza di utilizzare tutta questa grande quantità di dati prodotta nelle nostre città con l’obiettivo di rendere la conoscenza di questi dati utile per la collettività e capace di migliorare l’efficenza dei servizi pubblici. Di fronte a un uso sempre più diffuso di tecnologia e algoritmi, Helsinki e Amsterdam, prime in Europa, hanno deciso di stabilire uno standard per l’uso trasparente ed etico degli algoritmi delle amministrazioni cittadine. Vediamo di che cosa si tratta.
Intelligenza artificiale, le città esempio di governance etica e sostenibile: i modelli da seguire
Gli algoritmi alla base di città più efficienti
Con il termine Smart City si sono spesso indicate varie tipologie di città intelligenti, privilegiando uno o l’altro aspetto, ma in generale possiamo pensare una Smart City come un luogo dove le reti e i servizi tradizionali sono resi più efficienti attraverso l’uso di tecnologie digitali, capaci di sfruttare al meglio le risorse a disposizioni e ridurre le emissioni. Significa quindi reti di trasporto urbano intelligenti, migliori impianti di smaltimento idrico e dei rifiuti, modi più efficenti per illuminare e riscaldare gli edifici, migliore ottimizzazione degli spazi urbani e maggiore attenzione alle esigenze dei cittadini, in particolare quelli fragili.
Ma certamente, sfruttando un elevato livello di connettività e un gran numero di sensori, la città intelligente è anche in grado di raccogliere un numero elevato di dati, e spesso questi dati vengono elaborati da algoritmi in grado di fornire e organizzare elementi utili ad una amministrazione cittadina efficiente, ad esempio per fornire un modo facile e intuitivo per eseguire una segnalazione come quella di un ingorgo pericoloso, oppure l’avvenuto pagamento di un ticket per il parcheggio della propria auto.
Sebbene ogni amministrazione cittadina possa scegliere la modalità migliore per essere trasparente verso i propri cittadini, che hanno il diritto di sapere come vengono raccolti e utilizzati i loro dati, anche se anonimizzati e se la raccolta è a loro beneficio, sarebbe auspicabile un approccio uniforme e condiviso alla data governance dei cittadini. In virtù di questo, nell’ultimo semestre, un gruppo di città membri di Eurocities, la rete delle principali città europee fondata nel 1986 e che riunisce oggi oltre 200 delle più grandi municipalità di 38 paesi rappresentando circa 130 milioni di cittadini, ha affrontato questa tematica e l’uso tecnico ed etico dei dati, al fine di creare un sistema comune che possa essere facilmente adottato da tutte le città.
L’approccio di Helsinki e Amsterdam
Per prime in Europa, le città di Helsinki e Amsterdam hanno deciso di creare un registro degli algoritmi: Helsinky descrive l’ AI Register come una “finestra sugli algoritmi di AI utilizzati dalla città”, aggiungendo poi che attraverso questo registro sarà possibile avere una rapida panoramica dell AI utilizzata dalla citta ed esaminare le informazioni che questi algoritmi utilizzano, oltre al fatto di poter esprimere la propria opinione e quindi rendersi parte attiva nella costruzione di un AI della citta di Helsinki incentrata intorno all’uomo. Da parte sua Amsterdam aggiunge che tutti i cittadini “dovrebbero avere accesso a informazioni comprensibili e aggiornate su come gli algoritmi influenzano le loro vite”.
L’obbiettivo di questo approccio è prima di tutto etico: gli algoritmi utilizzati nei servizi pubblici devono rispettare le stesse regole e principi di tutti gli altri servizi pubblici forniti dal comune, e ciò significa che devono trattare le persone allo stesso modo, senza discriminarle, non devono limitare la loro libertà, devono essere trasparenti e aperti al controllo democratico, ed essere al servizio della popolazione cittadina. Gli algoritmi non dovrebbero mai avere l’ultima parola, e non dovrebbero funzionare esclusivamente sulla base di correlazioni.
“In questo modo, ha affermato André Sobczak, Segretario generale, Eurocities, le due città cercano di offrire una salvaguardia per le persone i cui dati possono essere utilizzati da algoritmi e un modello convalidato che altre città possono utilizzare immediatamente, senza dover investire ulteriori risorse stesse”.
The Algorithmic Transparency Standard
Basandosi sulle esperienze di Helsinky e Amsterdam, l’Eurocities Digital Forum Lab ha sviluppato un open-source data schema, l’Algorithmic Transparency Standard, che definisce un approccio comune su come creare un AI Registry. Più in dettaglio, lo standard (al momento ancora in beta) fornisce un insieme piuttosto completo di categorie per catalogare tutte le informazioni necessarie a descrivere un algoritmo, e in particolare, oltre alle informazioni cosiddette di base, come un nome e una descrizione, il responsabile e i dati di contatto, considera ulteriori categorie come quelle utili a descrivere:
- use case: in che contesto e perchè viene utilizzato l’algoritmo, la base legale per il suo utilizzo e perchè è ragionevole utilizzare, in che modo i cittadini potranno essere influenzati, e il tipo di valutazione del rischio che è stata condotta
- dati utilizzati per l’apprendimento: quali dati sono stati usati per l’apprendimento dell’algoritmo, con quale scopo, quali sono i dati elaborati dall’algoritmo
- dettagli ulteriori: tipologia dell’algoritmo utilizzato (ad esempio self-learning, rule-based o hybrid), una descrizione dettagliata degli aspetti rilevanti che caratterizzano l’algoritmo e le sue scelte decisionali, metodi e/o modelli utilizzati
- oversight: chi monitora il buon funzionamento dell’algoritmo, con quali criteri e quale frequenza, come l’algoritmo viene utilizzato (ad es. modalità diagnostica o predittiva), come le persone possono intervenire sui risultati prodotti dall’algoritmo, ad esempio in caso di risultati considera errati o inessati, e in che modo le persone possono opporsi all’uso dell’algoritmo stesso o ai risultati prodotti.
Le normative Ue e italiane in vigore
L’art. 41 della Carta dei Diritti Fondamentali dell’Unione Europea, il “Diritto a una buona amministrazione”, afferma il diritto delle persone affinchè le loro questioni siano trattate “in modo imparziale ed equo ed entro un termine ragionevole”. La diminuzione dei tempi, che quindi è un presupposto fondamentale per una buona amministrazione, si evidenzia anche nella l. n. 241/1990, “Nuove norme in materia di procedimento amministrativo e di diritto di accesso ai documenti amministrativi”.
A livello italiano, nel Codice dell’amministrazione digitale (CAD) emerge la necessità di “ridefinire e semplificare i processi amministrativi”, obiettivi raggiungibili anche grazie all’adozione di una “disciplina basata sulla loro digitalizzazione”. L’utilizzo degli algoritmi e un adeguato livello di digitalizzazione dell’amministrazione pubblica è quindi un elemento importante per migliorare la quaità dei servizi erogati ai cittadini, e non a caso nel Piano Nazionale di Ripresa e Resilienza (PNRR) uno dei pilastri è proprio quella della digitalizzazione. Eppure, la ridefinizione dei processi facendo uso degli algoritmi pone non pochi dubbi di compatibilità con i principi degli ordinamenti giuridici, evidenziando in primis la necessità di una completa trasparenza, che non può limitarsi a una mera descrizione ma che deve spingersi più in profondità, come ad esempio alla conoscenza del linguaggio sorgente con cui è scritto il software utilizzato.
Già nell’art. 22 del GDPR, riguardante il processo decisionale automatizzato, si riconosce agli individui il diritto di ottenere un intervento umano, proprio per garantire la tutela di tutti quei procedimenti che possono incidere sui diritti, anche fondamentali. L’uso dei dati personali deve avvenire nel rispetto dei principi del GDPR, della ragionevolezza e proporzionalità. L’art. 15 del GDPR riconosce inoltre agli individui il diritto di accesso alle informazioni relative a eventuali decisioni automatizzate che lo riguardano, e questo comprende anche la conoscenza dei meccanismi usati dai sistemi automatizzati. Sempre nell’ art. 22 del GDPR, inoltre, si riconosce il diritto all’individuo di non essere sottoposto a una decisione completamente automatizzata, se non sia previsto un intervento umano. Il considerando 71 del GDPR prevede poi che il titolare “utilizzi procedure matematiche o statistiche appropriate per la profilazione, metta in atto misure tecniche e organizzative adeguate” al fine di garantire la sicurezza e minimizzare il rischio di errori.
A livello europeo, la recente proposta di Regolamento sull’ Intelligenza Artificiale (AI Act) costituisce un’altra importante tappa nel percorso legislativo, da cui emerge l’opportunità che questi sistemi offrono per il miglioramento della vita degli individui, ma anche i rischi legati a un loro uso improprio, con l’obiettivo di garantire il rispetto dei diritti fondamentali, innovazione tecnologica e opportunità di competitive.
Conclusioni
Sulla base dell’esempio di Helsinki e Amsterdam anche altre città hanno deciso di andare nella stessa direzione: Barcellona, Bologna, la Regione di Bruxelles Capitale, Eindhoven, Mannheim, Rotterdam e Sofia.
Indubbiamente, l’utilizzo dell’intelligenza artificiale è uno strumento che può rivelarsi efficace nel migliorare i servizi pubblici e l’attività delle pubbliche amministrazioni, e non possiamo dimenticare che durante il periodo della pandemia da Covid-19 proprio l’uso massiccio del digitale ci ha permesso di vivere una vita “quasi” normale, e l’emergenza sanitaria ha reso ancora più evidente i vantaggi derivanti dall’utilizzo di sistemi di inteligenza artificiale, in primis nel settore medico. L’OCSE definisce l’intelligenza artificiale come “la quarta rivoluzione industriale”, capace di migliorare la vita delle organizzazioni collettive. Certamente, però, l’utilizzo massivo della AI solleva preoccupazioni e non è esente da rischi, che possono impattare sui diritti fondamentali dei cittadini. Pertanto, l’informazione è un aspetto fondamentale, e i cittadini devono essere messi in grado di conoscere le modalità di funzionamento degli algoritmi, espresse in termini chiari e comprensibili, oltre a tutte quelle altre informazioni che possono essere utile per comprendere come si realizza la decisione, quindi i criteri, le procedure, la base dati usata per addestrare l’algoritmi di AI, come avviene la supervisione umana. Si tratta quindi di una trasparenza “rafforzata” che deve essere anche accessibile ai cittadini, e gli AI Register sembrano andare nella giusta direzione e offrire un’importante salvaguardia per l’uso responsabile dell’Intelligenza Artificiale, ma nello stesso tempo promuovere l’utilizzo di queste tecnologie in modo che i cittadini ne possano usufruire positivamente.
