Le città di tutto il mondo rivelano una verve normativa non indifferente e un impegno concreto nella definizione di regole volte alla promozione di un uso etico e sostenibile dell’ IA.
Le iniziative per favorire l’uso responsabile e la progettazione dell’intelligenza artificiale a livello locale sono infatti in forte espansione.
Scorza: “La governance europea dell’AI: i nodi da sciogliere”
I centri urbani assurgono quindi al ruolo primario di veri e propri centri di innovazione, cultura, politica e commercio e avvalorano la loro funzione di innovatori indispensabili nella governance dell’IA e nella risoluzione delle preoccupazioni relative ai rischi ad essa connessi.
Trasparenza, responsabilità, spiegabilità e privacy: l’approccio locale alla governance dell’IA
Tanto appare evidente da proposte come la Dichiarazione di Montreal per un’IA responsabile e il Dialogo aperto sull’etica dell’IA, dal divieto imposto dalla città di San Francisco alla tecnologia di riconoscimento facciale da parte della polizia e di altri dipartimenti governativi, o dalla spinta impressa dall’amministrazione di New York City per regolamentare la vendita di sistemi di assunzione dei lavoratori automatizzati.
Non solo.
Barcellona, Montreal, San Francisco, Amsterdam, Porto, New York, Helsinki, Toronto e Seattle, sono solo alcune delle realtà cittadine coinvolte in via autonoma o su attività congiunte nella costruzione di un’IA basata sui diritti umani e di un modello tecnologico consono ad una società digitale democratica.
Già nel giugno 2021 Londra, Barcellona e Amsterdam lanciarono il Global Observatory on Urban AI con l’intento di monitorare le tendenze di diffusione dell’IA e promuoverne l’uso etico e responsabile.
E, nel 2018, Amsterdam, Barcellona e New York fondarono la Cities Coalition for Digital Rights (CC4DR), con l’obiettivo di favorire la definizione e la tutela dei nuovi diritti digitali. Della coalizione fanno oggi parte oltre 50 città tra cui anche Roma e Mosca – quest’ultima attualmente sospesa a seguito dell’invasione russa dello stato libero e indipendente dell’Ucraina il 24 febbraio 2022.
Sempre nell’alveo del progetto CC4DR, insieme a UN-Habitat (il programma delle Nazioni Unite per gli insediamenti umani), UCLG ed Eurocities, in collaborazione con Open Society Foundation, quattro città europee, Bruxelles, in Belgio, Dublino, in Irlanda, Sofia, in Bulgaria e Tirana, in Albania, sono state recentemente selezionate per lavorare in sinergia con esperti di governance digitale in vista della definizione di un quadro di governance dei diritti digitali.
La città di Sofia, con la Sandbox for Innovative Solutions, nata all’interno del piano d’azione per l’attuazione della strategia di trasformazione digitale di Sofia (DTSS), sta promuovendo iniziative di innovazione per affrontare le sfide urbane legate a temi come l’ecologia, l’istruzione, i trasporti o l’imprenditorialità.
Il team di AI Localism, termine coniato da Stefaan Verhulst e Mona Sloane, per indicare il nuovo e radicale spostamento della governance dell’IA dal livello nazionale a quello locale, ha reso disponibile una bella panoramica delle azioni intraprese dai vari decisori locali per affrontare l’uso dell’IA all’interno delle città. L’intento del gruppo di studiosi è quello di determinare e rendere note le caratteristiche del successo di approcci di regolamentazione dell’IA locali, dal basso verso l’alto, in cui le città non si presentano tanto come centri di governo, bensì come reti, ecosistemi resistenti, adattabili, collaborativi e prosperi e condividere in tal modo best practices che possano essere emulati dalle comunità di tutto il mondo.
Toronto
Il 7 ottobre 2021, Toronto, che già nell’autunno del 2009 aveva lanciato il suo primo Open Data Portal per soddisfare la crescente domanda di open data, ha recentemente reso noto l’avvio di un Piano per le infrastrutture digitali (DIP) progettato per proteggere i residenti dai potenziali rischi derivanti dalle applicazioni tecnologiche, come la crescente disuguaglianza e le violazioni della privacy.
Il Piano si struttura in sei principi:
- Equità e inclusione. L’infrastruttura digitale dovrà essere utilizzata per creare e sostenere equità, inclusione, accessibilità e diritti umani nelle sue operazioni e risultati. L’infrastruttura digitale dovrà essere flessibile, adattabile e rispondente alle esigenze di tutti i residenti, compresi i gruppi indigeni, neri, meritevoli di equità e quelli con esigenze di accessibilità.
- Alta qualità. L’infrastruttura digitale consentirà servizi pubblici di alta qualità, resilienti e innovativi e supporterà l’uso di dati e prove per informare il processo decisionale.
- Benefici sociali, ambientali ed economici. L’infrastruttura digitale contribuirà a benefici sociali, economici e ambientali positivi sostenendo il successo dei residenti, delle imprese, delle istituzioni accademiche e delle organizzazioni comunitarie di Toronto.
- Privacy e sicurezza. L’infrastruttura digitale di Toronto opererà in modo da proteggere la privacy delle persone in conformità con i requisiti legislativi ed essere al sicuro da abusi, hack, furti o violazioni.
- Democrazia e trasparenza. Le decisioni sull’infrastruttura digitale saranno prese in modo democratico, etico, responsabile, trasparente e soggetto a controllo. Verranno fornite informazioni comprensibili, tempestive e accurate sulle tecnologie nella città e le opportunità per plasmare il dominio digitale.
- Autonomia digitale. La città manterrà il controllo nella selezione, nell’uso e nella progettazione della sua infrastruttura digitale, in modo che essa – e i suoi residenti – possano agire con autonomia e in modo autodeterminato all’interno del regno digitale.
Amsterdam
Amsterdam, sin dal 2018 sta sviluppando il progetto chiamato “La città digitale“, che include proposte sulla minimizzazione dei dati, privacy by design e divieto di tracciamento Wi-Fi. Inoltre, ha promosso il manifesto partecipativo “ Tada, clarity about data” – creato con le imprese locali, il mondo accademico e i residenti – per promuovere consapevolezza, inclusione, trasparenza e l’uso etico dei dati. Sempre di più, grazie anche al contributo del suo Datalab, la città di serve di applicazioni di intelligenza artificiale e di sistemi algoritmici per il controllo automatizzato dei parcheggi o per dare priorità alle segnalazioni dei cittadini. Interessanti anche le iniziative note come “Contractual terms for algorithms” e “The Algorithm Register” aventi l’obiettivo di favorire la trasparenza tecnica (informazioni sul funzionamento tecnico dell’algoritmo, ovvero il codice necessario per l’esecuzione dell’algoritmo), la trasparenza procedurale (aiuta a capire lo scopo dell’algoritmo e come arriva al suo esito) e la spiegabilità (rendere noto il processo decisionale dell’algoritmo a livello individuale) dei processi algoritmici, oltre a fornire una panoramica dei sistemi e degli algoritmi di intelligenza artificiale utilizzati dalla città.
Non è casuale, inoltre, che l’amministrazione comunale si sia dotata dello strumento OpenCity per agevolare ed incentivare azioni di partecipazione sociale-digitale in vista dello sviluppo di progetti innovativi per gli “Amsterdammers”.
Altre città olandesi si sono impegnate nell’Associazione dei Comuni olandesi promuovendo “Decode”, lo stack decentralizzato che include una macchina virtuale crittografica, uno stack blockchain, un’app mobile modulare per accedere ai servizi, una dashboard per la visualizzazione dei dati e uno scanner per passaporti, pensato per diffondere cultura digitale tra i cittadini in vista del controllo e della circolazione dei propri dati.
Helsinki
Stesso approccio di partecipazione, apertura, responsabilità e trasparenza viene seguito da Helsinki, dove l’utilizzo gratuito di app come Helsinki e Voice your opinion consentono ai cittadini di partecipare ad audizioni relative all’introduzione di progetti innovativi.
Tra le priorità della città si evidenzia l’impegno verso l’attenuazione del fenomeno noto come “digital divide”, condotto attraverso la predisposizione di processi di apprendimento digitale e tecnologico diretto a tutte le fasce di età e indipendentemente dal tempo e dal luogo.
Come Amsterdam, anche Helsinki si è dotata di AI Register, lo spazio digitale attualmente in fase di compilazione che intende ospitare la panoramica completa dei sistemi di intelligenza artificiale utilizzati dalla città, compresi i dati che utilizzano, la loro logica di funzionamento e il modo in cui le applicazioni sono governate. È anche previsto che i cittadini possano fornire liberamente feedback o partecipare alla costruzione di un’IA a misura d’uomo.
Il registro è già operativo su alcune soluzioni di intelligenza artificiale implementate nella città come il sistema di reportistica per i rifiuti.
Il codice di programmazione alla base delle logiche di machine learning degli algoritmi impiegati viene reso visibile ed è dunque open source.
Barcellona
Barcellona, nel mese di aprile 2021 ha presentato la propria “Strategia comunale su algoritmi e dati per guidare eticamente l’intelligenza artificiale”, il provvedimento che definisce i parametri indispensabili per poter utilmente implementare sistemi di intelligenza artificiale nel rispetto dei diritti digitali dei cittadini: tra questi trasparenza, responsabilità e non discriminazione.
Sull’esempio di Amsterdam e Helsinki, tra le linee guida della strategia sull’AI è prevista l’introduzione di un registro pubblico che dia ai cittadini l’accesso a tutti gli algoritmi che interessano le persone e utilizzati dal Comune.
Progetti pionieristici come Connectem Barcellona intendono fornire una soluzione efficace al problema dell’inclusione sociale e del digital divide, compreso il divario di genere, proponendo un approccio di tipo multidimensionale:
- agire sulla connettività (accesso a una connessione di qualità)
- agire sui dispositivi (accesso a dispositivi idonei per usi specifici adattati a ciascuna realtà)
- e ovviamente promuovere l’acquisizione di competenze (per acquisire le conoscenze necessarie per l’uso tecnologico).
Il Digital Divide Survey 2020 condotto da Barcellona ha, infatti, fatto luce sui numeri del divario digitale rivelando la necessità di una rapida presa di posizione:
- l’1% degli abitanti non ha ancora accesso a Internet per motivi economici, il che significa tra 6.000 e 10.000 famiglie in termini assoluti.
- le famiglie ad alto reddito hanno più dispositivi disponibili: PC e laptop, mentre le famiglie a basso reddito tendono ad avere solo smartphone e tablet, rendendo più difficile il lavoro o gli studi a distanza.
- il 62% dei residenti di Barcellona ha aumentato il numero di attività che svolge online: lavoro a distanza, procedure di amministrazione elettronica, formazione online. Tuttavia, le popolazioni più anziane, i gruppi meno istruiti o le popolazioni disoccupate utilizzano meno Internet e per una gamma più limitata di usi.
Altrettanto vale per le azioni pensate dalla città per favorire l’accesso delle donne al settore ICT, come il piano di acquisizione delle competenze BCNFemTech, il network BCNFemTech e il sostegno a progetti tecnologici da parte di imprenditrici.
Nell’ambito della International Coalition of Cities for Digital Rights, Barcellona ha voluto mappare l’ ecosistema dei diritti digitali dei cittadini di Barcellona, comprese le iniziative di organizzazioni e movimenti sociali attivi a Barcellona volte a difendere e promuovere i diritti digitali.
E’, inoltre, prevista la creazione di un osservatorio internazionale sull’IA in collaborazione con il Centro per gli affari internazionali di Barcellona (CIDOB), volto a stimolare il coinvolgimento degli agenti sociali nello sviluppo tecnologico: dal monitoraggio dei livelli di occupazione delle spiagge, al sistema di supporto alla classificazione dei reclami e dei suggerimenti dei cittadini, ai sistemi di intelligenza artificiale applicati ai servizi sociali, dai problemi finanziari o di dipendenza alla violenza di genere.
Dello stesso tenore anche le azioni note come Standard Ethical Digital di Barcellona, il toolkit open source per lo sviluppo di politiche digitali che mettano i cittadini al centro e rendano i governi più aperti, trasparenti e collaborativi. Altrettanto vale per la piattaforma Decidim, che Barcellona ha implementato per supportare la consultazione diretta con i suoi cittadini, il portale Barcelona Open Data che presenta progetti cittadini basati su dati aperti all’interno della sua area “Reuser” e il Progetto Decode, l’iniziativa collaborativa a livello europeo, seguita anche da Amsterdam per rafforzare i diritti digitali dei cittadini.
Non ultimo anche il Manifesto di Barcellona a sostegno della sovranità tecnologica delle città.
New York
A partire dal 01 gennaio 2023, i datori di lavoro di New York City non potranno utilizzare i prodotti di apprendimento automatico dell’intelligenza artificiale nelle decisioni di reclutamento, assunzione o promozione, a meno che la tecnologia non sia stata preventivamente verificata per individuare eventuali bias non più di un anno prima del suo utilizzo e una sintesi dei risultati dell’audit non sia stata resa pubblica sul sito web del datore di lavoro. È questa la nuova previsione di legge, la Local Law Int. 1894-A, voluta dal sindaco uscente Bill de Blasio, votata a larga maggioranza a novembre 2021, che prevede anche che i datori di lavoro conducano audit sui potenziali pregiudizi di razza, etnia o sesso delle applicazioni di intelligenza artificiale[1] al fine di testarne l’impatto in termini di effetti personali.
Il provvedimento, sebbene non soddisfi appieno le aspettative degli esperti dell’ Al Center for Democracy & Technology (CDT) – che infatti esprimono forti dubbi e preoccupazioni sul fatto che la legge possa riuscire a responsabilizzare le aziende e anzi temono che lasci irrisolte importanti forme di discriminazione – sarebbe però solo la punta dell’iceberg di ciò che New York sta programmando da tempo.
Dopo la costituzione nel 2018 adela Cities Coalition for Digital Rights (CC4DR), dopo gli investimenti in infrastrutture a banda larga, inclusa la connessione Wi-Fi gratuita a Queensbridge Houses (il più grande complesso di edilizia residenziale pubblica del paese), più di 35 città guidate dall’ Office of the Chief Technology officer del sindaco di New York, in 11 paesi, hanno aderito alle Linee guida per l’Internet delle cose, pensate per diffondere le migliori pratiche e le risorse destinate all’utilizzo responsabile delle tecnologie intelligenti, oltre che a fornire un quadro di ausilio per il governo cittadino e i suoi partner nella distribuzione di dispositivi connessi e tecnologie IoT in modo coordinato e coerente.
Ma non solo, poiché New York si è fatta promotrice anche di una coalizione nazionale chiedendo a tutti i sindaci statunitensi di aderire a un Cities Open Internet Pledge, una sorta di protocollo di conformità che richiede a tutti i provider internet con cui intrattengono rapporti commerciali di seguire un forte insieme di principi di net neutrality.
E nel 2021 New York ha anche tenuto la sua prima Library Privacy Week, ovvero una serie di oltre 30 workshop pubblici gratuiti volti a insegnare ai residenti una migliore consapevolezza in termini di privacy dei dati e pratiche di sicurezza.
Contea di Santa Clara
Degno di nota anche l’impegno assunto dalla Contea di Santa Clara, in California, in vista di un uso sempre più responsabile dell’AI. Nel giugno 2016, in collaborazione con l’American Civil Liberties Union, la contea di Santa Clara, ha infatti approvato la legge volta a porre un freno alle forme di sorveglianza segreta e discriminatoria. Il provvedimento votato dal Consiglio dei supervisori ha introdotto la Surveillance Technology & Community Safety Ordinance e, Santa Clara, è diventata la prima contea a istituire misure coerenti di trasparenza, responsabilità e supervisione per tutte le decisioni di sorveglianza: qualsiasi agenzia, operante all’interno della giurisdizione della contea di Santa Clara, qualora intenda avvalersi di tecnologie di sorveglianza dovrà necessariamente sottoporle al contributo del pubblico in una riunione aperta del Consiglio delle autorità di vigilanza.
Le policy presentate dalle agenzie coinvolte dovranno contenere una descrizione dettagliata delle modalità di utilizzo della relativa tecnologia, compreso il modo in cui i dati raccolti verrebbero archiviati o condivisi. Qualora il Board dei supervisori approvi l’acquisto, la singola agenzia sarà quindi responsabile della redazione di un rapporto annuale sull’impatto per dimostrare che la tecnologia soddisfi le specifiche concordate.
Londra
È del 2018 il progetto Smarter London Together con cui Londra, centro europeo delle imprese tecnologiche e da sempre hub naturale per l’intelligenza artificiale, ha inteso definire le proprie priorità in fatto di diritti digitali e tecnologia.
Un masterplan e una roadmap confermati anche per il prossimo triennio che mirano a rendere Londra “la città più intelligente del mondo” attraverso l’implementazione di servizi digitali performanti, migliore condivisione dei dati, connettività, progetti pilota per la ricerca e sviluppo di sistemi intelligenti, competenze digitali e collaborazione a livello cittadino.
Non è un caso che proprio Londra sia stata una delle prime città al mondo a individuare all’interno dell’amministrazione una figura di responsabilità nell’ambito dei programmi di sviluppo digitali: il Chief Digital Officer, guida dell’evoluzione digitale della città e responsabile della trasformazione della capitale inglese Londra in smart city.
Sulla stessa scia si muovono anche i programmi London Datastore, il portale di condivisione con oltre 700 set di dati gratuito e aperto dove chiunque può accedere ai dati relativi alla capitale per sviluppare soluzioni ai problemi di Londra, e il nuovo Data Trust con l’Open Data Institute finalizzato a favorire sinergie tra aziende e governi in vista dello sviluppo un ecosistema di dati aperto e affidabile.
Sempre Londra, inoltre, insieme a Barcellona e Amsterdam fa parte del progetto Global Observatory on Urban AI dove far convergere le migliori sinergie cittadine in vista dell’ implementazione dei sistemi di AI in modo efficace ed etico.
Altre città
Altre città abbracciano la trasformazione digitale, assumendo un ruolo di primo piano nella governance e nella promozione di modelli operativi all’avanguardia abilitanti svariati servizi, dalla salute e dall’istruzione all’energia e alle infrastrutture pubbliche, che si rivelino di qualità, efficienti ed efficaci.
È il caso delle iniziative di Digital Twin in atto a Dublino, Singapore, Vienna, Cascais in Portogallo, Vienna e Honk Kong, impegnate in ferventi operazioni di analisi dei big data e metodologie di apprendimento automatico per la creazione di una replica digitale dinamica delle loro risorse ambientali a scopo di pianificazione urbana, sicurezza e automazioni predittive che possano consentire alle amministrazioni di intraprendere azioni preventive.
Anche Roma, pur con ampi margini di miglioramento, aderisce e si fa promotrice di diverse iniziative per contrastare forme di digital divide e favorire il ruolo dei servizi digitali, concentrandosi principalmente su quattro macro ambiti: open government, trasformazione digitale, competenze digitali e connettività. Sul fronte internazionale si evidenziano altre azioni intraprese dalla capitale italiana in materia di governo aperto e processi digitali, come l’adesione a The European Innovation Partnership on Smart Cities and Communities (EIP-SCC), Open Government Partnership, Digital Transition Partnership e Eurocities.
In Italia si distinguono anche le città di Torino e Milano: la prima con il programma Torino City Lab, ovvero lo spazio digitale dove interfacciarsi con la pubblica amministrazione e con un sistema di partner pubblici e privati in vista della realizzazione di progetti pilota, comprenderne le ricadute e valutarne l’accettabilità e l’impatto sociale. La seconda con la pubblicazione delle Digital Factsheets, ovvero schede informative sui principali obiettivi del Piano di Trasformazione Digitale di Milano sviluppate con il supporto di Bloomberg Associates, tra cui le iniziative “Edicole Collegate” e “STEMintheCity”, quest’ultima in collaborazione con importanti realtà del settore pubblico e privato e il sostegno delle Nazioni Unite per diffondere la cultura delle STEM, rimuovere gli stereotipi culturali che allontanano le ragazze dai percorsi di studio nelle materie tecnico-scientifiche.
Oltreoceano, Buenos Aires ha già avviato un dibattito per regolamentare l’implementazione dei sistemi di riconoscimento facciale in pubblico, presentando un apposito disegno di legge.
Dubai dal canto suo si fa promotrice dell’Ethical AI Toolkit, già in uso presso la Dubai Electricity and Water Authority: un insieme di principi e linee guida, oltre a uno strumento di autovalutazione destinato agli sviluppatori per poter testare le loro piattaforme e le applicazioni di AI.
Nel Nord America, Santa Cruz, seguendo l’esempio di San Francisco e Portland, ha deciso di vietare l’uso della polizia predittiva e le tecnologie di riconoscimento facciale da parte delle forze dell’ordine. Allo stesso tempo la Task Force di Intelligenza Artificiale del Vermont ha formulato raccomandazioni per l’azione e le politiche dello Stato nord americano in relazione alle nuove tecnologie di sorveglianza e pensa anche all’introduzione della Commissione per l’intelligenza artificiale per sostenere l’uso etico e lo sviluppo dell’intelligenza artificiale. Di contro l’impiego di algoritmi a Los Angeles rimane uno dei più ampi e disinvolti in tutto il Paese: in uso nel settore dei trasporti, tra le forze dell’ordine, compreso un accordo stipulato dall’amministrazione con Axon, in veste di partner fornitore di applicazioni di intelligenza artificiale, che include un ampio meccanismo di condivisione di dati con le autorità di polizia.
Di sicuro interesse l’iniziativa della città di Hangzhou, nella Cina orientale, nella provincia dello Zhejiang, a maggior ragione per lo specifico contesto di iper sorveglianza nel quale si inserisce, nonché in quanto sede di Hikvision (l’azienda cinese di telecamere di sorveglianza), che vorrebbe vietare il trattamento indiscriminato di dati biometrici dei residenti come impronte digitali o scansioni di riconoscimento facciale, a causa dei potenziali rischi in termini di violazioni della privacy e cyber sicurezza. Una tendenza restrittiva che, almeno in prima lettura, sembrerebbe contrastare con le mire di Pechino che nel luglio 2017 tramite il Consiglio di Stato (il principale organo amministrativo all’interno Cina), ha reso noto il “Piano di sviluppo dell’intelligenza artificiale di nuova generazione” e ha delineato gli obiettivi della politica di AI della Cina, tra cui, in primis, il fatto di rendere la Cina il centro mondiale dell’innovazione dell’AI entro il 2030, partendo proprio dai governi locali in veste di vivai per i “fitness test” e lo sviluppo della politica del governo centrale.
AI, le sfide della governance
Tanto più l’intelligenza artificiale sta diventando parte integrante della società del XXI secolo, tanto maggiori si rivelano le criticità legate al livello di accuratezza e correttezza garantito dalle relative applicazioni: le analisi basate sui big data combinate con l’uso di algoritmi e machine learning applicati a processi decisionali di varia natura non sono infatti ancora esenti da rischi tecnologici e pregiudizi sociali di genere, razza o reddito che non possono essere sottovalutati.
Nonostante questo, è innegabile come il nostro mondo, dove milioni di persone sono connesse tramite dispositivi digitali con un’enorme potenza di elaborazione, archiviazione e accesso alla conoscenza illimitati, dipenda sempre più dalle soluzioni tecnologiche.
È dunque urgente stabilire meccanismi di governance effettivi ed elevare l’IA al livello in cui sia certa la salvaguardia dei diritti digitali degli individui, ben al di là di ogni pretesa di egemonia e predominio nel settore dell’intelligenza artificiale fino ad ora perseguita dalle varie strategie nazionali.
Agire chirurgicamente sulle applicazioni di intelligenza artificiale e machine learning sarebbe preferibile rispetto ad una normativa ad ampio spettro?
Una cosa è certa, gli attuali approcci perseguiti dai regolatori del mondo si stanno rivelando ancora troppo autoritaristici o troppo liberistici e, mentre le giuste cornici regolatorie stentano a prendere forma, tra clamore e sgomento, tra paura e retorica, l’intelligenza artificiale prosegue la sua corsa turbolenta.
Meccanismi di kill switch[2] obbligatorio su tutti i programmi di intelligenza artificiale, pratiche di redress che consentano agli individui di ottenere un rimedio diretto al ristoro da eventuali pregiudizi subiti, trasparenza, responsabilità dei sistemi autonomi, del produttore o dell’utente della tecnologia, spiegabilità algoritmica e privacy: sono queste tutte questioni importanti ancora in attesa di una giusta collocazione.
Non è una novità: certi sistemi automatizzati, senza le giuste tutele, possono essere devastanti.
Sebbene in UE, la proposta di Regolamento sull’intelligenza artificiale[3] presentata dalla Commissione nel 2021 riveli un certo potenziale per poter plasmare lo standard di riferimento normativo oltre i confini dell’Europa stessa, tuttavia il fascino che il quadro normativo europeo in fieri sta esercitando tra giuristi, esperti e grandi imprese tecnologiche, a livello globale, rimane ad uno stadio piuttosto basso. I contorni della strategia europea che vorrebbe unire le esigenze di innovazione da una parte e la promozione dell’eccellenza e della fiducia tra utenti e fornitori dall’altra, così come la realizzazione di un neo-costituzionalismo digitale rivolto alla valorizzazione dell’uomo, non decolla. Al momento, peraltro, non sembra risolvere i pesanti dubbi legati all’effettiva tutela dei diritti dei cittadini e alla pertinente considerazione degli impatti in termini di effetti personali delle applicazioni di IA.
Permangono le forti preoccupazioni legate al rispetto dei principi fondamentali quali uguaglianza e non discriminazione, agli usi discriminatori dei sistemi di biometria sia pubblici che privati, alla scarsa trasparenza dei trattamenti dei dati, agli abusi delle applicazioni di intelligenza artificiale in campo militare, in ambito di giustizia e polizia predittiva e per scopi di pubblica sicurezza, alla scarsa promozione dell’innovazione, nonché al rischio di frammentazione normativa e al ruolo concreto e centrale che dovranno assumere città, governi e imprese nell’implementazione e nella gestione pratica dei sistemi di intelligenza artificiale.
Non sembra andare meglio negli USA dove le azioni a suo tempo intraprese per favorire la definizione di una strategia comune di governance del digitale, note come “Future of AI Act”, o anche l’inclusione delle questioni relative all’ intelligenza artificiale nel nuovo Consiglio per il commercio e la tecnologia (TTC) UE-USA, non hanno ancora dato origine a sviluppi definitivi. Altrettanto vale per le varie iniziative e gli attuali sforzi che coinvolgono il National Institute of Standards and Technology (“NIST”) con il Risk Management Framework (“RMF”), l’Office of Management and Budget (“OMB”) con la redazione di una Guida per la regolamentazione delle applicazioni di intelligenza artificiale, il Comitato consultivo nazionale per l’IA del Dipartimento del commercio, l’attuazione dell’American COMPETE Act e le politiche settoriali da parte delle agenzie.
Fino ad oggi negli Stati Uniti non esiste una legislazione federale completa sull’IA e i progressi verso un quadro normativo sono lenti.
Conclusioni
Le sfide di governance delle applicazioni di intelligenza artificiale hanno catturato la migliore attenzione delle città del mondo e gli esperimenti di governance in corso potrebbero fungere da “sprone” per molti legislatori.
Parliamo di approcci regolamentari profilati sullo specifico contesto sociale, di infrastrutture flessibili, di scalabilità e portabilità delle soluzioni tecnologiche, di meccanismi di cooperazione tra le città, di forme di partecipazione attiva della cittadinanza con tanto di circuiti di feedback, di specifiche previsioni di divieto sull’utilizzo di tecnologie premature come le applicazioni di riconoscimento facciale e altre soluzioni di intelligenza artificiale non ancora adeguatamente sedimentate, di partenariati pubblici e privati, oltre agli importanti investimenti destinati ai progetti di ricerca e sviluppo responsabile dell’IA: sono questi i fattori strategici cardine a sostegno degli ecosistemi tecnologici ad alto potenziale, localizzati e sostenuti dai cittadini.
E se da una parte occorrerà comunque prestare attenzione ai rischi di eccessiva frammentazione normativa, corruzione e conflitto di interesse, insiti negli approcci locali, dall’altra, poter esaminare la bontà di metodologie bottom-up di governance dell’AI, così come apprendere le caratteristiche delle buone pratiche già disponibili nelle realtà urbane è sicuramente utile e stimolante.
D’altra parte, sebbene le dimensioni che fondano l’analisi sulle preoccupazioni etiche – tra cui iper controllo, sorveglianza, privacy, proprietà dei dati, inclusione sociale, disuguaglianza e discriminazione, sostenibilità e ambiente – e che emergono chiaramente dal dibattito in corso sul futuro della regolamentazione dell’intellegenza artificiale, restano ampie, è pur vero che il percorso della società del futuro verso una gestione più intelligente passa proprio attraverso un maggiore coordinamento delle politiche, un maggiore coinvolgimento dei cittadini e sistemi di AI che siano in grado di fornire servizi più efficaci ed efficienti, sicuri e affidabili.
Se fossero proprio le città, grazie anche agli effetti di rete di cui godono, i migliori innovatori e i risolutori più efficienti di problemi, compresa la governance dell’IA?
L’alchimia regolatoria che dovrà legare principi giuridici e costituzionali da una parte e innovazione dall’altra è una formula molto complessa. E certo una delle questioni più difficili da dirimere non riguarderà tanto l’an, bensì il quantum di regolamentazione necessaria per trovare un punto di equilibrio tra interessi confliggenti.
- La legge definisce gli strumenti decisionali automatizzati per l’occupazione come “qualsiasi processo computazionale, derivato da apprendimento automatico, modellazione statistica, analisi dei dati o intelligenza artificiale”, che classifica o formula in altro modo una raccomandazione sui candidati e viene utilizzato per assistere o sostituire la decisione di un datore di lavoro . ↑
- Meccanismo utilizzato per spegnere o disabilitare un dispositivo o un programma. ↑
- Il framework assegna diversi livelli di rischio all’IA e prevede un database pubblico dell’IA ad alto rischio, che sarà regolamentato in modo più rigoroso e mantenuto dalla Commissione europea. E’ prevista anche l’istituzione di uno European AI Board: una nuova autorità che, assieme alla Commissione, e in stretta collaborazione con l’industria tecnologica, dovrà coordinare le autorità degli Stati Membri, i quali, d’altro canto, dovranno assicurare un’applicazione coerente del Regolamento. ↑
