Nel contesto attuale si sente sempre più parlare della possibilità di integrare soluzioni tecnologiche basate su sistemi di intelligenza artificiale all’interno delle aree urbane, dando vita al fenomeno delle città intelligenti o “smart cities”.
Come già evidenziato nel 2021 nella ricerca commissionata dalla commissione per lo sviluppo regionale del Parlamento europeo, “il termine si riferisce in generale a un insieme integrato di iniziative volte a utilizzare le tecnologie digitali, compresa l’IA, per migliorare il benessere e la qualità della vita”[1].
Proprio l’impiego di sistemi di intelligenza artificiale, infatti, può portare benefici in ottica di efficienza nell’ambito di diversi settori per l’implementazione di migliori servizi al cittadino; per citarne alcuni: la mobilità, la sanità, la sicurezza, la gestione dei rifiuti. Come evidenziato nello studio sopra citato, si prevede che l’intelligenza artificiale “favorirà l’efficienza, migliorerà la governance e promuoverà l’impegno democratico e la sostenibilità ambientale”.
Se da una parte si delinea una prospettiva ricca di benefici, dall’altra occorre prestare attenzione alle questioni sottese all’utilizzo dei sistemi di intelligenza artificiale nel contesto cittadino e ai rischi che possono derivarne; ad esempio: il funzionamento di tali sistemi spesso richiede la raccolta e l’utilizzo di grandi quantità di dati, spesso personali, dei cittadini e l’utilizzo di tali sistemi, laddove viziati da bias, può portare ad effetti discriminatori, con conseguenti risvolti anche dal punto di vista etico (vedi ad esempio quanto accaduto in Olanda, dove il sistema Syri ha tolto ingiustamente a venti mila famiglie i sussidi sociali per sospettata frode).
Pertanto, sarà necessario tenere in considerazione che la tecnologia odierna si confronta con i rischi connessi al corretto utilizzo dei dati personali dei cittadini e alla sicurezza, nonché con le vulnerabilità dei sistemi di intelligenza artificiale e con i possibili output discriminatori. Alla luce di ciò, sono sempre più centrali e di interesse le questioni legate ad un utilizzo dell’intelligenza artificiale che sia rispettoso della protezione dei dati personali e che si fondi su principi etici condivisi. Quelli menzionati, che sono solo due dei molteplici aspetti da valutare in un progetto di smart city, sono quelli che verranno approfonditi nel prosieguo.
Il contesto normativo
Per uno sviluppo delle tecnologie rispettoso dell’essere umano, è importante tenere in considerazione il contesto normativo e la sua evoluzione. Il primo testo legislativo a cui fare riferimento, seppur ancora in fase di approvazione, è la “Proposta di regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale e modifica alcuni atti legislativi dell’Unione” (“AI Act”).
Il testo individua all’articolo 4-bis una serie di principi generali che si pongono come faro per la realizzazione di sistemi di intelligenza artificiale con un “approccio antropocentrico coerente a un’intelligenza artificiale etica e affidabile, che sia pienamente in linea con la Carta e con i valori su cui si fonda l’Unione”[2]. Tra questi rientrano:
- l’intervento e la sorveglianza umana;
- la robustezza tecnica e la sicurezza;
- vita privata e la governance dei dati;
- la trasparenza;
- la diversità, non discriminazione ed equità;
- il benessere sociale ed ambientale.
Come si evince già dai principi indicati nell’AI Act, un aspetto centrale riguarda la protezione della vita privata e la governance dei dati. Posto che i sistemi di intelligenza artificiale comportano operazioni di trattamento dei dati personali, un tema cruciale riguarda il rispetto dei principi in ambito privacy e protezione dei dati personali.
Si dovrà quindi fare riferimento alla normativa in materia, la quale è richiamata in diversi articoli dell’AI Act (in particolare, l’art. 2, paragrafo 5-bis, che stabilisce che “Il diritto dell’Unione in materia di protezione dei dati personali, della vita privata e della riservatezza delle comunicazioni si applica ai trattamenti di dati personali in relazione ai diritti e agli obblighi stabiliti nel presente regolamento” e il citato art. 4-bis, lett. c)).
Quanto evidenziato conferma ancora una volta e rende più evidente la trasversalità della tematica e l’attenzione che i vari attori in campo devono porre nell’implementazione e nell’utilizzo dei sistemi di intelligenza artificiale.
L’AI Act si pone perciò come il primo importante passo fatto dal legislatore europeo verso la regolazione dei sistemi di intelligenza artificiale.
Il ruolo dell’etica digitale
Sebbene l’IA sia una tecnologia a sostegno del benessere umano e delle prosperità economica, l’integrazione di strumenti basati su sistemi di intelligenza artificiale nel processo decisionale delle organizzazioni comporta l’insorgere di una nuova classe di rischi, di natura etica, ma con ripercussioni concrete che possono manifestarsi lungo tutto il ciclo di vita delle soluzioni di IA in uso, a partire dalla fase progettuale, a quella di sviluppo, e per finire a quella di esercizio.
In breve, l’etica digitale chiede di considerare l’impatto che l’uso del sistema di IA ha sulle persone e sul contesto sociale (ciò, soprattutto in virtù del fatto che in futuro delegheremo alla tecnologia sempre più parti delle attività svolte dalle persone). Ad esempio, si consideri un sistema di intelligenza artificiale utilizzato per approvare o rifiutare le richieste di mutuo analizzando soltanto alcune informazioni, quali ad esempio la nazionalità, il luogo di residenza o il sesso del richiedente. Sorge spontaneo chiedersi se il sistema approvi o meno in modo corretto (ovvero non discriminatorio) i finanziamenti o qual è stata la logica utilizzata dall’algoritmo per approvare o negare il finanziamento medesimo.
Comprendere la base del funzionamento ci aiuta a verificare che non vi siano pregiudizi ingiusti per spiegare correttamente al richiedente il motivo per cui il prestito non è stato approvato.
L’approccio Ue tra rigore e accountability
Come sopra abbiamo visto, la proposta di regolamento sull’intelligenza artificiale (AI Act) mira a definire in modo univoco gli aspetti essenziali per normare l’utilizzo di soluzioni di IA, introducendo specifici obblighi di compliance che gli attori coinvolti devono garantire, al fine di assicurare la sicurezza e la conformità dei sistemi stessi, nonché il rispetto di diritti e valori fondamentali.
La legislazione proposta dall’UE delinea in via generale un approccio rigoroso al tema, imponendo l’adozione di sistemi di gestione del rischio ben delineati.
Tuttavia, l’AI Act ribadisce anche – in linea con quanto attuato da altre normative riguardanti ambiti legati all’innovazione – l’importanza di integrare il concetto di accountability in termini etici nella regolamentazione dell’utilizzo di sistemi di IA, lasciando spazio ad una sorta di “soft” governance.
Tale impostazione normativa è legata a due ordini di ragioni:
- come indicato dall’AI Act, è necessario un costante monitoraggio dei sistemi di IA per assicurare una corretta valutazione e gestione dei rischi sottesi al loro utilizzo, e per garantire che tali sistemi siano aderenti ai principi etici previsti dalla norma;
- la definizione di misure specifiche, predefinite e fissate dalla norma, cui adeguarsi per assicurare la compliance dei propri sistemi di IA è incompatibile con la rapida innovazione tecnologica che molti settori ad oggi stanno perseguendo. L’AI Act, infatti, apre gli orizzonti ad una governance ulteriore rispetto ai meri termini di compliance basata sull’etica, grazie alla quale le organizzazioni possono aderire a standard volontari che integrano e completano le normative esistenti.
La compliance, perciò, è necessaria ma non sufficiente per guidare l’organizzazione nella giusta direzione. L’AI Act (e la normativa in generale) indica quali sono le mosse del gioco, ma non dice nulla su quali potrebbero essere le mosse buone e migliori, tra quelle legali, per vincere la partita, cioè per consentire all’organizzazione di avere un impatto positivo nel contesto sociale in cui opera.
In questo scenario, in cui da un lato emerge un potere decisionale dei sistemi di IA che influenza idee, culture e valori e dall’altro vi è una potenziale deresponsabilizzazione degli esseri umani e delle aziende che attribuiscono responsabilità etiche e legali alle macchine, non è consentito ritenere l’etica digitale una questione astratta, un argomento di dibattito puramente filosofico.
Le questioni etiche avranno ricadute molto concrete in tutti i campi.
È necessario, perciò, attrezzarsi per mitigare i rischi che possono emergere da questa tecnologia.
In prospettiva, man mano che i sistemi di IA verranno utilizzati sempre più in modo pervasivo, sarà importante che le organizzazioni operino in linea con i valori della società.
L’attenzione alle conseguenze etiche dell’utilizzo delle tecnologie più avanzate risulta inoltre in linea con gli obiettivi di governance e di tutela dei propri stakeholder, richiesti dai principali standard di rendicontazione di sostenibilità, essendo la stessa parte integrante del processo di trasformazione sostenibile del business aziendale.
Conclusioni
Perciò, in virtù di quanto detto, il quadro sopra illustrato, comprensivo sia di precetti normativi sia di regole di “governance soft”, pone le basi per la realizzazione di una intelligenza artificiale responsabile che possa contribuire allo sviluppo di un contesto sociale positivo e migliore.
Note
[1] Ricerca effettuata su richiesta della commissione REGI – Intelligenza artificiale e sviluppo urbano
[2] Art. 4-bis della proposta di regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale e modifica alcuni atti legislativi dell’Unione (“AI Act”), versione votata dal Parlamento Europeo il 14/06/2023
