Il dibattito sull’ AI Act è finalmente entrato nel vivo, ed è un dibattito necessario da intrattenere.
Non viene messa certamente in dubbio la funzione editoriale e allocativa che, sempre più, gli algoritmi stanno assumendo nella nostra società. Pur osservando i grandi benefici del progresso tecnologico abilitato dall’IA, siamo anche ormai in grado di percepire, e meglio analizzare, i rischi che lo accompagnano.
Artificial Intelligence Act: l’UE regola l’AI ma dimentica di proteggere la mente
Il rapporto appena rilasciato dagli europarlamentari Brando Benifei e Dragos Tudorache è molto importante perché pone alcune questioni essenziali per migliorare la proposta legislativa della Commissione europea.[1]
La softwarizzazione della discriminazione
Dal concedere un credito maggiore all’uomo rispetto che alla donna della coppia, alla predizione di risultati scolastici migliori se da scuole private rispetto a studenti di scuole pubbliche statali, la softwarizzazione della discriminazione avviene in maniera oscura e schiva, portandosi con sé un rischio rappresentazionale.
I dati utilizzati per il training degli algoritmi – ben lungi dall’ essere neutri – rappresentano la realtà e la solidificazione delle disuguaglianze. Un algoritmo – senza un’adeguata riflessione sulla fairness e le appropriate azioni correttive – non può che essere automaticamente biased.
Il report Benifei-Tudorache
La legge europea sull’IA riconosce tutto questo, anche se con alcuni limiti. In primo luogo, il rapporto Benifei-Tudorache riconosce che non solo i diritti individuali ma anche i valori fondanti dell’ Unione Europea devono essere presi in considerazione quando si discute del rischio di un sistema di IA. Questo è fondamentale perché l’IA è altamente trasformativa non solo per le persone, ma anche per le comunità e per l’ambiente che ci circonda.
Il rapporto introduce un emendamento, in linea con la riflessione di cui sopra, per segnalare come l’IA nel campo predittivo sia un rischio per la società. La predizione usata nella lotta al crimine comporta, secondo Benifei e Tudorache, un rischio inaccettabile, ed è quello di contravvenire uno dei principi cardine della nostra società, quello della presunzione di innocenza. In effetti, la tecnologia predittiva è inestricabilmente legata al rischio di trasformare il disagio sociale in una profezia che si auto avvera per il puro fatto che è basata sui trend del passato. Automatizzare questi trend significa cristallizzare la società in dinamiche che magari, politicamente, vorremmo superare.
Nel rapporto presentato dalle due Commissioni si introduce anche la possibilità di modificare la lista di IA ad alto rischio in maniera più semplice di quella proposta inizialmente. Questo è importante perché l’innovazione tecnologica procede rapidamente e la normativa deve rimanere al passo. I prodotti di alto rischio sono quelli soggetti a due process, cioè ad una aderenza ad una serie di obblighi, come ad esempio la trasparenza ed il controllo umano, e l’aderenza a standard che sono in corso di sviluppo. L’ azienda che segue due process nel creare o utilizzare IA può auto-certificarsi come conforme.
Le strategie aziendali di ottimizzazione di due process
Abbiamo a lungo investigato le strategie aziendali di ottimizzazione di due process, specialmente nell’ambito della fairness, con un five-point process che può accompagnare questi requisiti. Nello specifico, abbiamo proposto una riconcettualizzazione dell’artefatto IA, non come modello, ma bensì come sistema. Questo perché, nel momento in cui vediamo l’IA come sistema, siamo in grado di armonizzare la parte tecnica e la parte sociale e di conseguenza, siamo in grado di attuare un processo tangibile per le organizzazioni su 5 punti:[2]
- Definire l’obiettivo della tecnologia
- Proteggere la collezione dei dati necessari per la tecnologia
- Sviluppare il modello
- Testare il modello
- Monitorare il modello
Positivi gli emendamenti sulla trasparenza che potenziano il ruolo del database europeo dei sistemi IA di alto rischio, che deve essere usato sia dai produttori di IA, che delle agenzie pubbliche che comprano e adottano questi sistemi. Purtroppo, però, gli emendamenti non arrivano fino a coprire le aziende private che rimangono ancora escluse da questi obblighi.
Un altro elemento importante riguarda un ruolo più attivo della società civile nel determinare l’ impatto dell’IA e il rischio concreto che può avere. Questo ruolo è importante e, qualora incorporato nella versione finale, sarà interessante monitorare quali strumenti verranno utilizzati per garantire un approccio partecipativo allo sviluppo e l’utilizzo dell’ IA.
Il nodo dei risarcimenti
In ultimo, vorremmo focalizzarci su forse l’elemento di cui più si sente l’assenza nella proposta legislativa ed introdotto dal rapporto dei due europarlamentari e che è quello del redress, ovvero il risarcimento che un cittadino può avere qualora i suoi diritti vengano violati da un sistema di IA. Si tratta di un elemento importante che va accompagnato da maggiore consapevolezza degli utenti (e una educazione che per ora non abbiamo) così come da una maggiore trasparenza verso i cittadini stessi che devono sempre sapere qualora si stiano interfacciando con un algoritmo.
Non c’è dubbio che il rapporto appena pubblicato fornisca elementi importanti, su cui spesso ci siamo interrogate e che vanno presi in considerazione nel momento in cui l’Unione Europea, così come ha fatto con il GDPR, introduce un’azione regolamentativa destinata ad avere un impatto globale. In tempi recenti il pacchetto legislativo dell’Unione Europea è notevole, dal DMA, DSA, DGA, NIST II. E non c’è dubbio che la privacy vada vista come filo conduttore di tante di queste proposte legislative che con la GDPR si interfacciano, talvolta in maniera più complessa come nel Data Act. L’AI Act in un certo qual modo può anche essere visto come un privacy PLUS perché arriva a coprire quei sistemi che magari non utilizzano dati personali ma che comunque hanno un impatto sull’individuo. Proprio per questo motivo è necessario che l’AI Act oltre ad essere prescrittivo per le imprese, fornisca un quadro di tutela anche per l’utente.
L’impatto dell’IA sul Pianeta
Infine, manca fino a oggi il riferimento all’ambiente, il mondo che abitiamo e che soffre della nostra mancanza di azione. Dobbiamo riflettere sul fatto che nel pieno della pandemia, nonostante gli spostamenti inesistenti, il consumo energetico non si sia ridotto più di tanto – come ci fa presente Benedetta Brevini dell’Università di Sydney, la quale pone l’allarme sollevando il rischio di mitizzare l’ IA omettendo l’ambiente. L’IA è anche infrastruttura e potere computazionale, e data mining – in altre parole, è energia, e quindi inquinamento.[3]
Forse, l’ IA Act che vuole certamente supportare l’ IA per la sostenibilità e per la creazione di tecnologie in grado di aiutarci nella lotta contro il cambiamento climatico, potrebbe anche focalizzarsi sull’ IA sostenibile, cioè un IA che non contribuisce all’inquinamento ma che, per esempio, è costruita con uno uso smart dei dati, e altri parametri che tengano conto dell’impatto ambientale.
È arrivato il momento di coniugare IA for sustainability con un ragionamento sulla sostenibilità dell’ IA se vogliamo tutelare sia l’ambiente digitale che quello fisico, dal momento che li abitiamo entrambi ed in maniera sempre più ubiqua.
*Ivana Bartoletti e Lucia Lucchini sono autrici di “Beyond Tools and Procedures: The Role of AI Fairness in Responsible Business Discourse” Applied Ethics in a Digital World
Note
- Benifei, B., Dragos Tudorache, I. (22 Aprile 2022), “DRAFT REPORT on the proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM2021/0206 – C9-0146/2021 – 2021/0106(COD))”, European Parliament, https://www.europarl.europa.eu/doceo/document/CJ40-PR-731563_EN.pdf ↑
- Bartoletti I., Lucchini, L. (2022) “Beyond Tools and Procedures: The Role of AI Fairness in Responsible Business Discourse” Applied Ethics in a Digital World, edited by Ingrid Vasiliu-Feltes and Jane Thomason, IGI Global, pp. 16-23. https://do.org/10.4018/978-1-7998-8467-5.ch002 ↑
- Brevini, B. (6 Luglio 2020), “Black boces, not green: Mythologizing artificial intelligence and omitting the environment” Sage Journals, https://journals.sagepub.com/doi/full/10.1177/2053951720935141 ↑
