A distanza di più di un anno dall’ambizioso progetto di regolamentazione dell’intelligenza artificiale (“AI”) avviato dalla Commissione Europea con la pubblicazione della proposta di AI Act, i gruppi politici del Parlamento europeo hanno ora avanzato innumerevoli proposte di modifica al testo; le migliaia di emendamenti presentati evidenziano la difficoltà di trovare in negoziazione un punto di incontro tra i diversi interessi contrapposti.
Vediamo quali sono i punti critici sollevati.
Artificial Intelligence Act: l’UE regola l’AI ma dimentica di proteggere la mente
Gli emendamenti alla proposta di Regolamento sull’intelligenza artificiale: il contesto
Tra le sei priorità della Commissione Europea per il 2019-2024 figura, come noto, la strategia digitale, che mira, da un lato, a dotare le persone sia fisiche – i consumatori – che giuridiche – soprattutto i fornitori – di competenze inerenti a una nuova generazione di tecnologie, dall’altro a rafforzare la propria sovranità digitale e creare un nuovo quadro normativo incentrato sui dati la tecnologia e le infrastrutture (si pensi al “pacchetto” ancora in fieri formato dalle proposte di “Data Act”, “Data Governance Act” e “Digital Markets Act”).
È proprio in tale contesto politico che la Commissione ha presentato, in data 21 aprile 2021, la Proposta di Regolamento che stabilisce regole armonizzate sull’intelligenza artificiale (in seguito “AI act” o più brevemente “Proposta”) e modifica alcuni atti legislativi dell’Unione. I principali obiettivi perseguiti dal nuovo quadro normativo proposto sull’intelligenza artificiale sono i seguenti:
- assicurare che i sistemi di AI immessi e utilizzati sul mercato dell’Unione siano sicuri e rispettino i valori e la normativa vigente in materia di diritti fondamentali;
- garantire la certezza del diritto per facilitare gli investimenti e l’innovazione nell’intelligenza artificiale;
- migliorare la governance e l’applicazione effettiva della normativa esistente in materia di diritti fondamentali e requisiti di sicurezza applicabili ai sistemi di AI;
- facilitare lo sviluppo di un mercato unico per applicazioni di AI lecite, sicure e affidabili che possa prevenire la frammentazione del mercato stesso.
La Proposta, in linea con le altre regolamentazioni comunitarie del settore digitale, ha un approccio basato sul rischio e propone nuove norme per garantire che i sistemi di AI utilizzati nell’UE siano sicuri, trasparenti, etici, imparziali e sotto il controllo umano. A tale scopo, vengono classificate diverse categorie di rischio, a partire da quello minimo (nella cui categoria rientra la maggioranza dei sistemi AI), che non rientra nell’ambito di applicazione dell’AI Act, fino al rischio inaccettabile (tale, dunque, da costituire una grave minaccia per i cittadini dell’Unione), il cui uso è categoricamente vietato.
Per quanto riguarda le categorie intermedie (rischio limitato o rischio elevato) più alto sarà il rischio calcolato derivante dall’utilizzo di un sistema di AI, maggiori saranno i requisiti obbligatori che i fornitori dovranno rispettare prima di immettere il prodotto sul mercato dell’Unione.
Ma che cosa intende il legislatore europeo con la nozione di Intelligenza Artificiale? Con uno sguardo di insieme al testo attuale della Proposta, si può notare come la stessa proponga un’unica definizione di AI, adeguata alle esigenze future e agli sviluppi della tecnologia, prevedendo, all’art. 3, par. 1, della Proposta che per “intelligenza artificiale” si intenda un “software sviluppato con una o più delle tecniche e degli approcci elencati nell’allegato I, che può, per una determinata serie di obiettivi definiti dall’uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono”.
Come si dirà qui di seguito, tuttavia, il pomo della discordia è rappresentato proprio dalla definizione di intelligenza artificiale, al centro della critica disamina dei gruppi politici del Parlamento Europeo, che nelle scorse settimane hanno proposto una mole ragguardevole di emendamenti (se ne stimano al momento alcune migliaia) al testo della Proposta.
Le modifiche alla definizione di AI
Gli emendamenti proposti preludono a complessi negoziati che dovrebbero iniziare nell’arco di qualche settimana, durante i quali i correlatori Brando Benifei per la commissione per il mercato interno (IMCO) e Dragoș Tudorache per la commissione per le libertà civili (LIBE) cercheranno di raggiungere una maggioranza tramite un testo di compromesso.
L’AI Act entra nel vivo: il report Benifei-Tudorache e le questioni ancora aperte
Tra i temi più controversi la definizione fornita nell’attuale testo della Proposta di “sistema di intelligenza artificiale” che, come anticipato, mira ad essere il più possibile neutrale dal punto di vista tecnologico, attraverso un rinvio all’Allegato I, contenente un elenco dettagliato di approcci e tecniche per lo sviluppo dell’IA che deve essere adattato dalla Commissione in linea con i nuovi sviluppi tecnologici.
La nozione così intesa ha generato preoccupazioni contrapposte: da un lato, infatti, l’ala sinistra del Parlamento Europeo spinge, con la proposta avanzata dal relatore democratico Benifei, verso una definizione di AI ancora più “ampia”, aperta a futuri e sconosciuti sviluppi tecnologici, suggerendo la cancellazione dell’elenco di specifiche tecniche contenuto all’Allegato I; dall’altro, il Partito Popolare Europeo (“EPP”) di centro-destra evidenzia come la predetta nozione definisca in modo troppo ampio e discrezionale che cosa possa essere ricompreso al suo interno.
Per tale ragione, l’EPP suggerisce che per “sistema di intelligenza artificiale” debba intendersi: “a machine-based system that is developed with one or more of the techniques and approaches listed in Annex I and is capable of influencing the environment by producing an output (predictions, recommendations, or decisions) for a given set of objectives. It uses machine and/or human-based data and inputs to (i) perceive real and/or virtual environments; (ii) abstract these perceptions into models through analysis in an automated manner (e.g. with machine learning), or manually; and (iii) use model inference to formulate options for outcomes. AI systems are designed to operate with varying levels of autonomy”.
È evidente, in particolare con riferimento al punto ii), l’obiettivo di ricomprendere chiaramente al centro di tale definizione quei sistemi che applicano il cosiddetto “machine learning”, la cui definizione, ai sensi dell’AI Act, sarebbe fornita dall’emendamento n. 64, per cui: “machine learning means an AI system that gives computers the ability to find patterns in data without being explicitly programmed for a given task”.
Gli altri punti controversi
Come anticipato, la Proposta di AI Act non ha lasciato perplessi i soli relatori del centro-destra (i cui n. 484 emendamenti sono stati già pubblicati dall’eurodeputato Axel Voss): diverse fonti istituzionali hanno, infatti, dichiarato che il sistema di registrazione del Parlamento non è stato in grado di gestire l’eccessivo numero di emendamenti presentati (circa 3mila in totale) ed è al momento noto che i relatori dei Verdi/EFA hanno redatto n. 451 emendamenti congiunti (di cui non è ancora stato però pubblicato il testo ufficiale).
Le stime lasciano intuire che il testo della Proposta non abbia incontrato la soddisfazione dei gruppi parlamentari; e, al di là della controversa definizione di Intelligenza Artificiale, pare (in base a quanto trapelato dai media network europei) che le proposte di modifica si siano soffermate soprattutto sui seguenti temi:
- ambito di applicazione: si mira alla possibilità di includere anche le AI applicate nel Metaverso, le criptovalute basate su blockchain e i “Non Fungible Token” – “NFT” (dal punto di vista materiale) e di applicare l’AI Act anche ai fornitori che non hanno sede all’interno del territorio dell’UE o che non vi operano, al ricorrere di determinate circostanze (dal punto di vista territoriale);
- riconoscimento biometrico: con la richiesta del gruppo dei liberali e dei Verdi di vietare categoricamente le pratiche di AI utilizzate per tale finalità, si vuole ottenere l’inserimento di un divieto assoluto, in modifica dell’art. 52 dell’attuale Proposta (che prevede, al contrario, una serie di condizioni derogatrici del divieto generale);
- i sistemi di AI ad alto rischio: con la proposta, avanzata dall’EPP, l’intenzione è quella di rendere obbligatorio, in capo ai fornitori, un assessment in ordine alla possibilità che dall’uso dei sistemi di AI possa derivare un rischio alto per la salute, la sicurezza e i diritti fondamentali dei cittadini, eliminando la classificazione automatica di tali sistemi inserita all’interno dell’Allegato III della Proposta;
- pubblicità online e “dark patterns”: con emendamento separato presentato dall’eurodeputata Maria-Manuel Leitão-Marques, con il supporto della Tracking Free Ad Coalition, il fine è quello di includere i sistemi di intelligenza artificiale utilizzati per fornire pubblicità online nell’elenco dei sistemi ad alto rischio di cui al punto che precede; mentre il gruppo dei Verdi avrebbe intenzione di precisare che l’obbligo di trasparenza assume un rilievo determinante allo scopo di contrastare gli squilibri di potere negli ambienti digitali e i “dark patterns”.
I contrasti non finiscono qui: ulteriori acredini sono state ravvisate sul piano governativo e procedurale dell’impianto dell’AI Act, con il gruppo dei Verdi che invoca lo “European Data Protection Supervisor” (“EDPS”) come autorità di controllo delle grandi aziende.
Sotto il profilo sanzionatorio, invece, sia i MEPs liberali che quelli conservatori propongono un abbassamento generale delle sanzioni pecuniarie, con l’EPP che auspica l’esclusione delle PMI e l’aggiunta di fattori da considerare in sede di calcolo dell’importo, quali la sussistenza di intento, negligenza ed eventuale condotta collaborativa; al contrario, il centrosinistra, con il relatore Benifei, sta spingendo per un aumento generale delle sanzioni e per rimuovere le dimensioni e la quota di mercato dai criteri che le autorità dovrebbero tenere in considerazione quando infliggono una sanzione.
Conclusioni
In attesa di poter prendere visione completa degli emendamenti proposti dagli altri gruppi parlamentari, il destino dell’AI Act rimane appeso a un filo: se è vero, infatti, che le sue potenzialità restano infinite (e centrali nell’Europa digitale in strettissima correlazione alla strategia per i dati dell’UE e alla data protection), restano, tuttavia, diversi gli elementi di rischio ed i punti oscuri che derivano dalla frammentazione interpretativa e applicativa della Proposta, oltre ai numerosi nodi da sciogliere, con la preoccupazione che un progetto normativo così ambizioso non solo comporti ritardi inaccettabili, ma finisca per arenarsi rovinosamente.
