La lettera aperta

Norma UE su AI, “appello urgente per una solida valutazione d’impatto sui diritti fondamentali”



Indirizzo copiato

Il testo della lettera, su iniziativa lanciata da Gianclaudio Malgieri (Leiden University), Alessandro Mantelero (Politecnico di Torino) e Vincenzo Tiani (Brussels Privacy Hub), con 100 firmatari: “Appello urgente per l’approvazione di una solida valutazione d’impatto sui diritti fondamentali nella legge UE sull’intelligenza artificiale”

Pubblicato il 12 set 2023

Gianclaudio Malgieri

Professore Associato di Diritto e Tecnologia alla EDHEC Business School di Lille e alla Vrije Universiteit Brussel

Alessandro Mantelero

Professore associato di Diritto Privato nel Politecnico di Torino, Cattedra Jean Monnet in Mediterranean Digital Societies and Law

Vincenzo Tiani

Policy & Digital Communication



AI appello urgente

Ai rappresentanti del Consiglio dell’Unione europea, della Commissione europea e del Parlamento europeo, partecipanti al trilogo per la legge sull’intelligenza artificiale,

Noi, il sottoscritto gruppo di professori universitari, membri della comunità accademica, in collaborazione con società civile e altre istituzioni, vorremmo esprimere la nostra più profonda preoccupazione riguardo alle revisioni proposte per la legge UE sull’intelligenza artificiale.

Le richieste all’UE

In particolare, vi esortiamo ad adottare e rafforzare la disposizione contenuta nella versione del Parlamento europeo della legge sull’intelligenza artificiale in merito a una valutazione obbligatoria dell’impatto sui diritti fondamentali (FRIA, fundamental rights impact assessment)per le istituzioni pubbliche e private che utilizzano tecnologie di intelligenza artificiale (AI).

Una valutazione d’impatto sui diritti fondamentali solida e corretta dovrebbe basarsi sui seguenti quattro pilastri: 1) parametri chiari sulla valutazione dell’impatto dell’IA sui diritti fondamentali; 2) trasparenza sui risultati della valutazione d’impatto attraverso sintesi pubbliche e significative; 3) partecipazione degli utenti finali interessati, soprattutto se in posizione di vulnerabilità; 4) coinvolgimento delle autorità pubbliche nel processo di valutazione d’impatto e/o nei meccanismi di audit.

Inoltre, riteniamo che il FRIA debba essere coordinato con gli altri meccanismi di valutazione d’impatto già presenti nel progetto di legge sull’AI e in altri atti legislativi dell’UE. Le autorità di vigilanza nazionali indipendenti potrebbero attuare i principi del FRIA attraverso un quadro normativo chiaro e coerente, che permetta di comprenderne facilmente le procedure di adeguamento e prevederne gli effetti in caso di violazione. Ciò contribuirebbe a ridurre i costi e i tempi di adeguamento per le aziende che impiegano l’IA.

In qualità di esperti in varie discipline, siamo testimoni dei profondi rischi che i sistemi di IA possono comportare per i diritti fondamentali e della necessità di azioni ex-ante significative per mitigare tali impatti. L’inclusione di un solido meccanismo FRIA all’interno della legge europea sull’intelligenza artificiale è una salvaguardia fondamentale contro i potenziali impatti negativi sui diritti fondamentali degli utenti finali, in particolare di coloro che si trovano in posizioni vulnerabili. Questa valutazione completa consente di esaminare sistematicamente l’impatto dei sistemi di IA sui diritti fondamentali, garantendo responsabilità, trasparenza e un uso etico delle tecnologie di IA.

Riteniamo che il FRIA debba riguardare non solo le istituzioni pubbliche, ma anche le entità private che utilizzano l’IA. Solo in questo modo possiamo garantire che tutte le organizzazioni, indipendentemente dalla loro natura, siano ritenute responsabili dei potenziali rischi e dell’impatto che i loro sistemi di IA possono avere sugli individui e sulla società nel suo complesso, soprattutto considerando l’enorme impatto che gli sviluppatori e le imprese che usano l’IA possono avere sui diritti fondamentali degli individui. Questo approccio stabilisce condizioni di parità, previene indebite concentrazioni di potere e favorisce una diffusione responsabile dell’IA in tutti i settori.

Inoltre, esortiamo le istituzioni europee a garantire che il FRIA sia trasparente, partecipativo e multidisciplinare. Il coinvolgimento di diverse parti interessate, tra cui organizzazioni della società civile, esperti, università e comunità emarginate, arricchirà il processo di valutazione e rafforzerà la legittimità del quadro normativo sull’IA.

Infine, nell’affrontare la complessità dei rischi relativi ai diritti fondamentali, la valutazione del rischio dovrebbe essere uno strumento integrato con una distribuzione proporzionata degli oneri basata sul rischio effettivo introdotto nella società e sul potere dei singoli attori di gestire tale rischio, come generalmente accettato nella teoria giuridica del rischio. I fornitori di IA dovrebbero quindi eseguire la valutazione generale di un prodotto/servizio di IA considerando tutti i suoi potenziali utilizzi, ma le entità che utilizzano tale prodotto/servizio in un determinato contesto e per scopi specifici dovrebbero integrare questa valutazione iniziale con l’analisi dell’impatto contestuale sui diritti fondamentali.

A questo proposito, l’obbligo di effettuare una valutazione d’impatto sarebbe in linea e integrerebbe altri obblighi di valutazione d’impatto più limitati e specifici che gli enti pubblici e privati dell’UE sono già chiamati a fare in base ad altre normative (ad esempio, il GDPR e il Digital Services Act), adottando un focus sulla varietà di impatti potenziali sui diritti fondamentali che i sistemi di IA ad alto rischio possono avere. Da questo punto di vista, la versione del Parlamento europeo della valutazione d’impatto sui diritti fondamentali dell’AI Act si mostra coerente nel caso in cui un ente debba eseguire sia una valutazione d’impatto privacy (DPIA) che una FRIA.

In conclusione, riteniamo che l’inclusione di una solida valutazione d’impatto sui diritti fondamentali all’interno dell’AI Act e la sua armonizzazione nell’ambito del più ampio approccio basato sul rischio siano fondamentali per sostenere l’impegno dell’Unione Europea nei confronti dei diritti umani e dei suoi valori. Nei prossimi giorni pubblicheremo una relazione più dettagliata che illustrerà il nostro punto di vista sulle migliori pratiche per regolamentare le valutazioni d’impatto sui diritti fondamentali.

Vi ringraziamo per l’attenzione che vorrete dedicare a questa questione cruciale.

Bruxelles, 12 settembre 2023

I firmatari della lettera

Gianclaudio Malgieri, Associate Professor of Law at Leiden University and Co-director of the Brussels Privacy Hub, The Netherlands

Alessandro Mantelero, Associate Professor of Law at Politecnico di Torino, Italy

Mireille Hildebrandt, Full Professor of Law at Vrije Universiteit Brussel, Belgium

Christopher Kuner, Affiliate Professor of Law at the University of Copenhagen, Denmark

Paul De Hert, Full Professor at Vrije Universiteit Brussel, Belgium, and Tilburg University, The Netherlands

Bart Schermer, Full Professor of Law at Leiden University, The Netherlands

Oreste Pollicino, Full Professor of Law at Bocconi University, Italy

Eduard Fosch-Villaronga, Associate Professor at Leiden University,T he Netherlands

Eleni Kosta, Full Professor of Law at Tilburg University, The Netherlands

Giorgio Resta, Full Professor of Law at Roma Tre University, Italy

Bart Custers, Full Professor of Law and Data Science, Leiden University, The Netherlands

Alain Strowel, Full Professor of IP and IT Law, UCLouvain and U Saint-Louis, Belgium

Vanessa Mak, Full Professor of Civil Law at Leiden University, The Netherlands

Margot E. Kaminski, Full Professor of Law, University of Colorado Law School, Boulder, CO, USA and Director, Privacy Initiative at the Silicon Flatirons Center

Vincenzo Tiani, Brussels Privacy Hub, Vrije Universiteit Brussel, Belgium

Frederik Zuiderveen Borgesius, Full Professor of ICT and Law at iHub, Radboud University, Nijmegen, The Netherlands

Simone van der Hof, Full Professor of Law and Digital Technologies, Leiden University, The Netherlands

Lee A. Bygrave, Full Professor of Law, Director of the Norwegian Research Center for Computers and Law, University of Oslo, Norway; Honorary Professor, College of Law, Australian National University

Andrew Selbst, Assistant Professor of Law at the University of California Los Angeles, USA

Dag Wiese Schartum, Full Professor of Law, Norwegian Research Center for Computers and Law, University of Oslo, Norway

Tobias Mahler, Full Professor of Law, Norwegian Research Center for Computers and Law, University of Oslo, Norway

Sebastian Felix Schwemer, Associate Professor, Centre for Information and Innovation Law (CIIR), University of Copenhagen, Denmark

Björn Fasterling, Professor of Law, EDHEC Business School, Augmented Law Institute, France

Christophe Roquilly, Full Professor of Law, Director of the EDHEC Augmented Law Institute, Honorary Dean of Faculty, EDHEC Business School, France

Alina Wernick, Principal Investigator, Faculty of Law, affiliated researcher, The Legal Tech Lab, the University of Helsinki, Finland

Giovanni De Gregorio, PLMJ Chair in Law and Technology, Universidade Catolica Portuguesa, Lisbon, Portugal

Julián Valero Torrijos, Full Professor of Administrative Law, Director of the Chair in Digital Identity & Rights, University of Murcia, Spain

Miquel Peguera, Full Professor of Law, at Universitat Oberta de Catalunya, Spain

Massimo Durante, Full Professor of Philosophy of Law and Legal Informatics, Department of Law, University of Turin, Italy

Mauro Grondona, Full Professor of Private Law, University of Genoa, Italy

Nora Ni Loideain, Director of Information Law & Policy Centre, Assistant Professor in Law, Institute of Advanced Legal Studies, University of London, UK

Lilian Mitrou, Full Professor – University of the Aegean-Greece – President of I Institute for Privacy Law, Data Protection and Technology (IPL -European Public Law Organisation), Greece

Bethany Shiner, Senior Lecturer in Law, Middlesex University London, UK

Sophie Stalla-Bourdillon, Professor in Law, Co-director of the Brussels Privacy Hub, VUB, Belgium

Martin Husovec, Associate Professor of Law, London School of Economics and Political Science (LSE), UK

Giovanni Sartor, Full Professor in legal theory and legal informatics, Department of Law, University of Bologna, European University Institute of Florence, Italy

Giusella Finocchiaro, Full Professor of Private Law and Internet Law, University of Bologna, Italy

Marcello Ienca, Professor of Ethics of Artificial Intelligence and Neuroscience; Deputy Director of the Institute for Ethics and History

of Medicine; Technical University of Munich, Germany. Senior Scientist at College of Humanities, Swiss Federal Institute of Technology in Lausanne, EPFL, Switzerland

Maria Helen Murphy, Associate Professor, Maynooth University School of Law and Criminology

Patrick O’Callaghan, Senior Lecturer in Law (Associate Professor), University College Cork, Ireland

Perry Keller, Reader (associate professor) in Media and Information law, King’s College London; UK

Thorsten Strufe, Full professor of Privacy and IT security, Karlsruhe Institute of Technology and CeTI/TU Dresden, Germany

Stefanos Gritzalis, Full Professor of Information and Communication Systems Security, Director MSc Programme in Law and ICT, Department of Digital Systems, University of Piraeus, Greece

Luca Longo, Assistant Professor, Technological University Dublin, Dublin, Ireland

Charles Raab, Professor Emeritus, University of Edinburgh, UK

Claude Castelluccia, Research Director, Inria, France

Martin Scheinin, British Academy Global Professor, Bonavero Institute of Human Rights, University of Oxford, UK

Franziska Boehm, Full Professor of Law, Karlsruhe Institute of Technology, Germany

Darius Whelan, Senior Lecturer, School of Law, University College Cork, Ireland

Sarah Spiekermann, Full Professor at Vienna University of Economics & Business, Austria

Marc Langheinrich, Full Professor for Computer Science, Università della Svizzera italiana, Switzerland

Edoardo Celeste, Assistant Professor in Law, Technology and Innovation and Chair of the Erasmus Mundus Master in Law, Data and AI, Dublin City University, Ireland

Sokratis Katsikas, Professor of Information and Cyber Security, Department of Information Security and Communication Technology, Norwegian University of Science and Technology, Norway & Director, Norwegian Centre for Cybersecurity of Critical Sectors, Norway & Professor Emeritus, University of Piraeus, Greece

Bart Preneel, Full Professor in Cybersecurity and Privacy, Department Electrical Engineering-ESAT, KU Leuven, Belgium

Henning Lahmnann, Assistant Professor of Law, eLaw Center for Law and Digital Technologies, Leiden, The Netherlands

Spyros Kokolakis, Professor, Department of Information & Communication Systems Engineering, University of the Aegean, Greece

Costas Lambrinoudakis, Professor, Department of Digital Systems, University of Piraeus, Greece

Maria Belén Andreu Martínez, Full Professor of Civil Law, University of Murcia, Spain

Franco Pizzetti, Professor Emeritus of Constitutional Law University of Turin, Italy

Miguel Poiares Maduro, VdA Chair in Digital Governance, Universidade Católica Portuguesa, Portugal

Philippe Jougleux, Associate Professor, School of Law, European University Cyprus, Cyprus

Ugo Pagallo, Full Professor of Law, University of Turin, Italy

Carissa Véliz, Associate Professor at the Institute for Ethics in AI, University of Oxford, UK

Lorenzo Cotino, Professor of Constitutional Law, University of Valencia, Spain, founder of www.derechotics.es

Orla Lynskey, Associate Professor LSE Law School and Visiting Professor College of Europe (Bruges), UK

Pere Simón Castellano, Full Professor of Constitutional Law, Universidad Internacional de la Rioja (UNIR – La Universidad en Internet), Spain

Jorge Castellanos Claramunt, Professor of Constitutional Law, University of Valencia, Spain

Adrián Palma Ortigosa, Assistant Professor of Administrative Law, University of Valencia, Spain

Professor Chris Marsden, Professor of Artificial Intelligence, Technology and the Law, Monash University, Australia

Maria Bottis, Professor of Information Law, Ionian University, Greece

Silvia De Conca, Assistant Professor of Law, Vrije Universiteit Amsterdam, The Netherlands

Jonathan Cave, Associate Professor of Economics, University of Warwick and Fellow, Alan Turing Institute, UK

Els J. Kindt, Founder of Biometric Law Lab, CiTiP, KU Leuven, Belgium, Associate professor, Universiteit Leiden, The Netherlands

Eoin O’Dell, Fellow and Associate Professor of Law, Trinity College Dublin, Ireland

Alberto De Franceschi, Full Professor of Private Law, Ferrara University, Italy

Camilla Crea, Associate Professor of Private Law, Sannio University, Italy

Róisín Á Costello, Assistant Professor of Law, Trinity College Dublin, Ireland

Ronald Leenes, Full Professor of Regulation by Technology, Tilburg Institute for Law, Technology, and Society, Tilburg University, the Netherlands

Linnet Taylor, Full Professor of International Data Governance, Tilburg Institute for Law, Technology, and Society, Tilburg University, the Netherlands

Mirko Tobias Schäfer, Associate Professor, Department of Information & Computing Sciences, Science Lead at Data School, Utrecht University, the Netherlands

Phoebe Li, Reader (Senior Associate Professor) in Law and Technology, School of Law, Politics, and Sociology, University of Sussex, UK

Vasiliki Diamantopoulou, Assistant Professor, University of the Aegean, Substitute Member of the Board, Hellenic Authority for Communication Security and Privacy, Greece

Nadya Purtova, Full Professor of Law, Innovation, and Technology, Utrecht University, the Netherlands

Albert Meijer, Full professor of Public Innovation, School of Governance, Utrecht University, Netherlands

Cristiana Santos, Assistant Professor of Law and Technology, School of Law, Utrecht University, The Netherlands

Albert Ali Salah, Full Professor of Social and Affective Computing, Utrecht University, The Netherlands

Jiahong Chen, Lecturer (Assistant Professor) in Law, University of Sheffield, UK

Aline Franzke, International Centre for Ethics in Science and Humanities (IZEW) University of Tübingen, Germany

Carlos Castillo, ICREA Research Professor at Universitat Pompeu Fabra, Barcelona, Spain

Salvatore Ruggieri, Full Professor of Computer Science, University of Pisa, Italy

Karin van Es, Associate Professor Media and Culture Studies, Humanities Lead at Data School, Utrecht University, the Netherlands


Domenico Rosani, Assistant Professor of Law, University of Utrecht, The Netherlands

George Christou, Professor of European Politics and Security, University of Warwick, UK

Anu Masso, Associate professor in big data in social sciences, Ragnar Nurkse Department of Innovation and Governance, Tallinn University of Technology, Estonia


Raphaële Xenidis, Assistant Professor in European Law, Sciences Po, France

Stephan Grimmelikhuijsen, Associate Professor in Public Management, Utrecht University School of Governance, Utrecht University, The Netherlands


Shoshana Zuboff, Charles Edward Wilson Professor Emeritus, Harvard Business School, author The Age of Surveillance Capitalism, US

Francien Dechesne, Associate Professor of Ethics and Digital Technologies, eLaw Center for Law and Digital Technologies, Leiden University, The Netherlands

Marc Rotenberg, Adjunct Professor Georgetown University, Executive Director, Center for AI and Digital Policy, United States

Merve Hickok, Lecturer in AI Ethics, Michigan University, President, Center for AI and Digital Policy, United States

Janneke Gerards, Full Professor of Fundamental Rights Law, Utrecht University, The Netherlands


Giovanni Comandè, Full Professor of Comparative Law, Scuola Superiore SAnt’Anna, Pisa, Italy


José Luis Piñar Mañas, Full Professor of Administrative Law, CEU San Pablo University, Madrid, Spain


Edoardo Raffiotta, Associate Professor of Constitutional Law, University of Milan Biococca, Milan, Italy

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Video
Analisi
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 3