La Proposta di Regolamento Europeo sull’Intelligenza Artificiale, pubblicata il 21 aprile scorso,[1] è stata accolta come un rassicurante e promettente punto fermo. Ma è opportuno invece collocarla all’interno di un flusso di eventi, documenti, e opinioni che si intrecciano tra di loro e si rimandano l’un l’altro. Solo così possiamo coglierne il senso e porci qualche domanda.
Sulle regole AI l’Europa sceglie approccio “industriale”: luci e ombre
Le critiche preventive di Eric Schmidt alla proposta Ue
All’inizio di marzo i contenuti del Regolamento erano già ben noti agli addetti ai lavori. Eric Schmidt sceglie quel momento per bacchettare l’Europa, richiamandola all’ordine e svalutando previamente il documento. Eric Schmidt non è certo una figura priva di peso. È stato Ceo di Google ed Executive Chair di Alphabet, consulente di Obama e finanziatore della sua campagna presidenziale. Nel 2016, mentre lavorava ancora per Google e Alphabet era già consulente del Dipartimento della Difesa. Ora è Presidente dell’U.S. National Security Commission on Artificial Intelligence (NSCAI), che ha appena pubblicato il suo Final Report, dove si presenta “una strategia nazionale integrata per riorganizzare il governo, riorientare la nazione e radunare i nostri alleati e partner più vicini per difendersi e competere in the coming era of AI-accelerated competition and conflict”.[2]
Lobbista principe dell’industria digitale, ed allo stesso tempo paladino della sicurezza nazionale, Schmidt dichiara in corso una nuova Guerra Fredda: “The U.S.-China AI Competition Is Serious and Complex”.
Intervistato da Politico critica a priori la Proposta di Regolamento che la Commissione Europea si accinge a pubblicare. Sostiene che la tecnologia europea “not big enough” per competere da sola con la Cina. “L’Europa non avrà successo nel cercare la sua terza via“.[3] Schmidt critica a priori l’orientamento europeo verso una “human-centric and privacy-friendly way”. L’Europa, dice, “porrà dei limiti alle applicazioni ad alto rischio”. Questo, commenta il Lobbista Principe, “è in netto contrasto con il percorso di autoregolamentazione scelto dagli Stati Uniti”. La regolamentazione tramite norme di legge danneggia l’industria; siccome bisogna combattere la guerra con la Cina, dobbiamo lasciare mano libera all’industria.
A fine maggio, parlando all’AI Summit di Politico, Schmidt rincara la dose. “The EU’s AI transparency requirements would be very harmful to Europe”. Il Regolamento Europeo parla di trasparenza degli algoritmi: “è solo una proposta, ma se la si adottasse senza modifiche, sarebbe una battuta d’arresto molto grande per l’Europa”. La proposta dell’UE “richiede che il sistema sia in grado di spiegarsi. Ma i sistemi di apprendimento automatico non possono spiegare completamente come prendono le loro decisioni”.[4] Da un punto di vista tecnico non si può dar torto a Schmidt. Possiamo iniziare a chiederci: se le cose stanno così, a cosa si riduce l’Human Centered AI?
Due mosse dell’amministrazione Biden
Intanto, all’inizio di giugno, il Presidente Biden lancia la National Artificial Intelligence Research Resource Task Force.[5]
Con lo scopo di “assicurare la competitività a lungo termine degli Stati Uniti in tutti i campi della scienza e dell’ingegneria”, sono chiamati a far parte della Task Force “the nation’s foremost experts from academia, industry, and government”. A loro è affidato il compito di stabilire “una tabella di marcia per democratizzare l’accesso agli strumenti di ricerca che promuoveranno l’innovazione dell’IA e alimenteranno la prosperità economica”. Si noti in quale contesto appare il concetto di “democrazia”. Non si fa riferimento agli istituti della democrazia rappresentativa: il Parlamento, il Governo in quanto organismo che rappresenta la volontà dei cittadini. A questa democrazia -che è quella affermata nelle Costituzioni che reggono gli Stati di Diritto in cui viviamo- sembra pericolosamente sostituirsi il governo di una élite, al cui cuore stanno gli esperti di quella che è oggi il più potente strumento di governo: l’Intelligenza Artificiale.
La “democrazia” che si ritiene auspicabile, dunque, riguarda la vita interna della comunità scientifica e tecnologica. Il cittadino è escluso. Nulla sa, nulla può né deve sapere di intelligenza artificiale. La politica si ritira. Il potere è in mano agli esperti. A loro compete l’innovazione generatrice di prosperità economica. “America’s economic prosperity hinges on foundational investments in our technological leadership,” spiega infatti Eric Lander, Science Advisor del Presidente Biden e Direttore del White House Office of Science and Technology Policy.
Prosperità per chi, non è detto. Esclusi dal dibattito i cittadini ed i politici di professione, l’azione di contrasto resta affidata a tecnici dotati di un senso di responsabilità personale. Spesso si tratta di donne. “La National AI Research Resource rischia di essere semplicemente un grande sussidio alle Big Tech”, le cui infrastrutture avranno un ruolo ancora più centrale, denuncia Meredith Whittaker,[6] cofondatrice, insieme a Kate Crawford dell’AI Now Institute[7].
Già in un report del 2018 AI Now segnalava che molti sistemi decisionali automatizzati adottati da governi e pubbliche amministrazioni “operano come scatole nere che lavorano al di fuori del controllo” degli enti pubblici stessi.[8] Ci sarebbe motivo per aprire un dibattito pubblico sul rilievo politico e democratico dell’Intelligenza Artificiale.
Ma la narrazione di Schmidt e Lender ha buon gioco a nascondere l’urgenza civile dietro l’urgenza strategica. “Per 75 anni l’America ha guidato il mondo della scienza e della tecnologia”; ma ora il primato è minacciato.
La minaccia di un nuovo primato cinese nel campo dell’Intelligenza Artificiale
La minaccia di un nuovo primato cinese nel campo dell’Intelligenza Artificiale, ed anche l’uso del governo cinese delle tecnologie digitali come mezzo di pesante controllo sociale e repressione civile sono dati di realtà. Ho descritto questo preoccupante scenario nel mio libro Le Cinque Leggi Bronzee dell’Era Digitale. Ma a Schmidt e Lender non sembra importare molto tutto questo. Lontanissimi dai cittadini del loro stesso paese, dimentichi di essere loro stessi cittadini, totalmente identificati nella lobby dell’industria AI, a loro non interessa la democrazia. A loro interessa solo affermare che “oggi il futuro dell’America dipende dalla scienza e dalla tecnologia come mai prima d’ora”.[9]
Le politiche di sicurezza nazionale, gli appetiti delle Big Tech, e gli interessi della comunità tecnico-scientifica, in cerca di nuovi finanziamenti, posti di lavoro, ruoli di potere, si saldano così in una unica strategia. Dove la “democrazia” rischia di essere solo una bandiera da sventolare quando serve e dove serie.
È così che l’11 agosto Joe Biden convoca per il 9 e 10 dicembre The Summit for Democracy.[10] “La democrazia non nasce per caso. Dobbiamo difenderla, lottare per essa, rafforzarla, rinnovarla”.[11] Ma l’affermazione di principio va intesa facendo caso agli attori cui ci si rivolge. Un vertice planetario “for leaders from government, civil society, and the private sector”. Si noti anche qui lo spostamento degli equilibri: non ai cittadini ci si rivolge, ma a membri dell’élite e lobbisti. Sembra dunque scontato che, nel progettare una futura ‘democrazia’, i primi attori da coinvolgere siano le Big Tech, entità extra-statuali più potenti degli Stati stessi.
Il vertice nasconde una domanda imbarazzante: “Biden’s Global Democracy Summit Raises an Awkward Question: Can Ours Endure?” si legge sul New Yorker.[12] Ci chiede il senso di questa chiamata universale, nel momento in cui negli Stati Uniti i tentativi di ripristinare l’efficacia degli istituti democratici appaiono in difficoltà. Il For the People Act, il disegno di legge destinato a restituire peso politico ai cittadini elettori, la cui approvazione all’inizio dell’anno appariva tanto necessaria quanto scontata, è andato incontro ad un iter parlamentare parecchio accidentato.
Le lobby infatti non demordono. A valle della costituzione della Artificial Intelligence Research Resource Task Force, ed in vista del Summit sulla Democrazia, alla voce di Schmidt e Lender si aggiunge quella di Nicolas Chaillan, già Chief Software Officer for the U.S Air Force and Space Force, che opportunamente intervistato dal Financial Times ammonisce: US has already lost AI fight to China. Dobbiamo essere preoccupati, Pechino è sulla strada de dominio globale.[13]
Il Summit di Biden, al di là del formale appello alla democrazia, è infatti, in realtà un appello planetario rivolto ai governi del mondo a schierarsi contro la Cina. La Cina quindi , con la strategia simmetrica tipica della guerra fredda, risponde il 4 dicembre con un Libro Bianco. “Non esiste un modello fisso di democrazia; si manifesta in molte forme. Valutare la miriade di sistemi politici nel mondo rispetto a un unico metro ed esaminare le diverse strutture politiche in bianco e nero sono è di per sé antidemocratico”.[14]
Cosa accade nel frattempo in Europa e nel nostro paese?
Il Regolamento Europeo sull’Intelligenza Artificiale dell’aprile scorso[15] non nasce dal nulla. È frutto di un lungo processo, di cui restano tracce in una fitta rete di documenti. Un corpus nel quale ci si potrebbe perdere, se non fosse che, leggendo documento dopo documento, si inizia a cogliere, nelle reiterate ripetizioni, la costanza invariabile dello schema. Blocchi di testo ritornano pressoché uguali nei testi. Risulta in fondo irrilevante la fonte, la data: la struttura resta la stessa.
GDPR e AI Act, un unico progetto normativo
Cosa notevole, la storia del testo della Proposta di Regolamento sull’Intelligenza Artificiale, e la sua genesi, e il suo contesto, non sono altro che la ripetizione di una precedente storia: la storia del Regolamento Generale sulla Protezione dei Dati (GDPR).[16] Si tratta anzi di un unico progetto normativo, di cui i due Regolamenti sono i frutti.
La struttura dei testi è identica. Si inizia con affermazioni di principio sull’intenzione di affermare un punto di vista europeo, affermazione di valori, di volontà politica e di autonoma strategia sullo scenario globale. Si fa quindi ovviamente appello ai principi democratici ed ai diritti civili. Ma poi subito si passa a trattare l’argomento al quale si attribuisce la priorità: il sostegno all’industria europea. Forse potremmo dire meglio: la legge risponde alle aspettative dei portatori di interessi diretti. Imprese, finanza, accademici, tecnici e professionisti dell’industria digitale. I cittadini restano in secondo piano. La legge non è scritta per loro.
L’esempio più illuminante sta nel Regolamento sulla Protezione dei Dati. Erroneamente leghiamo la legge alla difesa della privacy dei cittadini. Primo scopo della legge è affermare la legittimità dell’uso per scopi industriali dei dati prodotti dai cittadini e riguardanti i cittadini. Solo in subordine alcuni dati “sensibili” sono protetti è considerati indisponibili.
I dati, in effetti, sono la materia prima sulla quale lavora l’Intelligenza Artificiale. Eccoci così al secondo necessario Regolamento. Lo scopo, già evidenziato nei precedenti documenti, è chiaro: “Promuovere l’adozione dell’IA”[17]. “Sfruttare al massimo le opportunità offerte dall’IA”.[18] “Fornire all’industria europea un vantaggio competitivo sulla scena globale oltre a economie di scala che non possono essere conseguite individualmente dai singoli Stati membri”.[19] “Dare impulso alla capacità tecnologica e industriale dell’UE e all’adozione dell’IA in tutti i settori economici”.[20]
Niente di nuovo nel Draft Report del Parlamento Europeo On Artificial Intelligence in a Digital Age, diffuso il 2 novembre.[21] Si riassumono stancamente lavori di commissioni, documenti, regolamenti e lavori preparatori. Non mancano le orgogliose affermazioni: Europe fit for the digital age’ – Roadmap for becoming a global leader. Ma il senso di una crescente urgenza traspare: “la corsa tecnologica globale è diventata per l’UE una lotta per la sopravvivenza; sottolinea che, se l’UE non agirà rapidamente e con coraggio, finirà per diventare una colonia digitale di Cina, Stati Uniti e di altri Stati”. Nessuna linea politica però ne discende. L’implicita conclusione è l’allineamento alla politica statunitense.
Analoga conclusione può essere tratta dall’annuncio, il 17 novembre, dei rettori delle università milanesi Bocconi, Statale e Bicocca, Bicocca e Politecnico. Si uniscono le forze per costituire a Milano un polo di eccellenza per la ricerca e la formazione nell’Intelligenza Artificiale. I quattro Atenei hanno infatti costituito, insieme, una Unit di ELLIS, l’European Laboratory for Learning and Intelligent Systems.
La stessa missione auto-dichiarata dall’ELLIS parla chiaramente: l’Europa non è competitiva, non sta tenendo il passo. I migliori centri di ricerca si trovano negli Stati Uniti, gli investimenti in AI cinesi e statunitensi sono molto maggiori degli investimenti europei. La maggior parte delle aziende che fanno ricerca di punta in questo campo sono controllate dagli Stati Uniti e dalla Cina.
Ed allo stesso tempo: “the distinction between academic research and industrial labs is vanishing”.[22]
Anche la ricerca di base viene ora svolta dall’industria – che nel mentre cerca una rapida commercializzazione dei risultati offre alle ricercatrici e ai ricercatori retribuzioni più alte.
Il 24 novembre, poi, è reso pubblico il Programma Strategico Intelligenza Artificiale 2022-2024 del Governo italiano.[23] Qui in senso di deja vu coglie subito il lettore. Stancamente si torna sui soliti luoghi comuni. Citazioni implicite o esplicite di altri documenti; affermazioni etiche di principio, dietro le quali si nasconde il solito schema: accettazione del sostanziale dominio delle Big Tech; adeguamento alla strategia statunitense; subordinazione della ricerca accademica agli interessi industriali; difesa della lobby a scapito della società civile.
Nel quadro strategico della Coming Era of AI-accelerated competition and conflict niente altro che mosse di retroguardia.
La foglia di fico: se la politica abdica in favore della tecnica
Non esiste ragione per criticare il sostegno, anche normativo, a favore dell’industria digitale europea. Condivisibile è anche l’assunto costantemente ripetuto nei documenti del Consiglio e del Parlamento Europeo: dal successo dell’industria, dipenderà la prosperità di cui godranno i cittadini.
Ma resta una domanda: perché comprimere in una stessa norma il sostegno allo sviluppo tecnologico e l’affermazione dei diritti civili? L’Intelligenza Artificiale comporta minacce, pone inquietanti interrogativi, può essere fonte di lesioni irrimediabili alla democrazia rappresentativa ed ai diritti civili. Perché allora non dedicare specifiche norme ad un regime di garanzie, ad una accurata e vincolante definizione degli spazi di libertà del cittadino.
Uno dei motivi è certamente il seguente. I membri dei parlamenti, i politici di professione, gli statisti e gli uomini di governo considerano sé stessi troppo ignoranti per poter opinare in campi che sembra debbano restare esclusivo appannaggio di tecnici ed esperti. È così che la politica abdica a favore della tecnica. Infatti, l’intero corpus di lavori preparatori, rapporti, studi, progetti di legge, fino alla stesura finale delle norme, è farina del sacco di esperti.
È vanto dell’Europa essersi affidata, nel definire la propria posizione in merito all’Intelligenza Artificiale, ad High Level Expert. Facile reperire i loro nomi. Sono addetti ai lavori, ed è per questo che la produzione normativa relativa all’Intelligenza Artificiale privilegia il punto di vista dell’industria.
Resta la necessità, in una democrazia rappresentativa in cui ancora i cittadini hanno diritto di voto, di blandire gli elettori e tranquillizzare l’opinione pubblica. Ecco allora la trovata. Il cui scopo traspare dal titolo stesso di uno dei documenti sopra citati: creare fiducia nell’intelligenza artificiale antropocentrica.[24] Campagne di comunicazione sono dedicate allo scopo .[25]
Eric Schmidt criticava ad arte le autorità europee per questo insistere nel parlare di human-centric AI, ma sa che si tratta di parole vuote. “Ensuring that AI works for people”. “EU vision on sustainable and trustworthy AI in the world”. “International outreach for human-centric artificial intelligence initiative”. Chiunque parli a nome dell’Europa a proposito di Intelligenza Artificiale, siano tecnici, scienziati o politici, raramente manca di far ricorso a queste argomentazioni. Ma è pura retorica. Non esistono differenze continentali: la comunità professionale, così come le tecnologie, sono globali. Non esistono, in realtà, vincoli normativi significativi, nel Regolamento europeo, a favore degli esseri umani e dei cittadini.
Conclusioni
Scegliendo la via della propaganda, si è persa una occasione. Dare valore, nel processo di studio e di produzione normativa, anziché a esperti, a politici e cittadini mossi da un puro senso di responsabilità civica. Perché nessuno può negare che l’intelligenza artificiale strumento di persuasione occulta, di controllo sociale e gestione del pubblico consenso, arma. Tutte cose sulle quali il cittadino ho diritto di opinare.
Note
[1] Commissione Europea, Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’Intelligenza Artificiale (Legge sull’Intelligenza Artificiale) e Modifica ad alcuni Atti Legislativi dell’Unione, {SEC(2021) 167 final} – {SWD(2021) 84 final} – {SWD(2021) 85 final} Bruxelles, 21 aprile 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0006.02/DOC_1&format=PDF
[2] National Security Commission on Artificial Intelligence, Final Report, March 1 2021.https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf
[3] Melissa Heikkilä, “Ex-Google chief: European tech ‘not big enough’ to compete with China alone. Eric Schmidt is pushing for closer transatlantic collaboration on artificial intelligence to counter Beijing”, Politico, March 3, 2021. https://www.politico.eu/article/ex-google-chief-eric-schmidt-european-tech-not-big-enough-to-compete-with-china-alone/
[4] Pieter Haeck, “Ex-Google boss slams transparency rules in Europe’s AI bill”, Politico, May 31, 2021. https://www.politico.eu/article/ex-google-boss-eu-risks-setback-by-demanding-transparent-ai/
[5] The Biden Administration Launches the National Artificial Intelligence Research Resource Task Force, June 10, 2021. https://www.whitehouse.gov/ostp/news-updates/2021/06/10/the-biden-administration-launches-the-national-artificial-intelligence-research-resource-task-force/
[6] Dave Nyczepir “Researchers argue National AI Research Resource will entrench Big Tech”, Fedscoop, Oct 15, 2021. https://www.fedscoop.com/research-groups-nairr-big-tech/
[7] https://ainowinstitute.org/
[8] Dillon Reisman, Jason Schultz, Kate Crawford, Meredith Whittaker, Algorithmic Impact Assessments: A Practical Framework For Public Agency Accountability, AI Now, April 2018. https://ainowinstitute.org/aiareport2018.pdf.
[9] Eric Lander, A Letter from Eric Lander upon starting as Director of the Office of Science and Technology Policy, June 02, 2021. https://www.whitehouse.gov/ostp/news-updates/2021/06/02/hello-world/
[10] U.S. Department of State, The Summit for Democracy, https://www.state.gov/summit-for-democracy/
[11] The White House, President Biden to Convene Leaders’ Summit for Democracy, August 11, 2021. https://www.whitehouse.gov/briefing-room/statements-releases/2021/08/11/president-biden-to-convene-leaders-summit-for-democracy/
[12] Sue Halpern, “Biden’s Global Democracy Summit Raises an Awkward Question: Can Ours Endure?”, New Yorker, November 30, 2021. https://www.newyorker.com/news/daily-comment/bidens-global-democracy-summit-raises-an-awkward-question-can-ours-endure
[13] Katrina Manson, us has already lost ai fight to china, says ex-pentagon software chief, financial times, October 10 2021. https://www.ft.com/content/f939db9a-40af-4bd1-b67d-10492535f8e0
[14] “China Focus: China issues white paper on its democracy”, XinhuaNet, http://www.news.cn/english/2021-12/04/c_1310351293.htm
[15] Commissione Europea, Proposta di Regolamento del Parlamento Europeo e del Consiglio
che stabilisce regole armonizzate sull’Intelligenza Artificiale (Legge sull’Intelligenza Artificiale) e Modifica ad alcuni Atti Legislativi dell’Unione, {SEC(2021) 167 final} – {SWD(2021) 84 final} – {SWD(2021) 85 final} Bruxelles, 21 aprile 2021. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0006.02/DOC_1&format=PDF
[16] Regolamento del Parlamento Europeo e del Consiglio relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati (Ue) 2016/679, 27 aprile 2016. https://www.garanteprivacy.it/documents/10160/0/Regolamento+UE+2016+679.+Arricchito+con+riferimenti+ai+Considerando+Aggiornato+alle+rettifiche+pubblicate+sulla+Gazzetta+Ufficiale++d%27Unione+europea+127+del+23+maggio+2018.pdf/1bd9bde0-d074-4ca8-b37d-82a3478fd5d3?version=1.9
[17] Commissione Europea, Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’Intelligenza Artificiale. Relazione, 1.1. https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0006.02/DOC_1&format=PDF
[18] Commissione Europea: Comunicazione della commissione al Parlamento Europeo, al Consiglio, al Comitato Economico e Sociale Europeo e al Comitato delle Regioni, Creare fiducia nell’intelligenza artificiale antropocentrica, 8 aprile 2019, p. 2.
[19] Commissione Europea, Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’Intelligenza Artificiale, 1.5. Motivazione della proposta/iniziativa
[20] Commissione Europea: Comunicazione della Commissione al Parlamento Europeo, al Consiglio, al Comitato Economico e Sociale Europeo e al Comitato delle Regioni, Creare fiducia nell’intelligenza artificiale antropocentrica, 8 aprile 2019, p. 1.
[21] European Parliament 2019-2024: Special Committee on Artificial Intelligence in a Digital Age, Draft Report on Atificial Intelligence in a Digital Age (2020/2266(INI)), 2 novembre 2021.
[22] ELLIS Society: Our Mission. https://ellis.eu/
[23] Governo Italiano, Programma Strategico Intelligenza Artificiale 2022-2024, 24 novembre 2021. https://assets.innovazione.gov.it/1637777289-programma-strategico-iaweb.pdf
[24] Commissione Europea: Comunicazione della commissione al Parlamento Europeo, al Consiglio, al Comitato Economico e Sociale Europeo e al Comitato delle Regioni, Creare fiducia nell’intelligenza artificiale antropocentrica, 8 aprile 2019.
[25] International Outreach for Human-Centric Artificial Intelligence Initiative. https://digital-strategy.ec.europa.eu/en/policies/international-outreach-ai
