Come saranno le indagini di polizia in Europa con l’intelligenza artificiale?
Possiamo dirlo ora che si va spediti verso la prima legge sull’intelligenza artificiale europea: è stata approvata qualche giorno fa all’unanimità dal Consiglio Europeo; il testo ultimo dell’AI Act dovrà essere vagliato definitivamente alla fine di aprile di quest’anno dal Parlamento europeo e poi sarà pubblicato in Gazzetta ufficiale, ma secondo dichiarazioni dei legislatori Ue si può considerare ormai definitivo.
Cosa potrà fare la polizia alla luce dell’AI Act
Tre sono i tipi di utilizzo dell’intelligenza artificiale per la sorveglianza e le indagini di polizia evidenziati dall’AI Act:
- quello vietato in modo assoluto perché estremo e il divieto riguarda non solo l’utilizzo, ma anche la produzione e la vendita di questo sistema: la schedatura di massa;
- quello permesso il più delle volte, con alcuni limiti e garanzie per i diritti fondamentali, ad esempio l’uso per l’individuazione di criminali nelle registrazioni di videocamere di sicurezza, in differita rispetto ai fatti, sempre nel rispetto dei diritti fondamentali;
- l’identificazione biometrica in tempo reale nei luoghi pubblici, che è quello più critico perché porta a seguire e sorvegliare l’individuo, pratica proibita, ma consentita in casi eccezionali in Europa.
La sorveglianza proibita
I sistemi di intelligenza artificiale sono proibiti quando “categorizzano singole persone fisiche sulla base dei loro dati biometrici dedurne la razza, le opinioni politiche, l’appartenenza sindacale, le convinzioni religiose o filosofiche, la vita sessuale o l’orientamento sessuale”, a esclusione dei sistemi di dati biometrici che servono nell’ambito dell’applicazione della legge. Il divieto è esteso anche ai sistemi di social scoring “per la valutazione o la classificazione di persone fisiche o di gruppi di esse per un certo periodo di tempo sulla base del loro comportamento sociale o di dati personali noti, dedotti o previsti”.
Altri sistemi vietati sono quelli di polizia predittiva, che sfrutta gli algoritmi per prevedere le probabilità con cui può essere commesso un reato e tutte le informazioni ad esso legato. IL parlamentare Ue Brando Benifei, in merito a questo punto, ha dichiarato che “L’intelligenza artificiale può contribuire a migliorare la ricerca sul crimine in generale, ma siamo contrari all’idea che possa indovinare chi singolarmente commetterà un crimine: è contro il principio della presunzione di innocenza e dello stato di diritto”.
Infatti, se da una parte, la nuova legge permetterà alle forze dell’ordine e agli Stati di usare l’intelligenza artificiale in ambito sicurezza, dall’altra va arginato il rischio di sfociare in una sorveglianza di massa. Proibiti anche i sistemi AI che svelano le emozioni delle persone sul posto di lavoro o nelle istituzioni scolastiche, esclusi i casi in cui ci siano motivi medici o di sicurezza, e quelli sul modello Clearview “che creano o ampliano banche dati di riconoscimento facciale attraverso lo scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso”.
La sorveglianza via IA in tempo reale
In merito all’identificazione biometrica a distanza in spazi pubblici, nel caso in cui avviene in tempo reale, l’uso è consentito solo in alcuni casi specifici, ossia se si è alla ricerca di vittime di rapimento, tratta di esseri umani o sfruttamento sessuale di esseri umani e persone scomparse, per prevenire una minaccia reale e attuale o reale e prevedibile di un attacco terroristico, per localizzare e individuare un sospettato e consentire il proseguimento di un’indagine penale, l’esecuzione di un’azione penale o di una sanzione penale per reati gravi tra cui omicidio, rapina a mano armata, stupro, droga, traffico di armi.
In ogni caso, deve essere un’autorità giudiziaria o un’autorità amministrativa indipendente ad autorizzare l’identificazione in real time, autorizzazione che può arrivare anche 24 ore dopo, ma non oltre, in situazioni di urgenza. In caso di rifiuto, l’utilizzo del sistema AI deve essere interrotto all’istante e il materiale e tutte le informazioni raccolte devono essere eliminate. Tra gli obblighi degli utilizzatori di sistemi AI, anche la notifica al Garante Privacy e la registrazione degli stessi su una banca dati pubblica.
Riconoscimento facciale in differita
Nel caso del sistema biometrico usato non in tempo reale, “nell’ambito di un’indagine per la ricerca mirata di una persona condannata o sospettata di aver commesso un reato, l’utilizzatore di un sistema di intelligenza artificiale per l’identificazione biometrica a distanza richiede l’autorizzazione, prima o senza indebito ritardo e non oltre 48 ore, da parte di un’autorità giudiziaria o di un’autorità amministrativa la cui decisione è vincolante e soggetta a controllo giurisdizionale, per l’uso del sistema, tranne quando il sistema è utilizzato per l’identificazione iniziale di un potenziale sospetto sulla base di fatti oggettivi e verificabili direttamente collegati al reato”.
Oltre al fatto che l’utilizzo del sistema deve sempre essere limitato al fine dell’indagine per quel reato specifico, le autorità non devono prendere decisioni che producano effetti giuridici negativi sul sospettato solo basandosi sui dati raccolti attraverso il sistema AI e deve essere tutto documentato nel relativo fascicolo delle forze dell’ordine e reso disponibile all’autorità di vigilanza del mercato e all’autorità nazionale per la protezione dei dati su richiesta, a esclusione della divulgazione di dati operativi sensibili relativi all’applicazione della legge.
Tempi di attuazione
Ai Act stabilisce che le regole per la biometria non in tempo reale, le regole entreranno in vigore 36 mesi dopo l’uscita del regolamento in Gazzetta Ufficiale, quindi tra il 2026 e il 2027. È la tempistica più lunga di attuazione. Le regole per le pratiche proibite scatteranno però già dopo sei mesi.
