Cosa sono e come vengono applicate in Italia la polizia e la giustizia predittive? I sistemi di processo decisionale automatizzato stanno assumendo sempre più importanza nella società, così come nei settori della polizia e della giustizia penale. Il punto nell’ultima edizione del report “Automating Society” dell’organizzazione non profit AlgorithmWatch.
Cosa è la polizia predittiva e quando viene applicata in Italia
I sistemi di polizia predittiva sono sistemi che utilizzano dati investigativi relativi a reati già commessi. Da questi dati elaborati, gli algoritmi dei sistemi di polizia predittiva “prevedono“, cioè individuano prima, il tempo ed il luogo in cui saranno commessi determinati reati oppure chi li commetterà, attraverso il richiamo ai “precedenti”.
Una prima applicazione in Italia della polizia predittiva è stato il sistema KeyCrime a Milano. I dati raccolti hanno dimostrato una diminuzione di alcuni reati che può essere attribuita, almeno in parte, all’utilizzo del sistema. Un sistema che tuttavia non è un mero algoritmo di elaborazione statistica ma è stato progettato in modo da individuare anche i tratti psicologici del potenziale autore del reato, che lo spingeranno a commetterlo in un determinato tempo e luogo.[1]
Video: cosa è il sistema KeyCrime – Forum PA
Di recente, è stato implementato in diverse città italiane il sistema algoritmico XLAW, al quale viene attribuito un tasso di accuratezza che va dal 87 al 94%. Secondo il suo creatore, Elia Lombardo, XLAW è “una soluzione probabilistica e dotata di algoritmi di machine learning, per scovare tendenze e pattern negli episodi criminali”, in grado quindi di fornire dettagli sul potenziale sospetto di un reato e che permetterebbe alle forze dell’ordine di essere presenti sulla scena del crimine prima che esso avvenga.[2]
Emergono però dubbi per quanto riguarda l’esattezza dei risultati prodotti da questi sistemi e del loro impatto nella lotta al crimine, così come sul rischio di discriminazione che riguarda l’utilizzo degli algoritmi. Negli Stati Uniti, studi hanno dimostrato che i sistemi di polizia predittiva alimentati principalmente da dati storici sulle denunce e gli arresti producevano risultati discriminatori, perché portavano a prevedere “il comportamento delle vittime e della polizia piuttosto che dei criminali”.[3]
Altre criticità infine riguardano la protezione dei dati. La direttiva (UE) 2016/680 che riguarda il trattamento dei dati personali da parte delle autorità penali vieta, infatti, che una decisione sia basata unicamente su un trattamento automatizzato “salvo che sia autorizzata dal diritto dell’Unione o dello Stato membro cui è soggetto il titolare del trattamento e che preveda garanzie adeguate per i diritti e le libertà dell’interessato, almeno il diritto di ottenere l’intervento umano da parte del titolare del trattamento”.[4]
Cos’è la giustizia predittiva e come viene applicata
Gli algoritmi non sono entrati a far parte solo delle forze dell’ordine ma anche delle aule giudiziarie. Così, la Corte d’appello di Brescia usa da più di un anno ormai un sistema decisionale il cui obiettivo è mettere a disposizione una banca dati ragionata e trasparente, da cui possano emergere orientamenti giurisprudenziali per adottare le opportune decisioni. Il sistema è volto altresì a favorire la circolarità della giurisprudenza di merito tra primo e secondo grado e mettere in evidenza il tempo medio della decisione di una causa in una materia specifica.[5]
Un altro progetto chiamato “giurisprudenza predittiva” sviluppato dalla Scuola Superiore Sant’Anna di Pisa è stato messo in atto al Tribunale di Genova. Questo progetto “mira ad analizzare i giudizi, e i relativi documenti processuali, secondo i criteri e le metodologie sviluppate nell’Observatory on Personal Injuries, applicabili ad aree di contenzioso diverse da quelle riguardanti danni non-monetari. Lo stesso materiale viene anche analizzato tramite tecniche di machine learning per sviluppare sia strumenti per l’annotazione e l’estrazione automatica di informazioni da testi di legge sia algoritmi per l’analisi e la predizione”.[6]
Tale algoritmo mira a ricreare e mimare i ragionamenti legali alla base dell’adozione di certe misure nelle sentenze, così da rendere prevedibili ulteriori decisioni future sulla stessa materia con l’obiettivo, simile a KeyCrime, di evidenziare la ratio dietro ad ogni decisione.
Inoltre, notano i progettatori, “l’algoritmo può contribuire all’individuazione di criteri per dispensare compensazioni per perdite non monetarie che vadano oltre le interpretazioni correnti, e tentino di uniformare il trattamento di questa forma altamente soggettiva di danni. All’interno di questa fondamentale analisi, l’algoritmo potrebbe essere meglio addestrato a spiegare le perdite non monetarie nei casi di esaurimento, i cui confini stanno al momento venendo ancora discussi sia dalla prospettiva clinica che da quella legale”.[7]
Tuttavia, nemmeno il più sofisticato sistema di intelligenza artificiale può spingersi oltre il principio di rispetto della dignità umana volto a garantire i diritti fondamentali delle persone e non potrà pertanto mai esautorare il giudice della sua funzione. Bensì rappresenta uno strumento importante volto ad assistere ed affiancare il giudice nello svolgimento delle sue attività.
Polizia e giustizia predittive: strumenti di assistenza che non possono sostituire le persone
Sistemi di processo decisionale automatizzato vengono sempre più utilizzati nel mondo della polizia e della giustizia per affiancare sia le forze dell’ordine che i giudici: rappresentano una indubbia evoluzione e possono portare ad una sempre maggiore efficienza dei sistemi. Allo stesso tempo, però, esistono dubbi per quanto riguarda il rischio discriminazione inerente all’uso degli algoritmi e relativo alla protezione dei dati degli interessati – ovvero i sospetti. Così, l’utilizzo di questi algoritmi predittivi deve rimanere uno strumento di assistenza dei diversi attori, ma non potrà mai sostituirsi al ruolo centrale delle persone, giudici o forze dell’ordine, pilastro fondamentale della giustizia penale.
______________________________________________________________________________
- Roberto Pelliccia, ”Polizia Predittiva: il futuro della prevenzione criminale?”, cyberlaws, https://www.cyberlaws.it/2019/polizia-predittiva-il-futuro-della-prevenzione-criminale/ ↑
- Fabio Chiusi et alii, “Automating Society Report 2020”, AlgorithmWatch, https://automatingsociety.algorithmwatch.org/wp-content/uploads/2020/11/Automating-Society-Report-2020-Edizione-italiana.pdf, pp. 48-49. ↑
- Roberto Pelliccia, op. Cit. ↑
- Art. 11, §1, Direttiva (UE) 2016/680 del Parlamento europeo e del Consiglio del 27 aprile 2016 relativa alla protezione delle persone fisiche con riguardo al trattamento dei dati personali da parte delle autorità competenti a fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali, nonché alla libera circolazione di tali dati e che abroga la decisione quadro 2008/977/GAI del Consiglio. ↑
- Claudia Morelli, “Giustizia predittiva: il progetto (concreto) della Corte d’appello di Brescia”, Altalex, https://www.altalex.com/documents/news/2019/04/08/giustizia-predittiva#uno. ↑
- Fabio Chiusi et alii, “Automating Society Report 2020”, AlgorithmWatch, p. 45. ↑
- Fabio Chiusi et alii, “Automating Society Report 2020”, AlgorithmWatch, p. 46. ↑
