Nelle recenti pronunce in materia di decisione algoritmica (Cons. Stato, sez. VI, 8.4.2019, n. 2270; Cons. Stato, sez. VI, 13.12.2019, n. 8474), il Consiglio di Stato ha sviluppato un nuovo modo di concepire il rapporto fra le macchine e l’essere umano nell’ambito dell’azione pubblica amministrativa.
Le due decisioni offrono, da un lato, un importante spunto di riflessione sulle problematiche odierne in materia di intelligenza artificiale applicata alle gare pubbliche. Dall’altro, tuttavia, come vedremo, le risposte fornite sollevano a loro volta problemi di difficile soluzione.
Una corretta disciplina giuridica per le decisioni informatizzate nella PA
Le novità delineate dal supremo consesso di giustizia amministrativa provano a dare una risposta alla difficile sfida lanciata dalla “rivoluzione 4.0”, nella quale sempre più si registra il ricorso delle pubbliche amministrazioni a moduli procedimentali basati su algoritmi.
Il nuovo approccio impone di confrontarsi con problemi inediti, dettati dal fatto che non ci si limita a rapportarsi con “decisioni informatizzate”, nelle quali cioè la componente digitale è limitata alla fase di esternazione della volontà dell’amministrazione, ma ci si trova dinanzi a vere e proprie decisioni algoritmiche o robotiche, in cui la stessa fase decisionale del procedimento è prodotta da un programma informatico.
L’esigenza di trovare una corretta disciplina giuridica a questi casi si è palesata anche a livello europeo, come risulta dalla chiara statuizione della Carta della Robotica del 2017, approvata dal Parlamento Europeo, secondo la quale “nell’ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati”.
La digitalizzazione della Pubblica Amministrazione
Le due sentenze in commento riflettono l’interesse per una tematica che, da qualche anno, è al centro dell’agenda politica del legislatore italiano ed europeo.
Nel rapporto annuale sull’indice di digitalizzazione dell’economia e della società (DESI), la Commissione europea ha riassunto lo stato di avanzamento della trasformazione digitale degli Stati membri, collocando l’Italia al 24esimo posto su 29, dato certamente non positivo.
Fra i parametri presi in considerazione, gioca un ruolo fondamentale quello relativo alla digitalizzazione della PA, sotto il profilo dei servizi pubblici. A sua volta, questo parametro consta di due sotto-parametri: l’eGovernment e l’eHealth.
Il primo prende in considerazione una serie di fattori tra cui il numero di utenti che si relaziona con la PA attraverso piattaforme digitali, l’utilizzo e lo scambio di moduli precompilati per l’abbattimento degli oneri burocratici, il livello di completezza dei servizi online (ossia la loro capacità di fornire autonomamente (senza l’intervento di funzionari ad esempio), il numero di servizi digitali a servizio delle attività di impresa e gli open data.
In sostanza, questo parametro rappresenta il livello di digitalizzazione dei procedimenti amministrativi, a partire dall’abbattimento degli oneri di istruzione documentale fino ad arrivare all’erogazione vera e propria di servizi.
Il secondo sotto-parametro – l’eHealth – riguarda invece altri tre indicatori: i servizi di sanità digitale (ad esempio, la telemedicina), lo scambio di dati medici e l’estensione della ricetta digitale. In questo caso, il parametro è orientato a quantificare l’incidenza di strumenti digitali nell’erogazione di servizi sanitari, che rappresentano una parte cospicua del bilancio dello Stato.
Nel DESI viene analizzato il fenomeno della digitalizzazione della Pubblica Amministrazione da un punto di vista “estrinseco”, ossia valutando l’utilizzo di strumenti informatici e digitali rispetto a tutte le fasi del procedimento amministrativo che non riguardino la “decisione” vera e propria. Per esempio, la Pubblica Amministrazione può mettere a disposizione portali informatici per l’upload di documentazione istruttoria necessaria per concedere un’autorizzazione, ma la deliberazione finale spetterà pur sempre ad un funzionario “in carne ed ossa”.
Sullo stesso piano si sono mosse le innovazioni normative degli ultimi anni, a partire dal Codice dell’amministrazione digitale (decreto legislativo 7 marzo 2005, n. 82) per arrivare ai recenti sviluppi in materia di eProcurement (con le direttive UE del 2014 e il decreto legislativo di attuazione 18 aprile 2016, n. 50), con i quali si punta a “dematerializzare” totalmente le procedure di affidamento dei contratti pubblici.
Tuttavia, nella stragrande maggioranza dei casi c’è sempre l’intervento umano nella fase decisionale: per ogni gara pubblica, ad esempio, sarà la Commissione giudicatrice o il Responsabile del Procedimento a governare la procedura e a prendere le decisioni.
Lo stato della giurisprudenza amministrativa
La giurisprudenza amministrativa ha provato ad andare oltre occupandosi dei casi in cui il procedimento amministrativo è governato completamente da una macchina.
Innanzitutto, si parte dal presupposto fondamentale che la tutela giurisdizionale non può essere esclusa o limitata per determinate categorie di atti (art. 113 Cost.). Ne consegue che una qualsiasi decisione amministrativa (in qualunque forma appaia – letterale, iconografica, matematica o algoritmica) che incida su un interesse giuridicamente rilevante di un soggetto deve poter essere sottoposta al sindacato di un giudice terzo ed imparziale.
Il sindacato giurisdizionale non è limitato ai soli atti aventi natura vincolata, ma anche a quelle decisioni algoritmiche che presentino margini di discrezionalità. Su questo secondo caso – di cui si dirà meglio fra poco – si è concentrata la giurisprudenza recente del Consiglio di Stato.
Nel caso di specie, sotto lo scrutinio del Collegio si trovava l’algoritmo del MIUR (Ministero dell’Istruzione dell’Università e della Ricerca), volto a collocare i docenti nell’ambito del framework della “buona scuola”.
Il Consiglio di Stato ha sancito, nella prima sentenza (n. 2270/19) due importanti principi, gli algoritmi utilizzati dalla Pubblica Amministrazione devono essere:
- “conoscibili” all’esterno,
- pienamente sindacabili dal giudice.
Secondo il Giudici del Consiglio di Stato, una cosa è la regola tecnico-informatica che ha dato alla luce l’algoritmo – il quale, si ricorda, altro non è che una sequenza ordinata di istruzioni con le quali si lavorano degli input per estrarne degli output – altra è la regola giuridica che, a monte, opera il bilanciamento degli interessi e va poi ad improntare la successiva codificazione dell’algoritmo. Al giudice non può mai essere preclusa l’analisi della regola giuridica a monte che, dunque, deve essere chiara e trasparente. Conseguentemente, anche il centro di imputazione della responsabilità amministrativa sarà collocato a monte.
Nella seconda pronuncia (n. 8474/19), sempre il Consiglio di Stato ha specificato ulteriormente i termini della questione.
Anzitutto, il principio di piena conoscibilità viene ricondotto alla normativa in materia di protezione dei dati personali, di cui al Regolamento UE 2016/679 (GDPR) artt. 13 e 14.
A tal fine, argomenta il Collegio, è necessario che la regola tecnica posta alla base dell’algoritmo sia corredata degli elementi esplicativi che rendano intellegibile la regola giuridica stabilita a monte. Solo così gli interessati sono posti nelle condizioni di azionare (e tutelare) i propri diritti.
La sentenza del Consiglio di Stato enuclea poi due ulteriori principi di derivazione comunitaria:
- il principio di non esclusività, ex art. 22 del GDPR; e
- il principio di non discriminazione algoritmica, ai sensi del considerando n. 71 del Regolamento.
Il primo principio riguarda “il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona”. L’applicazione di questo principio alla decisione algoritmica comporta che nessuna decisione presa dalla PA può essere priva di un controllo da parte di un funzionario preposto, chiamato ad assumersi la responsabilità della decisione.
In questo senso, il Giudice Amministrativo si inserisce nel solco segnato dalla nota sentenza Loomis c. Wisconsin, nella quale la Corte distrettuale statunitense aveva riconosciuto l’utilizzo degli algoritmi di giustizia predittiva a patto che questi ricevano sempre un’intermediazione umana per l’emanazione del provvedimento finale.
Il secondo principio, quello di non discriminazione algoritmica, serve a depurare i procedimenti interamente digitalizzati dai bias cognitivi che, com’è noto, possono incidere significativamente sul funzionamento delle macchine. Posto infatti che gli algoritmi restituiscono degli output a fronte di input che provengono dall’esterno, è importante garantire degli standard di imparzialità e trasparenza anche nella fase di immissione dei dati nel sistema.
In quest’ottica, il Consiglio di Stato sembra fare un passo in avanti nell’attribuzione di una disciplina giuridica a questi fenomeni così complessi. È indicativo il passaggio della sentenza in cui si afferma che “il tema dei pericoli connessi allo strumento non è ovviato dalla rigida e meccanica applicazione di tutte le minute regole procedimentali della legge n. 241 del 1990”. Si coglie, in questo, il tentativo di non utilizzare categorie concettuali “datate” per disciplinare fenomeni così innovativi.
I punti critici delle decisioni
Tuttavia, le posizioni assunte dal Consiglio di Stato presentano anche dei punti critici.
Il riferimento alla conoscibilità degli algoritmi rischia di essere semplicistico se preso alla lettera. Conoscibilità e comprensibilità di un algoritmo sono infatti concetti da tenere ben distinti.
Anche a voler ammettere che gli algoritmi della Pubblica Amministrazione siano interamente accessibili da parte dei terzi – cosa che avrebbe un impatto enorme sull’approvvigionamento degli stessi da parte delle pubbliche amministrazioni, poiché le aziende sarebbero disincentivate ad investire in un settore dove la loro proprietà intellettuale non riceve protezione – comunque non tutti gli algoritmi possono essere “esplicati”. Con l’avvento di tecnologie più complesse, come quelle di deep learning, che anzi sono le più idonee per operare scelte discrezionali di ponderazione degli interessi, anche la piena intellegibilità dell’operato della macchina tende ad essere obliterata.
Ne discende che anche il principio di non esclusività, secondo cui è sempre necessaria l’intermediazione umana, potrebbe rallentare di molto l’applicazione di modelli algoritmici alle decisioni delle pubbliche amministrazioni. Si richiede, in pratica, la presenza di funzionari con capacità di comprendere i codici di cui faranno uso: cosa affatto scontata. Questo vuol dire che, di fatto, saranno necessarie figure professionali che compiano un’intermediazione legale fra la regola tecnico-informatica e quella giuridica, con possibili duplicazioni di passaggi procedimentali e di costi amministrativi.
Conclusioni
Le decisioni in commento offrono un importante spunto di riflessione sulle problematiche odierne in materia di intelligenza artificiale applicata alle gare pubbliche.
Come suggerito dallo stesso Consiglio di Stato, l’utilizzo di queste nuove tecnologie nell’ambito della Pubblica Amministrazione è da salutare con favore, poiché è rivolto ad abbattere tempi e costi e a rendere più efficiente l’operato complessivo nel nostro apparato burocratico.
L’abbandono dei rigidi schemi previsti dalla legge sul procedimento amministrativo (L. 241/1990), inoltre, fa ben sperare sulla capacità della giurisprudenza di adattarsi alle nuove istanze di digitalizzazione.
La regolamentazione dell’intelligenza artificiale richiede la creazione di categorie giuridiche nuove, capaci di assorbire i rischi connessi ad un utilizzo negligente o incauto di questi potenti mezzi di elaborazione dei dati.
Insomma, è necessario contemperare l’esigenza di evoluzione tecnologica con il rispetto dei diritti degli utenti, primo fra tutti, quello alla difesa giurisdizionale.
