La digitalizzazione dei contratti è una delle principali novità del nuovo Codice dei contratti pubblici. Almeno questo è il messaggio che il legislatore ha voluto trasferire dedicando un’intera Parte II (del Libro I) alla “Digitalizzazione del ciclo di vita dei contratti”.
Messaggio prontamente recepito dal Consiglio di Stato che, nella sua relazione dedicata al testo, ne ha condiviso la strategia di fondo, considerando la digitalizzazione come “la vera grande sfida dei prossimi anni per realizzare, in chiave moderna, la riforma del sistema economico-sociale e per essere, quindi, pronti a creare e a utilizzare la nuova fonte di ricchezza e di conoscenza rappresentata dai dati”.
Non a caso, la digitalizzazione del ciclo di vita dei contratti coincide con uno degli obiettivi principali del PNRR e persegue il duplice scopo di rilanciare economicamente l’Italia e di assicurare l’efficacia e l’efficienza dell’azione amministrativa, l’uno all’altro connesso.
L’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici
Uno degli aspetti più interessanti, cui dedicheremo le riflessioni che seguono, riguarda l’uso di procedure automatizzate nel ciclo di vita dei contratti pubblici, disciplinato dall’art. 30 del citato codice. A voler essere esatti, si tratta di un’opera di codificazione di principi già esistenti e la memoria non può che andare al recente orientamento della giurisprudenza amministrativa consolidatosi attorno al tema dell’utilizzo di procedure automatizzate nell’ambito del procedimento amministrativo.
Modelli decisionali automatizzati: c’è il rischio di disfunzioni
In particolare, ricordiamo la sentenza del Consiglio di Stato, sez. VI, del 08 aprile 2019, n. 2270, con cui si è affrontata una questione di portata generale relativa al valore giuridico che assume la regola tecnica che governa ciascun algoritmo e, conseguentemente, alle disfunzioni che potrebbero derivare dall’introduzione di modelli decisionali automatizzati nell’azione amministrativa.
La decisione riguardava i docenti della scuola secondaria di secondo grado che, nel settembre 2015, vennero inseriti nel piano straordinario di assunzione a tempo indeterminato di cui alla legge n. 107/2015 (c.d. Buona Scuola). A seguito delle operazioni di assegnazione delle sedi, alcuni di essi lamentarono che, a causa di un algoritmo «di cui non si conoscerebbero le concrete modalità di funzionamento», docenti collocati in graduatoria in posizione deteriore rispetto alle loro avrebbero beneficiato di maggior tutela, per esser stati assunti nelle classi di concorso prescelte e nelle provincie di residenza laddove le loro preferenze (circa classe di concorso, ordine scuola e sede), non erano state soddisfatte. E, in effetti, il rischio di moltiplicare un errore nelle procedure amministrative automatizzate è abbastanza evidente.
I vantaggi di IA e Big Data
Attualmente il dibattito intorno ai rischi e vantaggi circa l’utilizzo di sistemi automatizzati (AI e Big data in primis) si è acceso grazie alle performance dell’intelligenza artificiale generativa, e alla diffusa attenzione che questa nuova tecnologia sta richiamando. Ma al di là della tipologia di sistema automatizzato adoperato, i vantaggi derivanti dalla loro introduzione, e di conseguenziali forme gestionali innovative, sono indiscutibili.
L’utilizzo di sistemi intelligenti porta vantaggi evidenti in molti settori dell’attività umana: l’intelligenza artificiale (IA)1 riconosce il volto di una persona identificando un soggetto per esigenze di sicurezza, supporta i medici nella lettura delle immagini radiografiche migliorando le diagnosi e la prevenzione, offre maggiore sicurezza alla guida di automobili e nei trasporti, concorre alla tutela dell’ambiente ed altro ancora. Può anche facilitare l’accesso all’informazione, all’istruzione e alla formazione: con l’epidemia di COVID-19 l’apprendimento a distanza è diventato una necessità.
Il problema della non decifrabilità dell’algoritmo
Nell’ambito della gestione di un procedimento amministravo, l’automazione del processo decisionale è in grado di valutare e graduare una moltitudine di domande in tempi ridottissimi. Ma le ragioni per sostituire, in alcune attività, gli esseri umani con sistemi automatizzati sono da ricondurre non soltanto a vantaggi di elaborazione dati su larga scala, velocità, volume e alle aspettative di tassi di errore inferiori rispetto agli esseri umani.
Di fondo, viene riconosciuta loro una maggiore efficienza rispetto alle capacità analitiche umane. Sul piano dei principi, poi, l’automazione garantisce anche l’affermazione del principio costituzionale di buon andamento, con benefici non soltanto in termini di minor dispendio di risorse e dell’accelerazione dell’iter automatizzato ma anche su quello della maggior garanzia di imparzialità della decisione automatizzata.
Nondimeno, nell’introdurre l’algoritmo nel processo di adozione delle scelte della pubblica amministrazione va adeguatamente soppesata la sua caratteristica saliente, quella di posseder una tendenza “fisiologica” ad essere non immediatamente decifrabile, se non da parte di tecnici esperti.
Il procedimento automatizzato negli appalti pubblici
Ed ecco il primo requisito che il procedimento amministrativo automatizzato dovrà rispettare.
Conoscibilità e comprensibilità del sistema automatizzato
Le stazioni appaltanti devono assicurare «la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento» (art. 30, co. 2, lett a)) e ogni operatore economico ha diritto a ricevere «informazioni significative sulla logica utilizzata» (art. 30, co. 3, lett a)).
Un requisito di metodo e di sistema, onde scongiurare che venga compromessa la basilare esigenza di comprensione delle scelte amministrative da parte dei cittadini e imprese, destinatari di quelle scelte medesime. Peraltro, una delle finalità della digitalizzazione della PA è proprio quella di assicurare la maggior partecipazione possibile degli amministrati alla gestione pubblica, il che potrà avvenire soltanto assicurando conoscibilità e comprensione dell’agire pubblico.
Non esclusività della decisione algoritmica
Oltre al principio di conoscibilità e comprensibilità del sistema automatizzato viene codificato un ulteriore principio, quello di «b) non esclusività della decisione algoritmica» (art. 30, co. 3, lett b)), nel senso che all’interno del procedimento amministrativo automatizzato occorrerà prevedere un «contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata».
Dunque, l’ultima parola spetterà sempre al funzionario umano, in armonia con la strategia europea denominata ‘approccio umano-centrico’ che riconosce alle nuove tecnologie il compito di espandere i confini della cognizione umana senza giungere a sostituirla del tutto.
A livello europeo tale visione è stata tradotta nella strategia per lo sviluppo di un’AI affidabile, in particolare nella Communication “Building Trust in Human-Centric Artificial Intelligence”, con cui la Commissione Europea ha recepito i requisiti fondamentali stabiliti negli Orientamenti etici per una Intelligenza artificiale affidabile predisposto dal Gruppo di Alti esperti sull’AI. Nell’ambito della Strategia europea per l’Intelligenza Artificiale, il Parlamento Europeo ha approvato lo scorso giugno la proposta di Regolamento sull’approccio europeo all’Intelligenza Artificiale [COM(2021) 206 final] che propone il primo quadro giuridico europeo sull’IA, fondato sulla visione umano-centrica.
Per completezza, si consideri che il principio di non esclusività del procedimento automatizzato non è nuovo nell’ordinamento giuridico. Ricordiamo, infatti, che la norma paradigmatica di tale principio è contenuta nell’art. 22 del Regolamento europeo sul trattamento dei dati personali, è già con riferimento a tale formulazione, limitata appunto al campo dei dati personali, sono stati posti dei dubbi dagli studiosi più attenti. Dubbi che possono esser mutuati e riferiti anche all’applicazione del principio di non esclusività della decisione algoritmica nell’ambito del procedimento per l’affidamento di contratti pubblici.
Limiti applicativi e giusto equilibrio delle norme
In effetti, possiamo immaginare quale sarà il limite applicativo di tale previsione, il campo di prova in cui si testerà l’efficacia del principio stesso: dove si deve arrestare il processo automatizzato e fin dove deve arrivare il controllo umano. E già perché un controllo umano troppo serrato finirà per compromettere i vantaggi in termini di speditezza e imparzialità della procedura automatizzata, mentre un controllo umano troppo latente finirà per deresponsabilizzare il funzionario umano e minare l’efficacia del principio medesimo.
Come spesso accade, anche per la buona riuscita dell’automazione dei contratti pubblici sarà fondamentale la ricerca di un giusto punto di equilibrio tra le opzioni estreme della totale automazione, da un alto, e del totale controllo umano, dall’altro.
Ma il tema non dovrà esser affrontato soltanto sul piano organizzativo del procedimento amministrativo in sé o, per così dire, sul piano sistemico. Vi è da contemperare anche il rischio di un ‘affidamento subalterno’ del funzionario coinvolto. Quindi, oltre a prestare attenzione affinché i trattamenti automatizzati non siano affidati soltanto all’algoritmo, attraverso una scelta organizzativa che contempli un effettivo coinvolgimento umano e nella giusta misura, non dovrà esser trascurata la capacità dell’algoritmo di generare quella ‘comfort zone’ tale da indurre il funzionario pubblico a fidarsi – e affidarsi – del responso automatizzato. Ciò anche in considerazione del fatto che la nuova disciplina non muta il quadro formale delle responsabilità, posto che l’atto amministrativo resterà imputabile al funzionario umano.
Conclusioni
In definitiva, la sfida della digitalizzazione della PA passa attraverso l’esercizio di una rinnovata capacità progettuale degli apparati che dovranno saper assicurare sotto differenti aspetti – sopra delineati – l’effettività del principio di non esclusività della decisione algoritmica, interpretando quel ruolo di grande player che il legislatore ha assegnato loro nella nuova “economia dei dati”.
