Il Codice dei Contratti Pubblici si pone al passo coi tempi prevedendo la possibilità di impiegare l’AI nel procurement pubblico, per la gestione di gare e contratti. Tuttavia, le norme esprimono il concetto senza troppa convinzione limitandosi a spiegare che si può usare la tecnologia, compresa l’intelligenza artificiale, circostanza già nota stanti gli obblighi di digitalizzazione del ciclo di vita degli appalti pubblici.
Questo del resto è sancito dallo stesso Codice e la definizione comunitaria di IA quale il sistema che mostra “un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere obiettivi specifici”.
Il codice prevede infatti: “Per migliorare l’efficienza le stazioni appaltanti… provvedono, ove possibile, ad automatizzare le proprie attività ricorrendo a soluzioni tecnologiche, ivi incluse l’intelligenza artificiale … nel rispetto delle specifiche disposizioni in materia”. Vediamo nel dettaglio.
AI e procurement, che cosa è cambiato
Nulla è cambiato rispetto a prima. Non c’era bisogno del permesso di usare la tecnologia per automatizzare ed efficientare le attività anche perché da oltre un quarto di secolo l’efficienza tramite la digitalizzazione è già obiettivo della Pubblica Amministrazione e da quest’anno vi è l’obbligo di digitalizzare l’intero ciclo di vita di un appalto, non solo la gara. Ma il Codice prosegue implacabilmente alla ricerca del finale perfetto e, memore delle linee guida per l’acquisto del software, prevede nientemeno che la disponibilità del codice sorgente da parte dell’Ente pubblico, circostanza tanto inutile per gli Enti quanto utopistica per ragioni di sicurezza e di segreto industriale.
Nello scrivere qualcosa di utile, il Codice dispone la “non esclusività della decisione algoritmica, per cui comunque esiste nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata”. E’ molto importante chiarirlo, nonostante questo modo di adottare la tecnologia in caso di IA è dedotto dalla normativa comunitaria e in caso di calcoli matematici eseguiti senza IA la validazione umana è una prassi comune perché il calcolo automatico potrebbe risultare non corretto a causa di malfunzionamenti, ambiguità o errori di immissione dei dati. E in qualche caso è già accaduto.
AI e procurement, il nodo del controllo umano
Ma il codice si ferma qui e non disciplina il modo in cui l’umano controlla e valida la decisione automatizzata né suggerisce criteri differenti nel caso di IA e di calcolo tradizionale senza IA. Dunque con diligenza e buon senso concludiamo da soli che la tecnologia IA debba essere usata in ausilio all’umano che decide mentre la tecnologia non IA richiede una validazione finale dell’umano che tuttavia non deve ricontrollare tutti i calcoli altrimenti si vanificherebbero i benefici della digitalizzazione.
Trasparenza e validazione umana
La validazione umana è necessaria per la trasparenza che è un principio essenziale negli appalti pubblici. Il Codice ribadisce che ogni operatore economico ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e, in tal caso, a ricevere informazioni significative sulla logica utilizzata. Quindi la trasparenza vuole che il metodo con cui l’algoritmo di IA prende le decisioni sia documentato in modo chiaro e non ambiguo.
Ma la caratteristica dell’IA è proprio quella di produrre risultati non certi a priori ma prevedibili solo su base probabilistica, ossia risultati che neanche il data scientist che ha creato l’algoritmo saprebbe prevedere. Quindi l’unico modo per garantire la trasparenza è prevedere che la decisione sia elaborata dall’essere umano e spiegare i criteri adottati dall’umano, quindi l’IA non prende decisioni ma è un utile strumento di supporto alle decisioni dell’umano.
Un esempio pratico
Lo spieghiamo meglio con un esempio. Vi è trasparenza in una gara ove attribuiamo i punteggi all’offerta economica con la “formula concava alla migliore offerta con esponente 0,5. È un calcolo deterministico dal risultato certo e prevedibile. Non c’è IA.
Se invece in una gara utilizzassimo l’IA per calcolare il punteggio a partire dalle medesime offerte, sarebbe impossibile fornire informazioni significative sulla logica utilizzata per il processo decisionale e garantire la trasparenza. Il bello dell’IA è proprio questo, quindi non possiamo usarla per attribuire i punteggi e formare la graduatoria di gara, ma solo come strumento di ausilio. Possiamo usare l’IA ad esempio per individuare eventuali offerte potenzialmente azzardate o colluse di cui l’operatore umano valuterà la congruità.
Il Codice avrebbe potuto fugare ogni dubbio e affermare che laddove fosse impossibile per ragioni oggettive documentare la logica utilizzata e garantire la piena trasparenza l’IA è utilizzabile solo per coadiuvare il lavoro umano.
Ma il Legislatore ha preferito allontanarsi in nobili, trionfalistici e lapalissiani aspetti etici giungendo ad affermare nel Codice che negli appalti si debba “impedire effetti discriminatori nei confronti di persone fisiche sulla base della nazionalità, dell’origine etnica, delle opinioni politiche, della religione, delle convinzioni personali, dell’appartenenza sindacale, dei caratteri somatici, dello status genetico, dello stato di salute, del genere o dell’orientamento sessuale”.
AI e procurement, le applicazioni
La maggior parte degli addetti ai lavori ha ipotizzato di applicare l’IA alla fase di valutazione delle offerte in gara, circostanza tanto intuitiva quanto audace. L’IA può invece applicarsi con successo a tutte le fasi del ciclo di vita di un appalto che dall’inizio di quest’anno è obbligatorio digitalizzare: programmazione, progettazione, affidamento/gara, esecuzione. In questo ambito vi sono numerose applicazioni dell’IA come ausilio all’operatore umano e tante altre ne saranno inventate nel breve periodo:
- previsione dei fabbisogni di beni e servizi, analizzando i dati storici di consumo, le tendenze stagionali ed altri fattori rilevanti;
- analisi della spesa per identificare opportunità di risparmio ottimizzando i requisiti dei beni e dei servizi per individuare quelli che riducono il costo complessivo di gestione;
- efficientamento dei processi di approvazione delle richieste d’acquisto, in base a regole predefinite e a prassi di approvazione trascorse;
- individuazione di anomalie nella domanda di beni e servizi dovute a errori nei dati, consentendone la revisione prima che l’anomalia possa inficiare le successive fasi di gara e di esecuzione del contratto;
- analisi delle offerte al fine di prevenire frodi o collusioni;
- rilevamento di anomalie e azzardi nelle offerte in gara.
Certificazione delle piattaforme di approvvigionamento e AI
La certificazione delle cosiddette “piattaforme di approvvigionamento digitale” prevede il rispetto di un insieme di requisiti funzionali minimi e non limita in alcun modo l’uso dell’IA che rientra nelle funzionalità opzionali che i produttori di piattaforme hanno sviluppato applicando il proprio ingegno e creatività. Anche nella consultazione di mercato indetta dall’Agenzia per l’Italia Digitale – AGID prima di redigere le Regole Tecniche per la certificazione delle piattaforme, i produttori di piattaforme hanno auspicato che le Regole Tecniche definissero i requisiti minimi di qualità lasciando ampia libertà nella logica di funzionamento e nelle funzionalità aggiuntive delle piattaforme.
Non è auspicabile che si introducano ulteriori norme per consentire l’utilizzo dell’IA negli appalti pubblici perché non è necessario e si introdurrebbe un approccio dirigistico che limiterebbe la libertà di sviluppare funzionalità che sono legittime finché rispettano il Codice.
Va osservato a riguardo che già oggi, senza scomodare l’IA, la piattaforma di e-Procurement Consip, prima in Italia per volumi di transazioni e utenza contiene qualche funzionalità opzionale il cui uso ad oggi non è legittimo e pertanto tali funzionalità non sono usate dalle Stazioni Appaltanti. Questa affermazione non deve essere intesa come una critica bensì come la rassicurante conferma che non è necessaria una disciplina che validi o censuri tutte le funzionalità di una piattaforma telematica per gare e appalti inclusa l’IA, ma è sufficiente che tali funzionalità siano descritte con chiarezza in un manuale affinché le gare e gli affidamenti eseguiti dagli Enti Pubblici tramite la piattaforma siano legittimi.
