Algoritmi, intelligenza artificiale e gara d’appalto per la fornitura di dispositivi medici: una sentenza del Consiglio di Stato permette di riflettere sulla nozione e sulle diverse tipologie di algoritmo impiegabili ai fini del funzionamento di device sanitari “avanzati”.
Rispetto alla vicenda in esame, il fulcro non è tanto individuare la soluzione più corretta, quanto, piuttosto, di dare conto delle diverse modalità di approccio rispetto a nozioni tecnico-scientifiche, la cui valutazione, che travalica il mero dato giuridico, viene lasciata a professionisti in possesso di competenze scientifiche specifiche.
Spesa Sanità, il ruolo di NSO e le priorità per il 2022 alla luce del PNRR
Il caso della gara per i defibrillatori
La sentenza in esame è quella del Consiglio di Stato, Sez. III, numero 7891 del 25 novembre 2021. In particolare, nell’ambito della procedura di evidenza pubblica finalizzata all’acquisizione di defibrillatori (individuati come dispositivi medici “avanzati”), la lex specialis di gara recava un preciso criterio di conferimento del punteggio all’offerta tecnica: un punteggio più alto veniva infatti assegnato qualora si fosse riscontrata la (com)presenza di due algoritmi di funzionamento dei defibrillatori, rispettivamente finalizzati alla prevenzione ed al trattamento delle «tachiaritmie atriali», un punteggio più basso (all’incirca la metà del primo, così fornendo un preciso elemento di “misurazione” delle preferenze espresse della Stazione Appaltante) veniva invece conferito in presenza di un algoritmo finalizzato alla prevenzione, o in alternativa al trattamento, di tali tachiaritmie.
Il giudice di prime cure aveva inizialmente accolto il ricorso della seconda classificata (respingendo il ricorso incidentale dell’aggiudicataria), sovvertendo l’esito della procedura di evidenza pubblica: per quanto rileva ai fini di commento, la ricorrente, da un lato ha contestato il punteggio più elevato assegnato all’aggiudicatario in applicazione del criterio in parola, a suo dire ottenuto presentando in gara defibrillatori funzionanti con algoritmi cc.dd. di intelligenza artificiale, che tuttavia non sarebbero stati richiesti dalla lex specialis; dall’altro ha censurato la valutazione deteriore, sempre in sede di applicazione del menzionato criterio di punteggio, dei propri defibrillatori, posto che per la Commissione di gara i dispositivi offerti, ed in specie i relativi algoritmi, non potevano essere acclusi alla tipologia di algoritmi «automatici» richiesti dalla lex specialis per ottenere il punteggio maggiore.
AI e dispositivi medici: la posizione del TAR
Come anticipato, in questa sede si vuole dare conto della diversa valutazione che ha caratterizzato l’approccio dei due Collegi giudicanti (di primo e secondo grado), rispetto ad una materia particolarmente complessa: il che fornisce anche lo spunto per inquadrare le nozioni di algoritmo, intelligenza artificiale e machine learning applicate a dispositivi medici «avanzati» qui di interesse, oltre che per trattare alcuni consueti temi più strettamente giuridici. La definizione di algoritmo, sulla quale sembrano concordare entrambi i consessi giudicanti, è stata tracciata in prima battuta dal TAR, il quale ha ricordato come «…con esso ci si richiama, semplicemente, a una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato (come risolvere un problema oppure eseguire un calcolo e, nel caso di specie, trattare un’aritmia)…».
Il TAR si è però spinto oltre, delineando una distinzione tra la tipologia di algoritmo richiesta dalla lex specialis, ed un algoritmo la cui applicazione sia inquadrabile nella c.d. intelligenza artificiale, che sarebbe da tenersi distinto rispetto al primo, in quanto afferente «allo studio di “agenti intelligenti”, vale a dire allo studio di sistemi che percepiscono ciò che li circonda e intraprendono azioni che massimizzano la probabilità di ottenere con successo gli obiettivi prefissati». Al concetto di intelligenza artificiale, in particolare, sarebbero da ricondursi i «sistemi» in grado di interagire con l’ambiente e le persone circostanti, apprendendo dall’esperienza con modalità c.d. di machine learning, i quali, partendo da tale «esperienza», sono infine in grado di elaborare «…il linguaggio naturale oppure (…) riconoscono volti e movimenti…».
Fatte tali premesse, il TAR ha ritenuto che nella gara d’appalto in parola «…l’algoritmo di trattamento dell’aritmia non sarebbe altro che l’insieme di passaggi (di stimoli creati dal pacemaker secondo istruzioni predefinite) necessari al trattamento del singolo tipo di aritmia…»: al riguardo, tuttavia, la lex specialis non avrebbe richiesto necessariamente, come invece ritenuto dalla Stazione Appaltante (e successivamente dal Consiglio di Stato) «…che il dispositivo [dovesse] essere in grado di riconoscere in automatico l’esigenza (quindi di diagnosticare il tipo di aritmia) e [in aggiunta] somministrare in automatico la corretta terapia meccanica (trattamento)…».
La somministrazione «in automatico» della terapia, infatti, sarebbe attinente a sistemi funzionanti tramite algoritmi di «intelligenza artificiale», che una volta appresa l’esistenza della tachiaritmia siano in grado di avviare ex se il trattamento: tale tipologia di algoritmo, peraltro, non sarebbe stata richiesta dalla lex specialis, con la conseguenza per la quale, il punteggio massimo per tale criterio, si sarebbe potuto conferire anche in presenza di algoritmi meno «articolati».
L’interpretazione della lex specialis
Al fine di contestare gli assunti e le conclusioni del giudice di prime cure, dai connotati fortemente specialistici, il Consiglio di Stato ha subito ricordato quelle che devono essere le modalità di interpretazione della clausole della lex specialis, alla luce di una giurisprudenza che appare ormai consolidata.
In particolare, anche a mente del disposto dell’art. 1362 c.c. relativo all’esegesi contrattuale, l’interpretazione della lex specialis deve prediligere il tenore letterale della stessa: criterio, questo, del tutto compatibile con la natura degli atti amministrativi – dei quali bando e disciplinare di gara (ancorchè tale tematica sia sempre stata oggetto di un vivace dibattito) tendenzialmente costituiscono una declinazione (per quanto peculiare) – che estrinsecano la volontà della Pubblica Amministrazione, ed i cui effetti devono pertanto essere intesi alla luce di «…ciò che il destinatario può ragionevolmente intendere, anche in ragione del principio costituzionale di buon andamento, che impone alla P.A. di operare in modo chiaro e lineare, tale da fornire ai cittadini regole di condotte certe e sicure, soprattutto quando da esse possano derivare conseguenze negative (così, tra le tante, Cons. Stato, V, 13 gennaio 2014 n. 72)…». Pertanto, ove la lettera della lex specialis sia già sufficientemente chiara, devono escludersi interpretazioni estensive e/o analogiche (il Consiglio di Stato, al riguardo, cita alcuni suoi precedenti, di cui alle sentenze della Sez. V, 15 luglio 2013, n. 3811 e 12 settembre 2017, n. 4307).
Principiando da tale considerazione, il Consiglio di Stato ha rilevato come la clausola controversa del disciplinare di gara avesse, in realtà, un significato univoco (letterale) nel conferire rilievo, ai fini del punteggio massimo per il criterio di interesse, ai soli algoritmi che definissero «automaticamente» il trattamento per il paziente, in risposta all’interesse ed alle richieste del Committente pubblico, che intendeva reperire sul mercato dispositivi di «alta fascia», preferendo (con conferimento del punteggio massimo) quelli caratterizzati dalla modalità di funzionamento «…Algoritmo di prevenzione+trattamento delle tachiaritmie atriali…», rispetto ai dispositivi dotati «…del solo algoritmo di prevenzione o del solo trattamento delle tachiaritmie atriali…».
Le diverse posizioni
Il Consiglio di Stato, ed ancora prima la Commissione di gara, al pari dell’aggiudicatario iniziale, hanno invece argomentato che algoritmi sia di prevenzione che di trattamento fossero individuabili solo in presenza di algoritmi cosiddetti «automatici», a loro volta in alcun modo assimilabili ad algoritmi di «intelligenza artificiale». Il Consiglio di Stato, infatti, ha ritenuto che l’algoritmo «automatico» sia quello che «…consente in maniera [per l’appunto] automatica di contrastare il ritmo prefibrillatorio costituito dal riconoscimento di frequenti ectopie atriale e trattato mediante riduzione/omogeneizzazione dei periodo refrattari atriali…».
Non potrebbe invece qualificarsi come «automatico» l’algoritmo caratterizzato da «…uno studio elettrofisiologico eseguito in office da un operatore specialistico…». Al riguardo l’aggiudicataria della procedura, a sua volta, non manca di sottolineare come «…l’evoluzione del settore abbia fatto registrare l’introduzione di algoritmi sempre più complessi (…), in grado di “ottimizzare” la terapia di stimolazione in base alle caratteristiche individuali, ivi inclusa la capacità di riconoscere, prevenire e/o trattare episodi aritmici, quali le aritmie atriali, come acclarato nell’ambito della letteratura clinica…». Il che, però, non fa sì che detti algoritmi debbano essere acclusi al perimetro della intelligenza artificiale, trattandosi pur sempre di modalità di funzionamento «…secondo uno schema tipico (input-elaborazione-riposta) connaturato alla funzione di sorvegliare continuativamente il ritmo cardiaco, che nulla ha in comune con i meccanismi di machine learning…».
Inoltre, quanto all’algoritmo impiegato dal ricorrente in primo grado, il Consiglio di Stato ha affermato come non potrebbero in alcun modo considerarsi algoritmi «funzioni di test» caratterizzati dal collegamento tra pacemaker e strumentazione esterna (il c.d. programmatore, ovvero un computer dedicato presso gli ospedali), sotto il diretto controllo del personale medico, che così «sollecitata» elaborerebbe «…le azioni di stimolazione da far eseguire al pacemaker in modo temporaneo e sempre sotto supervisione…». In altri termini, secondo tale (opposta) visione l’algoritmo «automatico» dovrebbe procedere ex se al compimento delle operazioni di trattamento, senza alcuna interazione umana, tuttavia non comportando, detto «automatismo», il ricorso alla intelligenza artificiale.
Cosa dice il Consiglio di Stato
Il Consiglio di Stato – pur mostrando, come anticipato, di concordare con la nozione generale di algoritmo adottata dal TAR – precisa comunque che detta nozione, “quando è applicata a sistemi tecnologici, è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano. Il grado e la frequenza dell’intervento umano dipendono dalla complessità e dall’accuratezza dell’algoritmo che la macchina è chiamata a processare”. Nella gara di interesse, pertanto, l’algoritmo necessario per ricevere l’indicato punteggio maggiore, sarebbe solo quello «automatico», imposto dalla tipologia avanzata di device che la Stazione Appaltante ha acquisito.
Senza che ciò, precisa ancora il giudice di appello, comporti lo sconfinamento nel campo della intelligenza artificiale, che invece contempla (un algoritmo caratterizzato dall’impiego di) «…meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole sofware e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico…».
Meccanismi di apprendimento automatico (dunque di intelligenza artificiale) che invece non caratterizzavano le preferenze della Stazione Appaltante (e che neppure avrebbero connotato l’algoritmo impiegato dall’aggiudicataria), che per conferire il punteggio più alto si «accontentava» di un dispositivo che impiegava un algoritmo definito come insieme di «…istruzioni capaci di fornire un efficiente grado di automazione, ulteriore rispetto a quello di base, sia nell’area della prevenzione che del trattamento delle tachiaritmie atriali..».
Nel delineato contesto, il sistema in dotazione ai dispositivi della ricorrente in primo grado e seconda classificata, non era connotato da funzioni automatiche incorporate nel pacemaker: al contrario, dete funzioni erano attivabili «…solo presso ambulatori cardiologici attraverso un programmatore esterno (…) utilizzato dall’operatore clinico per assumere temporaneamente il controllo del pacemaker e per impartire, sulla base della valutazione in tempo reale del ritmo cardiaco, una sequenza di stimoli da erogare a scopo terapeutico (che possono essere interrotti e/o modificati ad ogni evento avverso), mentre le normali funzioni di sensing e di risposta automatica del pacemaker sono provvisoriamente inibite…». In particolare, il sistema non sarebbe stato in grado «…di correggere automaticamente le aritmie al momento dell’insorgere della disfunzione…».
La decisione
Pertanto, sebbene detto sistema funzionasse a mezzo di un algoritmo interno, tuttavia detto algoritmo «…non interviene in funzione di automazione delle funzioni di prevenzione e trattamento delle tachiaritmie atriali come richiesto dall’amministrazione, e dunque correttamente l’amministrazione non lo ha considerato ai fini del punteggio…».
Viceversa, il dispositivo offerto dall’aggiudicatario avrebbe utilizzato un algoritmo che consentiva «…in maniera automatica di contrastare il ritmo prefibrillatorio costituito dal riconoscimento di frequenti ectopie atriali e trattato mediante riduzione/omogeneizzazione dei periodi refrattari atriali…», così conferendo a tale funzione di contrasto del ritmo prefibrillatorio «…anche una valenza terapeutica, ossia di trattamento…». Funzione che, aggiungendosi a quella preventiva posseduta dal defibrillatore, avrebbe correttamente indotto la Commissione di gara a conferire il punteggio tecnico maggiore all’offerta iniziale aggiudicataria, confermata come tale all’esito della decisione del Consiglio di Stato.
