Le applicazioni dell‘IA generativa in ambito medico rappresentano una frontiera rivoluzionaria, che promette di trasformare diagnosi, terapie e assistenza sanitaria. Tuttavia, dietro queste innovazioni si cela un complesso ecosistema normativo che mira a garantire sicurezza ed efficacia, bilanciando il progresso tecnologico con la tutela del paziente.
Indice degli argomenti
Percezioni e timori sulle applicazioni di IA generativa in medicina
Partiamo da una breve premessa. Quante volte incappiamo in discussioni, dettate forse più dalla cattiva informazione che da un vero approfondimento sul tema? Quanti di noi tendono ad assumere atteggiamenti polarizzati che oscillano tra l’entusiasmo smisurato e la paura di essere sostituiti dagli algoritmi?
Ebbene, nulla di più sbagliato.
Oggi giorno (e i tecnici ci dicono che siamo solo agli inizi), l’Intelligenza Artificiale rappresenta la traslazione del mondo reale in un mondo di regole e algoritmi. Per strutture di funzionamento e ambiti di applicazione, ridurre il discorso a buoni o cattivi è tanto semplificativo quanto svilente.
È un po’ come pretendere di valutare internet, promuovendolo o bocciandolo, in toto.
Chi, come l’Autrice, ricorda quando si viaggiava con la mappa cartacea e le macchine si aprivano con la chiave infilata nella toppa e non con l’app del cellulare, ha chiaro in testa la rivoluzione che internet e le sue applicazioni come, l’IoT hanno comportato. Eppure, sempre in rete, è noto come si possano compiere attività criminali, che spaziano dalle truffe all’organizzazione di attentati.
Nonostante tale premessa, l’Intelligenza Artificiale fa istintivamente paura. Più paura della rivoluzione che è stata il World Wide Web.
Tale paura, ci dicono gli studi[1], trova le sue principali ragioni nel “ruolo umano percepito nella creazione di un’intelligenza artificiale potenzialmente apocalittica” e nell’“ansia legata all’insensatezza, riflettendo l’apprensione nel trovare uno scopo in un mondo in rapida evoluzione”.
Se volgiamo lo sguardo al settore medico e, più in generale, a quello dell’assistenza sanitaria, le paure divengono ancora più reali, riflettendosi, dal lato del paziente, nella “preoccupazione degli errori algoritmici, della mancanza di cure umane e dei rischi per la privacy”[2] e, dal lato del personale sanitario, nella “sostituzione del lavoro, responsabilità legale e lo stress emotivo”[3].
Recentissimi studi nel settore dimostrano che è necessario lavorare sul rispetto dell’autonomia del paziente, sul miglioramento dell’interazione tra intelligenza artificiale e uomo e sul rafforzare l’istruzione, essendo al contempo necessarie più ricerca, politiche e formazione per l’integrazione dell’intelligenza artificiale[4].
Il quadro normativo europeo per l’IA generativa in medicina
Se, come abbiamo detto, l’Intelligenza Artificiale si articola in applicazioni molto diverse tra loro, che spaziano da sistemi basati su Large Language Model a sistemi di controllo della qualità di produzioni industriali, anche in ambito sanitario assistiamo allo sviluppo di una moltitudine di sistemi a sostegno della decisione medica: sistemi per l’inseminazione artificiale dei gameti, per gli esami strumentali, come radiografie e TAC, per la riabilitazione del paziente, solo per citare alcuni esempi.
Sarebbe sbagliato pensare che in Europa e, quindi, anche in Italia, il settore sia “terra di nessuno”. Infatti, oltre all’impatto che l’Artificial Intelligence Act (AIA) avrà nel settore [5], vanno considerati almeno altri tre regolamenti estremamente impattanti, oltre, come ovvio, i principi etici che presiedono l’ambito clinico e quello della ricerca scientifica.
Nello sviluppo di un prodotto che contiene protocolli di Intelligenza Artificiale, sia esso uno stand alone software piuttosto che un sistema integrato in un macchinario, entrano a vario titolo:
- Il Regolamento AIA[6];
- Il Regolamento Macchine[7];
- Il Regolamento sui Dispositivi Medici[8] (o sui Dispositivi Medici In Vitro[9]).
Tali norme si applicano, a seconda del prodotto, spesso in maniera combinata tra loro.
Sullo sfondo, e non per questo meno importante o meno stringente, c’è il Regolamento sulla Protezione dei Dati Personali[10] poiché, come noto, questi sistemi processano un grandissimo numero di dati personali e, in particolare, speciali categorie di dati che, ai sensi dell’art. 9 del citato Regolamento, necessitano di una protezione rafforzata, in ragione della loro sensibilità.
Questo panorama normativo obbliga gli sviluppatori a porre la massima attenzione sin dalle prime fasi di sviluppo di nuove tecnologie in ambito sanitario.
Le sopra richiamate normative rientrano, insieme a una trentina di altri regolamenti, nel c.d. “New Legislative Framework[11]” (Nuovo Quadro Legislativo) che, adottato nel 2008, è costituito da un pacchetto di misure volte a migliorare la vigilanza del mercato e a migliorare la qualità delle valutazioni della conformità dei prodotti immessi nel mercato europeo, creando un pacchetto di misure da utilizzare nella legislazione sui prodotti.
Nella sostanza, gli sviluppatori sono tenuti a rispettare norme e processi che divengono più stringenti a seconda della valutazione di pericolosità insita nel prodotto che si sta sviluppando.
Il ruolo dei requisti essenziali di sicurezza e prestazione
In questo ambito, un ruolo fondamentale, viene attribuito ai “requisti essenziali di sicurezza e prestazione” che si sostanziano in standard tecnici, il cui rispetto fa presumere la conformità dei prodotti alla normativa di settore. Questi standard, quando adottati da organismi riconosciuti, come CEN, CENELEC, or ETSIO, e pubblicati sulla Gazzetta Ufficiale dell’Unione Europea prendono il nome di “norme armonizzate” (Harmonised Standard). In loro assenza o quando queste sirivelano insufficienti, la Commissione Europea sviluppa Specifiche comuni (Common Specification) a cui gli sviluppatori possono fare riferimento.
È quindi chiaro, come nella loro realizzazione, anche in ambito sanitario, i produttori devono tenere conto, oltre ai regolamenti applicabili, di una serie cospicua di parametri tecnici che devono essere soddisfatti, rendendo così il processo di realizzazione dei prodotti estremamente complesso.
Processo di certificazione delle applicazioni di IA generativa per uso clinico
Ebbene, prima che un prodotto venga immesso nel mercato, agli sviluppatori è richiesto di effettuare molteplici valutazioni, nel rispetto di tutte le norme applicabili.
Il processo di valutazione, che diviene più complesso all’aumentare della pericolosità intrinseca del prodotto, costituisce il cuore delle attività di sviluppo e si sostanzia nell’esame e nella produzione di un’ingente documentazione, che deve essere presentata agli organismi di valutazione accreditati presso l’autorità nazionale, che ogni Stato Membro nomina a presiedere l’immissione dei prodotti sul mercato.
Tale valutazione comporta l’adozione di sistemi di controllo qualità al cui interno si sviluppa un sistema di gestione del rischio, in base al quale il produttore / sviluppatore deve dimostrare che, dopo l’applicazione di processi di controllo e riduzione del rischio, i rischi insiti nel prodotto e quelli derivanti dalla interazione dello stesso con l’ambiente in cui viene inserito, siano accettabili.
Questo panorama, già di per sé complesso, subirà nel prossimo futuro, un ulteriore aggravio determinato dall’entrata in vigore delle norme sul Regolamento AIA. Infatti, a partire dal 2 agosto 2026[12], i produttori di sistemi di intelligenza artificiale, definiti, ai sensi del regolamento, quali sistemi ad alto rischio, tra cui ricadono i dispositivi medici, dovranno rispettare le prescrizioni ivi contenute. Tra queste, il rispetto di norme quali la qualità dei dati, la spiegabilità dei sistemi di intelligenza artificiale in medicina e il presidio umano nella loro gestione, se da un lato rappresentano elementi di tutela dell’individuo, dall’altro lato, costituiscono ulteriori motivi di complessità per gli sviluppatori.
A ciò si aggiunga che i produttori sono tenuti al rispetto del Regolamento sulla protezione dei dati personali. Come ovvio, il funzionamento di prodotti, anche di intelligenza artificiale, presuppone l’uso di dati personali, talvolta sensibili, dei pazienti. Non va inoltre dimenticato che, perché i sistemi di intelligenza artificiale possano funzionare in maniera performante devono essere alimentati da un’enorme quantità di dati personali (Big Data), eventualmente pseudonimizzati (ma non anonimi), provenienti anche da studi diversi da quello su cui gli sviluppatori lavorano. È essenziale che tali dati, magari raccolti per scopi inizialmente diversi, rispondano a requisiti di affidabilità e il loro ulteriore uso sia autorizzato dai pazienti stessi o, in caso di impossibilità a ottenere il consenso al nuovo trattamento, venga condotta una valutazione di impatto sui dati stessi.
In ambito clinico, gli adempimenti normativi si aggiungono a quello etico sulla ricerca scientifica e gli studi clinici, cui i Comitati Etici sono preposti.
Si consideri altresì che tali verifiche, nel settore medico, avvengono in un momento ampiamente antecedente l’immissione del prodotto sul mercato e, in particolare, già nella fase di sperimentazione clinica sulla cohorte di pazienti che, adeguatamente informati, vi aderiscono.
È evidente come, in ambito clinico, si combini la necessità di essere conformi alle norme del mercato europeo e alle norme etiche che presiedono il settore medico. Ciò crea non pochi grattacapi ai ricercatori, che possono trovarsi costretti a dover traghettare i progetti a differenti organi che tra loro non dialogano. È il caso, ad esempio, di aggiustamenti che vengono richiesti dalle autorità competenti per l’immissione dei prodotti sul mercato che determinano modifiche agli studi clinici e che, come tali, devono passare nuovamente al vaglio e alla successiva approvazione del Comitato Etico competente.
Inoltre, una volta immesso sul mercato, il prodotto viene costantemente monitorato ed eventuali malfunzionamenti, rischi e danni ai pazienti, devono essere riportati alle autorità secondo meccanismi ampiamente normati dai regolamenti e dalle norme tecniche.
Il necessario bilanciamento tra regolamentazione e sviluppo delle applicazioni ia generativa in medicina
Fino a questo momento abbiamo descritto il complesso processo che porta il prodotto di intelligenza artificiale in ambito clinico sul mercato europeo.
Anche solo da questa analisi estremamente sintetica, e come confermato anche dalla lettura più attenta delle disposizioni di settore, emerge che al centro della normativa europea è posta la tutela dell’individuo, sia esso consumatore o paziente.
Pur non volendo essere critici rispetto a questa impostazione, riteniamo opportuno svolgere alcune riflessioni rispetto agli effetti che possono verificarsi sul mercato nella tutela dei pazienti.
Se da un lato, infatti, riteniamo di aver scacciato le paure dei più restii all’adozione di questi sistemi, dall’altro lato non possiamo tacere degli effetti negativi in termini di appetibilità del mercato europeo per le aziende del settore.
Infatti, come noto, il regolamento europeo sull’intelligenza artificiale rappresenta un unicum nel suo genere a livello mondiale e vede la propria applicazione non solo per gli operatori economici europei nello sviluppo dei prodotti ma anche una barriera all’ingresso per produttori posti fuori dal territorio dell’Unione Europea che intendono commercializzare nel vecchio continente.
I costi determinati dal rispetto della normativa europea
Un esempio su tutti è rappresentato dai costi determinati dal rispetto della normativa europea.
Nella relazione accompagnatoria alla bozza di regolamento europeo sull’intelligenza artificiale del 2021 si legge: “Imprese o autorità pubbliche che sviluppano o utilizzano applicazioni di IA che rappresentano un rischio alto per la sicurezza o i diritti fondamentali dei cittadini dovrebbero rispettare requisiti e obblighi specifici. Entro il 2025 il rispetto di tali requisiti comporterebbe costi compresi, circa, tra 6 000 EUR e 7 000 EUR per la fornitura di un sistema di IA medio ad alto rischio del valore di circa 170 000 EUR. Per gli utenti di IA andrebbe altresì considerato il costo annuale del tempo impiegato per assicurare la sorveglianza umana, ove opportuno, a seconda del caso d’uso. Secondo le stime, tale costo tale costo sarebbe compreso, circa, tra 5 000 EUR e 8 000 EUR l’anno. I costi di verifica potrebbero ammontare a ulteriori 3 000 EUR – 7 500 EUR per i fornitori di IA ad alto rischio”[13].
Le conseguenze di quanto sopra sono molteplici.
Le difficoltà dell’applicazione dell’AI in medicina per le PMI
Anzitutto, anche tenuto conto delle caratteristiche delle aziende italiane, per lo più piccole e medie imprese, è chiaro come le stesse potrebbero non essere in grado di sostenere maggiori costi, con l’effetto che si vada a impoverire il tessuto economico del nostro Paese.
Tuttavia, anche le grandi imprese, per le quali la scelta del mercato a cui riferirsi è più semplice rispetto alle PMI, potrebbero decidere di rivolgersi ad altri mercati più redditizi perché privi di maggiori costi determinati dal rispetto delle normative in vigore.
E per i cittadini? Premesso che è indubbio che un buon sistema di intelligenza artificiale a supporto della decisione medica costituisca un beneficio per il paziente, se da un lato l’individuo è tutelato dalla normativa europea, dall’altro lato potrebbe scontrarsi con la ridotta adozione di sistemi di intelligenza artificiale in ambito sanitario, con effetti diretti sulla diagnosi e sulle cure di cui potrebbe dover beneficiare.
La discussione è certamente complessa è ampia ma riteniamo che la tutela del singolo, anche sotto il profilo sanitario, non possa venir meno anche davanti all’incedere delle nuove tecnologie.
Note
[1] Alkhalifah JM, Bedaiwi AM, Shaikh N, Seddiq W, Meo SA. Existential anxiety about artificial intelligence (AI)- is it the end of humanity era or a new chapter in the human revolution: questionnaire-based observational study. Front Psychiatry. 2024 Apr 9;15:1368122. doi: 10.3389/fpsyt.2024.1368122. PMID: 38654726; PMCID: PMC11036542.
[2] Wenyu Li, Xueen Liu, Anxiety about artificial intelligence from patient and doctor-physician, Patient Education and Counseling, Volume 133, 2025, 108619, ISSN 0738-3991, https://doi.org/10.1016/j.pec.2024.108619.
[3] Ibidem.
[4] Ibidem.
[5] Regolamento (UE) 2024/1689 del Parlamento Europeo e del Consiglio del 13 giugno 2024, disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=OJ:L_202401689 (ultima visita 16 febbraio 2025).
[6] Ibidem.
[7] Regolamento (UE) 2023/1230 del Parlamento Europeo e del Consiglio del 14 giugno 2023, che sostituisce la Direttiva 2006/42/EC, che rimarrà applicabile sino al 20 gennaio 2027, disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:32023R1230 (ultima visita 16 febbraio 2025).
[8] Regolamento (UE) 2017/745 del Parlamento Europeo e del Consiglio del 5 aprile 2017, disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:32017R0745 (ultima visita 16 febbraio 2025).
[9] Regolamento (UE) 2017/746 del Parlamento Europeo e del Consiglio del 5 aprile 2017, disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:32017R0746 (ultima visita 16 febbraio 2025).
[10] Regolamento (UE) 2016/679 del Parlamento Europeo e del Consiglio del 27 aprile 2016, disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:32016R0679 (ultima visita 16 febbraio 2025).
[11] Si veda https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en (ultima visita 16 febbraio 2025).
[12] L’entrata in vigore per quei sistemi di IA che sono componenti di sicurezza di prodotti o sono essi stessi prodotti che ricadono nel New Legislative Framework e che devono essere sottoposti alla valutazione di conformità da parte di un organismo terzo è fissata al 2 agosto 2027.
[13] Il testo integrale è disponibile alla pagina https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:52021PC0206 (ultima visita 16 febbraio 2025).
