Nella definizione del Centro Nazionale per l’informazione biotecnologica (NCBI) “la telemedicina è l’uso delle tecnologie dell’informazione elettronica e delle comunicazioni per offrire supporto alla cura quando la distanza separa i partecipanti”[1].
L’intelligenza artificiale fu definita dal prof. John Mc Carthy “la scienza e l’ingegneria della produzione di macchine intelligenti”[2], mentre oggi viene enfatizzata la capacità di apprendimento delle macchine.
Le due definizioni sono accomunate dalla rimozione, totale o parziale, dell’intervento umano diretto nello svolgimento delle operazioni. Questo aspetto “tecnico” delle due definizioni apre una voragine concettuale in cui, temiamo, rischiamo di essere risucchiati quando l’applicazione dell’intelligenza artificiale nel campo della medicina non tiene adeguatamente presente il ruolo dell’intelligenza umana nella sua multiforme possibilità di espressione: razionale, emotiva, etica.
Definizione e sviluppo della AI-Telemedicina
La telemedicina sarà, d’ora in avanti, AI-Telemedicine. L’intervento umano, alla luce dell’evoluzione in atto nell’intelligenza artificiale, sarà spostato sempre più in alto, ma se non saremo abbastanza intelligenti, potrebbe essere semplicemente messo da parte, con grave danno per la medicina.
Sorge quindi la domanda: la cura vedrà il medico allontanarsi sempre più dal contatto con il paziente? È sicuro che una serie di funzioni mediche verranno svolte nell’ambito dell’intelligenza artificiale, come già oggi per molti esami di laboratorio e per la loro refertazione. Occorrerà, tuttavia, non perdere la visione olistica del malato, un problema che i medici più sensibili avevano individuato fin dal secondo dopoguerra, quando cominciò la moltiplicazione delle specializzazioni che seguiva l’enorme ampliamento delle conoscenze e l’estensione delle terapie. Anche la visione olistica sarà supportata dall’intelligenza artificiale, ma occorrerà mantenere la valutazione critica sulla specifica fase che il paziente sta attraversando e ciò non può che riposare sul giudizio scientifico e morale del medico.
La rapidità di questi cambiamenti non dipende soltanto dalla tecnologia: essa è in rapido progresso e sta assai più avanti delle sue applicazioni sul campo. La velocità della trasformazione dipenderà anche da altre variabili. I report internazionali insistono sulla dotazione di risorse finanziarie e di tecnologie e, quelli più avveduti, anche sulla dotazione delle risorse umane. Alcuni pongono l’attenzione sulle relazioni tra medico e paziente, che devono essere preservate anche nell’ambiente dominato dai servizi di intelligenza artificiale.
Approfondiremo questo punto cruciale nelle conclusioni.
Efficacia e scelte di investimento
Durante la pandemia in diversi paesi il ricorso alla telemedicina è stato allargato. In particolare, si è cercato di offrire i servizi di telemedicina ai cittadini delle aree rurali, per selezionare l’accesso alle strutture specializzate. Dal punto di vista dei costi e dei risultati ottenuti, l’efficacia dell’uso dei sistemi di intelligenza artificiale applicati allo screening di specifiche patologie, dipende dalla qualità dei sistemi utilizzati. Questa a sua volta è influenzata da due parametri: la sensitività e la specificità, due misure statistiche che abbiamo imparato a conoscere durante la pandemia. La sensitività del test è la probabilità di un risultato positivo rispetto all’effettivo numero dei positivi. La sensibilità è la probabilità di un risultato negativo rispetto all’effettivo numero di coloro che sono negativi. Nei sistemi di intelligenza artificiale questo trade-off si può esprime nella domanda: è più importante che il sistema non ignori mai qualche cosa che è presente nell’esame di un paziente o è più importante che non trovi mai qualche cosa che non c’è? In generale la risposta del paziente è: la cosa più importante è che non trovi ciò che non c’è. Ma in molti casi la perdita di un’informazione critica su un’evidenza che c’è, ma che non viene rivelata, può essere fatale. Sia nella diagnostica, sia nei test degli screening, vi è un trade-off tra sensibilità e sensitività.
Innalzare l’indice di specificità dal 90% al 95% può sembrare un incremento modesto, ma comporta ridurre i falsi positivi (ovvero i falsi allarmi) della metà. Un effetto clamoroso per una struttura terapeutica. Ma spesso il costo per raggiungere questo miglioramento può essere proibitivo.
L’indagine cinese sui casi di retinopatia da diabete
L’indagine condotta in Cina su un vastissimo numero di casi di retinopatia da diabete, conclude che i due parametri sono assai utili per valutare l’efficienza, ossia la capacità di ridurre i costi a parità di risultati. Esistono, secondo lo studio, delle combinazioni ottimali dei due indici, specifiche per le diverse patologie e anche per le diverse età della popolazione sottoposta a screening, e l’impatto economico, ossia il costo per ottimizzare gli indici, può essere decisivo nella valutazione dell’investimento da fare sull’intelligenza artificiale. La ricerca dimostra anche che la scelta del modello o del sistema di intelligenza artificiale e la sua modulazione sono decisivi al fine di raggiungere risultati migliori e meno costosi di quelli offerti dagli strumenti standard di screening[3].
L’evoluzione delle tecnologie di intelligenza artificiale porta contemporaneamente verso una maggiore sensitività e una maggiore sensibilità, rendendo meno stringente il trade off che oggi preoccupa coloro che devono scegliere il giusto mix.
L’impatto sul ruolo del medico
Figura 1. Sequenza delle fasi investite dall’intelligenza artificiale nell’analisi predittiva e nella medicina personalizzata (tradotta e adattata da: Sharmila Nirojini et al. op. cit.).
L’IA come supporto alle attività del medico
L’attività predittiva relativa alla patologia, alla diagnostica, alla terapia, verranno supportate in misura crescente dagli strumenti di intelligenza artificiale, come risulta dalla panoramica riassuntiva dello stato dell’arte condotta in India (figura 1)[4].
Diventeranno pratiche comuni della professione medica i supporti dell’intelligenza artificiale utili per:
- offrire suggerimenti sulla diagnosi e sul trattamento dei suoi sintomi;
- creare trattamenti terapeutici personalizzati sulla base dell’età dello stile di vita del paziente;
- analizzare gli esami radiologici ed ecografici, le tomografie per scoprire le anomalie;
- identificare i fattori di rischio sulla base del fascicolo sanitario elettronico;
- scrivere la lettera esplicativa del trattamento medico necessario[5].
Vediamo ora l’impatto sul ruolo del medico. Il ruolo del medico nella medicina tradizionale può essere schematizzato nel modo seguente.
Come si vede, le funzioni conclusive del ruolo del medico sono centrate sull’assunzione di responsabilità e sull’affidamento ad una cura che deve essere convincente per il malato (decisione simmetrica nell’affidarsi alla terapia proposta anche se spesso con motivazioni diverse) e soddisfacente dal punto di vista terapeutico ed etico per il medico.
L’introduzione dell’intelligenza artificiale aumenta le risorse cognitive e predittive disponibili sia per il paziente sia per il medico, poiché con l’ingresso in scena dell’intelligenza artificiale, le funzioni in parte cambiano, come indica lo schema della figura 3.
Il paziente avrà bisogno di particolare attenzione da parte del medico per orientarsi in questa maggiore mole di informazioni.
L’importanza della trasparenza
La capacità di gestire le proprie scelte di fronte ad un volume elevato di informazioni rimane uno dei problemi cruciali della comunicazione medico-paziente. Spesso anche medici di elevate capacità tendono a modulare le informazioni proprio per facilitare il processo decisionale e la capacità di sostenerne le conseguenze da parte del paziente. La soluzione della medicina d’oltre oceano è quella di praticare sempre la massima trasparenza con il paziente; ma essa non origina da un atteggiamento etico, bensì dalla prudenza richiesta dal regime assicurativo e dai rischi delle ricadute giudiziali dell’eventuale contenzioso. Inoltre, la trasparenza è dominata dal problema del costo della terapia e dal problema del suo rimborso. Un problema in cui il medico viene coinvolto dalla struttura sanitaria, con effetti negativi sull’etica professionale.
È evidente che, con il supporto dell’intelligenza artificiale l’informazione tende a trasformarsi in dato statistico, forse in sé più preciso, ma non per questo in grado di creare una visione comprensibile per il paziente del complesso quadro costi-benefici e dell’impatto etico, emotivo e sulla qualità della vita delle scelte da compiere.
Impatto della telemedicina durante la pandemia
Abbiamo delineato un percorso ineluttabile di confluenza dell’intelligenza artificiale nella telemedicina. Ora dobbiamo esaminare i principali problemi che questa confluenza può generare.
Vi sono le limitazioni che possono derivare dalla carenza di risorse finanziarie e quindi di tecnologie adeguate e di infrastrutture. Ma le carenza più gravi sono nelle competenze professionali. I sistemi devono essere applicati, manutenuti e sviluppati: spesso proprio dove già sono scarse le professionalità dei medici tradizionali.
Durante il COVID i reparti di terapia intensiva erano i più esposti al sovraffollamento e alla carenza di personale.
In Israele nel 2020 due ospedali (Sheba e Sourasky) hanno implementato la telemedicina assistita da intelligenza artificiale per il monitoraggio delle terapie intensive (CLEW AI based tele-ICU)[6]. CLEW amplia la capacità dei reparti intensivi con l’intelligenza artificiale, proteggendo sia i malati sia il personale di prima linea. Utilizza algoritmi di machine learning per prevedere l’insufficienza respiratoria, che può essere esiziale nei pazienti COVID-19. Consente al personale di sorveglianza di monitorare a distanza molte posizioni contemporaneamente, e individuare i casi critici.
Affidabilità dei dati e trasparenza
È emerso dalla sperimentazione il tema dell’affidabilità dei dati su cui sono stati addestrati i sistemi di allerta, e quello della trasparenza e spiegabilità dell’utilizzo dell’intelligenza artificiale, in modo da consentire ai medici di comprendere il ragionamento retrostante la predizioni dell’intelligenza artificiale.
“Una potenziale preoccupazione etica relativa all’implementazione dell’intelligenza artificiale in tele-terapia intensiva è il rischio di fare troppo affidamento sulla tecnologia
trascurando l’importanza delle competenze e del giudizio umani. È essenziale garantire che l’intelligenza artificiale venga utilizzata come strumento per supportare e migliorare il processo decisionale clinico piuttosto che sostituirlo interamente”[7].
Formazione
Per poter raggiungere questo risultato occorre sviluppare la formazione in telemedicina e in intelligenza artificiale, in particolare per affrontare:
- il problema dell’accessibilità ai servizi da parte delle zone meno servite;
- la valutazione dei costi-benefici;
- l’impatto sui pazienti;
- l’impatto sulla professione: carico di lavoro clinico e soddisfazione/motivazione del medico.
Il rischio di impoverimento dell’intelligenza umana
È quest’ultimo aspetto su cui vogliamo concentrare le nostre riflessioni di prospettiva. Una ampia ricerca condotta in Giappone, su ruolo e competenze dei medici nella fase di applicazione dell’intelligenza artificiale, mette in luce gli aspetti connessi alla percezione del proprio ruolo professionale ed in particolare la responsabilità professionale del medico.
“Pertanto, inizialmente, potrebbe andare bene lasciare fare alla macchina, pensando che gli esseri umani possano produrre errori e che la macchina sia sempre imparziale (innocente). Ma c’è sempre la possibilità che ad un certo punto, guidati da tali pensieri, gli esseri umani smettano di pensare da soli, e qualora ciò accadesse, sarebbe possibile che la presunzione di innocenza (imparzialità), oggi data per scontata, si rivelasse falsa a causa del modi senza precedenti in cui il sistema può apprendere e maturare. È questo che mi preoccupa”[8]. Queste preoccupazioni, espresse da uno dei medici intervistati nella ricerca, sono corrette, ma non esauriscono l’intera criticità del problema. Non è tanto il comportamento inatteso del sistema di intelligenza artificiale che ci deve preoccupare, quanto che “gli esseri umani smettano di pensare da soli” e soprattutto smettano di sentirsi responsabili del risultato del loro lavoro.
Etica e considerazioni professionali nella telemedicina AI-assistita
Si tratta di un tema che apre la strada a potenziali trasformazioni permanenti nella motivazione e nell’etica del lavoro.
Il problema della scelta guidata, in presenza di elevate informazioni fornite al paziente, è un problema rilevante, come abbiamo visto, che l’applicazione dell’intelligenza artificiale non risolve, ma accentua. Tra i commenti riportati nella survey giapponese citata, uno in particolare esprime bene le difficoltà a cui sia il medico sia il paziente possono trovarsi esposti qualora la diagnosi dell’intelligenza artificiale differisca da quella del medico: “Ci possono essere medici che sono in disaccordo o non credono alla diagnosi dell’intelligenza artificiale. Alla fine, la situazione diverrebbe difficile, con il paziente posto a scegliere tra la diagnosi dell’intelligenza artificiale e quella del medico”[9].
Il rischio di una deresponsabilizzazione del medico
Il rischio di una deresponsabilizzazione del medico, posto di fronte a sistemi di telemedicina assistiti da intelligenza artificiale senza avere la capacità non di subirli, ma di usarli come strumenti di supporto alle proprie decisioni, non è un rischio valutabile con semplici indicatori statistici basati su una casistica per quanto estesa. Si tratta di un rischio sistemico, capace di trasformare nel profondo il ruolo del medico, trasformandolo in un burocrate. Questa trasformazione si verificherebbe nel tempo, probabilmente nell’arco di una generazione: forse il medico come lo conosciamo oggi verrà sostituito da figure tecniche di controllo del funzionamento dell’intelligenza artificiale.
Ma con chi si confronterebbe il paziente? Chi potrebbe presentare al paziente il quadro olistico delle scelte che gli vengono proposte? Chi potrebbe affrontare l’impatto emotivo delle alternative che si presentano?
Non c’è errore più grande che possiamo compiere oggi, di quello di lasciare che l’intelligenza artificiale dia da sola le risposte. Questo è quello che i tecnologi sottintendono quando, correttamente, prevedono sempre più performanti modelli e, inconsapevolmente, pongono le basi per l’impoverimento dell’intelligenza umana.
Sfide future e direzioni di sviluppo della AI-Telemedicina
Il tema non è di porre le briglia allo sviluppo tecnologico con farraginose norme e inutili adempimenti. Il vero tema è considerare e reperire le risorse per affrontare una sfida colossale: investire nella cultura dei cittadini, investire nella preparazione professionale, discutere degli aspetti etici, motivazionali, relazionali oltre che tecnici, connessi allo sviluppo dell’intelligenza artificiale.
Il rischio futuro non è lo sviluppo dell’intelligenza dei robot, ma l’intorpidimento dell’intelligenza umana.
Note
[1]) ) Marilin .J. Field (editor), A Guide to Assessing Telecommunications in Health Care, Washington (DC): National Academies Press (US); 1996.
[2]) ) Christopher Manning, Artificial Intelligence Definitions. Stanford University Human-Centered Artificial Intelligence, September 2020.
[3]) Yueye Wang, Chi Liu, Wenyi Hu, Lixia Luo, Danli Shi, Jian Zhang, Qiuxia Yin, Lei Zhang, Xiaotong Han & Mingguang He, Economic evaluation for medical artificial intelligence: accuracy vs. cost-effectiveness in a diabetic retinopathy screening case, NPJ Digital Medicine, 7, Article n. 43 (2004).
[4]) Sharmila Nirojini, Kanaga, Devika, Pradeep, Exploring the Impact of Artificial Intelligence on Patient Care: A Comprehensive Review of Healthcare Advancements, Scholars Academic Journal of Pharmacy, 28/02/2024, DOI: 10.36347/sajp.2024.v13i02.003.
[5]) A. James, How Artificial intelligence is Disrupting Medicine and What it Means for Phisicians, Trends in Medicine, Harvard Medical School. April 13, 2023.
[6]) Sachin Sharma, Raj Rawal, Dharmesh Shah, Addressing the challenges of AI‑based telemedicine: Best practices and lessons learned, Journal of Education and Health Promotion, Published: 29-09-2023.
[7]) Ivi, p.5.
[8]) Da una intervista ad un medico riportata in: Masashi Tanaka, Shinji Matsumura, Seiji Bito, Roles and Competencies of Doctors in Artificial Intelligence Implementation:Qualitative Analysis Through Physician Interviews, JMIR FORMATIVE RESEARCH, 7, 2023.
[9]) Tanaka et al, pag 6.
