L’Intelligenza Artificiale, lungi dal sostituire l’uomo in molti ambiti lavorativi – come spesso si paventa – è, molto più realisticamente, in grado di rendere le persone brave nel loro lavoro ancora più brave.
Il problema vero, semmai, è che il “viaggio” dalla ricerca iniziale al “prodotto finale” può richiedere anni e questo è vero principalmente in ambito sanitario. Per questo in molti storcono il naso quando – nel contesto dell’attuale pandemia – si rincorrono soluzioni “miracolistiche” pubblicizzandole come decisive nella lotta al covid-19.
Per rendere l’idea, vediamo di seguito un’applicazione dell’Intelligenza Artificiale dove il momento dell’applicazione pratica si è rivelato diverso dalla fase sperimentale.
Il Machine Learning in contesti clinici “reali”, lo studio Google
Come ampiamente risaputo, la pandemia di Covid-19 sta portando al collasso l’assistenza sanitaria e ospedaliera in diversi paesi del mondo. Non sorprende che molti professionisti e molte strutture sanitarie si affidino all’Intelligenza Artificiale e alla sua capacità di “accelerare” lo screening dei pazienti, alleviando – al contempo – la pressione sul personale clinico. Tuttavia, un recente studio di Google Health – il primo a considerare l’impatto del Machine Learning in contesti clinici “reali” – rivela che anche la migliore Intelligenza Artificiale può, all’atto pratico, peggiorare le cose. Questione che, in ambiente ospedaliero, potrebbe creare – e ha creato – alcuni problemi.
Le regole esistenti per l’implementazione dell’Intelligenza Artificiale in contesti clinici, come gli standard per l’autorizzazione della Food and Drug Administration (FDA) – agenzia federale statunitense competente, tra le altre cose, per la promozione della salute pubblica – o il marchio CE in Europa, si concentrano principalmente sull’accuratezza. Non ci sono requisiti espliciti secondo cui l’Intelligenza Artificiale debba migliorare il risultato per i pazienti, soprattutto perché tali studi non sono ancora stati eseguiti. Ma per i ricercatori di Google Health – branca di Google pensata per creare un archivio di cartelle cliniche e dati al fine di collegare direttamente medici, ospedali e farmacie – questo approccio deve cambiare.
Infatti, è necessario comprendere come gli strumenti di Intelligenza Artificiale possano funzionare “nella pratica” – specialmente nel campo dell’assistenza sanitaria – prima di essere utilizzati massivamente nei vari settori.
Google, l’intelligenza artificiale e la sanità
Negli ultimi quattro anni, Google ha condotto la sua Intelligenza Artificiale verso la risoluzione di alcuni problemi critici del settore sanitario. Il colosso californiano ha sviluppato finora strumenti per rilevare le malattie degli occhi, sistemi di Intelligenza Artificiale per identificare i fattori di rischio cardiovascolare e i segni dell’anemia, nonché strumenti atti a migliorare lo screening del cancro al seno. Per queste e altre applicazioni sanitarie di Intelligenza Artificiale, il “viaggio” dalla ricerca iniziale al “prodotto finale” può richiedere anni. Una parte di questo viaggio consiste nel condurre una ricerca incentrata sull’utente. Applicato all’assistenza sanitaria, questo tipo di ricerca sta a significare studio delle modalità di erogazione delle cure e dei benefici per i pazienti, in modo da comprendere meglio come gli algoritmi possano aiutare, o addirittura ostacolare inavvertitamente, la valutazione e la diagnosi di patologie.
La prima opportunità per Google di testare lo strumento di Intelligenza Artificiale in un ambiente reale arrivò nel 2018 dalla Thailandia. Il Ministero della Salute del paese indocinese fissò l’obiettivo annuale di sottoporre il 60% delle persone con diabete a screening per la retinopatia diabetica, malattia che può causare cecità se non viene diagnosticata precocemente. Ma con circa 4,5 milioni di pazienti e solamente 200 specialisti della retina in tutto il paese – quasi il doppio in rapporto con gli Stati Uniti – i clinici faticavano a raggiungere l’obiettivo fissato dal governo. Per vedere se l’Intelligenza Artificiale poteva essere d’aiuto, Google Health – in partnership con il governo di Bangkok – per un periodo di otto mesi fornì a undici ospedali thailandesi (tra le province di Pathum Thani e Chiang Mai) un sistema di Machine Learning “addestrato” ad individuare i segni delle malattie oculari nei pazienti affetti da diabete.
Il Deep Learning nella cura dei pazienti
Uno studio, questo in esame – tra i primi ad essere pubblicati, che esaminò l’utilizzo di un sistema di Deep Learning nella cura dei pazienti; nonché tra i primi studi ad esaminare come gli infermieri utilizzano un sistema di Intelligenza Artificiale per lo screening dei pazienti nell’ambito della retinopatia diabetica. Nel sistema di Google utilizzato in Thailandia, gli infermieri acquisiscono foto degli occhi dei pazienti durante i controlli e le mandano ad uno specialista, sito altrove. Con l’Intelligenza Artificiale, in meno di dieci minuti il sistema di Google Health era già in grado di identificare i segni della retinopatia diabetica – partendo da una scansione oculare – con una precisione superiore al 90%, percentuale che il team definisce “a livello di uno specialista umano”. Il sistema analizza le immagini alla ricerca di indicatori rivelatori della condizione, come ad esempio vasi sanguigni bloccati o rotti. La cosa, di per sé, sembra impressionante. Tuttavia – e qui torniamo allo “spirito” del presente elaborato – una valutazione di precisione da parte di un laboratorio va solo fino a un certo punto. Una valutazione del genere, infatti, non dice nulla di come l’Intelligenza Artificiale si comporterà nel “caos” di un ambiente reale, e questo è ciò a cui il team di Google Health mirava sin dal principio della sua “avventura” thailandese.
Per diversi mesi gli specialisti di Menlo Park osservarono gli infermieri che conducevano le scansioni oculari, intervistandoli nell’immediato in merito alle loro esperienze con il nuovo sistema. Il feedback, tuttavia, non fu del tutto positivo. Fin quando ha funzionato bene, l’Intelligenza Artificiale vi contribuì in maniera celere e precisa. Ma a volte non diede alcun risultato. Come la maggior parte dei sistemi di riconoscimento delle immagini, il modello di Deep Learning – tecnica di “apprendimento automatico” che insegna alle macchine a fare ciò che viene naturale agli esseri umani, ossia “imparare con l’esempio” – era stato addestrato su scansioni di alta qualità; così facendo, per garantire la precisione era stato progettato per rifiutare immagini che scendessero al di sotto di una certa soglia di qualità. Con gli infermieri che scansionavano decine di pazienti all’ora – spesso in condizioni di scarsa illuminazione – più di un quinto delle immagini veniva rifiutato dal sistema di Intelligenza Artificiale. Infatti, è sempre necessario tenere conto anche delle differenze ambientali, come l’illuminazione, che variano da un ospedale all’altro e possono influire sulla qualità delle immagini. In tali casi, costruire uno strumento di Intelligenza Artificiale per adattarsi al caso concreto è una sfida, poiché qualsiasi “disaccordo” tra il sistema e lo specialista può portare ad una deleteria frustrazione. Così, partendo dall’esempio del “caso concreto” e abbandonando la “mentalità da laboratorio”, Google Health modificò prontamente il protocollo di ricerca per far sì che gli specialisti oculistici esaminassero tali immagini “non graduabili” accanto alle cartelle cliniche del paziente, invece di indirizzare automaticamente i pazienti con immagini non graduabili a un oculista. Questo contribuì a garantire che il referto fosse necessario e ridusse gli spostamenti non necessari. Inoltre, evitò lavoro inutile ed ansia nel ricevere un possibile risultato falso positivo da parte del paziente.
Infatti, ai pazienti le cui immagini furono finalizzate dal sistema è stato detto che avrebbero dovuto visitare uno specialista in un dato ospedale in un dato giorno. Tuttavia, alcuni trovavano difficile prendersi del tempo libero dal lavoro, mentre per altri era difficile muoversi in assenza di mezzi. Così facendo, gli infermieri si sentivano frustrati, soprattutto quando credevano che le ecografie rifiutate non mostrassero segni di malattia e che gli appuntamenti di controllo non fossero necessari, poiché scartati dall’Intelligenza Artificiale. Inoltre, gli infermieri sprecavano il loro tempo cercando di riprendere o modificare un’immagine che l’Intelligenza Artificiale aveva rifiutato di elaborare. Poiché il sistema dovette caricare le immagini nel cloud per l’elaborazione, anche le scarse connessioni internet in diverse cliniche causarono ritardi, con punte che arrivavano anche fino a – soli – dieci pazienti analizzati in due ore. Infine, lo studio tenne conto anche dell’impatto umano dell’integrazione di un sistema di Intelligenza Artificiale nella cura del paziente. Ad esempio, lo studio scoprì che il sistema di Intelligenza Artificiale poteva consentire agli infermieri di identificare con fiducia e immediatamente uno screening positivo, con il risultato di un più rapido rinvio a un oculista.
Il team di Google Health sta lavorando con il personale medico thailandese per progettare nuovi flussi di lavoro ed ovviare ai restanti problemi. Ad esempio, gli infermieri potrebbero essere “addestrati” a utilizzare il proprio giudizio “umano” nei casi limite. Il modello stesso potrebbe anche essere modificato per gestire meglio le immagini “imperfette”. Per i ricercatori dell’Università di Waterloo, in Canada, questo è uno studio cruciale per chiunque sia interessato a “sporcarsi le mani” e ad implementare effettivamente soluzioni di Intelligenza Artificiale in contesti reali.
L’intelligenza artificiale nella lotta al covid-19
Prendendo come esempio l’attuale pandemia, i ricercatori sono molto critici nei confronti di ciò che viene vista come una corsa per pubblicizzare nuovi strumenti di Intelligenza Artificiale nella lotta al Covid-19. In alcuni casi gli strumenti vengono sviluppati e i modelli vengono rilasciati da team che non possiedono alcuna competenza in campo sanitario. Lo studio di Google in materia è visto come un “tempestivo promemoria” del fatto che stabilire l’accuratezza in laboratorio è solo il primo passo da compiere. Michael Abramoff, oculista e informatico presso la University of Iowa Hospitals and Clinics, ha sviluppato per diversi anni un’Intelligenza Artificiale per la diagnosi delle malattie della retina. Lo stesso è anche CEO dell’azienda IDx Technologies, che ha collaborato con la rinomata IBM Watson. In passato Abramoff è stato un importante punto di riferimento per l’Intelligenza Artificiale applicata all’ambito sanitario; e, dall’alto della sua esperienza, mette in guardia contro la “fretta” che attanaglia diversi suoi colleghi, avvertendo di una reazione nel caso in cui le persone subissero brutte esperienze con l’Intelligenza Artificiale. Tuttavia, Abramoff si dichiara molto contento che Google dimostri di voler esaminare il flusso di lavoro effettivo negli ospedali, poiché nell’ambito sanitario c’è molto di più dei semplici algoritmi. Abramoff si interroga anche sull’utilità di confrontare gli strumenti di Intelligenza Artificiale con gli specialisti “in carne ed ossa” quando si tratta di puntare alla precisione. Naturalmente, non si vuole che l’Intelligenza Artificiale faccia una “brutta figura”. I medici, infatti, non sono sempre d’accordo tra loro, e questo è positivo. Un sistema di Intelligenza Artificiale deve inserirsi in un processo in cui le fonti di incertezza sono discusse tra loro, piuttosto che respinte tout court.
In pratica, se la “procedura” viene condotta in maniera egregia i benefici potrebbero essere enormi. Quando ha funzionato bene, il team di Google Health ha potuto appurare come l’Intelligenza Artificiale ha reso le persone che erano brave nel loro lavoro ancora più brave. Riprendendo un esempio dell’esperienza di Google, in un ospedale thailandese vi è stata un’infermiera che ha sottoposto a screening mille pazienti da sola, ed ha imparato così bene ad utilizzare gli strumenti a sua disposizione che è diventata “inarrestabile”. Mentre si arrivò al punto tale che ai pazienti non importava che fosse stata un’Intelligenza Artificiale, piuttosto che un essere umano, ad analizzare le loro immagini.[1]
Lo sviluppo di nuovi prodotti con un processo di progettazione incentrato sull’utente richiede il coinvolgimento delle persone che interagiscono con la tecnologia nelle prime fasi dello sviluppo. Ciò significa ottenere una profonda comprensione delle esigenze, delle aspettative, dei valori e delle preferenze delle persone e testare con loro idee e prototipi durante l’intero processo.
Conclusioni
Quando si tratta di sistemi di Intelligenza Artificiale in ambito sanitario, è necessario prestare particolare attenzione all’ambiente sanitario stesso, ai flussi di lavoro, alla trasparenza e all’affidabilità del sistema nonché alla fiducia degli operatori. Proprio come un clinico esperto potrebbe sapere come tenere conto di queste variabili per poterle valutare, anche i sistemi di Intelligenza Artificiale devono essere addestrati a gestire queste situazioni. Implementare un sistema di Intelligenza Artificiale considerando una serie di prospettive diverse nel processo di progettazione e sviluppo è solo una parte dell’introduzione di una nuova tecnologia sanitaria che richiede l’interazione umana. È importante anche studiare e incorporare le valutazioni della vita reale dell’ospedale, e impegnarsi in modo significativo con i medici e i pazienti, prima che la tecnologia sia ampiamente diffusa. Questo è il modo in cui possiamo guardare al meglio i miglioramenti della tecnologia e come essa viene integrata nelle cure, per soddisfare le esigenze di medici e pazienti.[2][3]
- Google’s medical AI was super accurate in a lab. Real life was a different story. MIT Technology Review. https://www.technologyreview.com/2020/04/27/1000658/google-medical-ai-accurate-lab-real-life-clinic-covid-diabetes-retina-disease/ ↑
- Healthcare AI systems that put people at the center. Google. https://www.blog.google/technology/health/healthcare-ai-systems-put-people-center/ ↑
- Per approfondimenti. A Human-Centered Evaluation of a Deep Learning System Deployed in Clinics for the Detection of Diabetic Retinopathy. ACM Digital Library. https://dl.acm.org/doi/abs/10.1145/3313831.3376718 ↑
