La recente crisi pandemica ha messo in luce i problemi che possono derivare da una cattiva gestione o da una gestione non ottimizzata delle risorse del sistema sanitario. Tutti questi problemi derivano essenzialmente da una insufficiente integrazione dei servizi territoriali, ospedalieri e dei servizi sociali, ma soprattutto dalla mancanza di adeguate strategie di cooperazione tra i vari stakeholder regionali per conseguire quelle sinergie virtuose atte a risolvere i problemi e le criticità che il sistema sociosanitario regionale si trova ad affrontare.
Il progetto AIEHEM si pone l’obiettivo di fornire supporto alla direzione sanitaria regionale nell’individuare gli stakeholder da coinvolgere, gli ambiti di intervento e le risorse da ottimizzare per raggiungere determinati outcome che pertengono principalmente all’ambito economico, ambientale, organizzativo e sociale.
Gli obiettivi del progetto AIEHEM
Il progetto AIEHEM si pone l’obiettivo di analizzare, ricorrendo a uno specifico modello di intelligenza artificiale (IA), i dati messi a disposizione dal sistema sanitario regionale allo scopo di individuare i principali fattori correlati a determinati outcome che l’organizzazione sanitaria intende raggiungere. Gli outcome possono essere di varia natura. Economici (es.: ottimizzare il consumo delle risorse di sistema nelle cronicità etc.), organizzativi (es.: ridurre le liste di attesa, aumentare la qualità dei servizi erogati etc.), sociali (es.: evidenziare le condizioni di rischio per un risk management proattivo etc.), ambientali (es.: ridurre l’impatto ambientale delle strutture sanitarie etc.).
Le risultanze del modello di IA servono non solo per individuare le principali variabili di studio da prendere in considerazione, ma anche per definire gli ambiti di intervento e conseguentemente anche gli stakeholder da coinvolgere nel progetto di cambiamento organizzativo da avviare per raggiungere gli outcome stabiliti. Il carattere innovativo di questo progetto non è solo legato alle tecnologie informatiche ed alle metodologie di studio utilizzate, ma anche all’approccio globale che viene seguito. Per la prima volta infatti è un modello di IA ad aiutare a individuare gli attori, i mezzi, le attività, le conoscenze, le opportunità da cogliere, ovvero l’ecosistema più adatto da coinvolgere per risolvere le criticità riscontrate, a cominciare dalle tipologie di utenti finali interessate.
Il progetto AIEHEM risulta perfettamente in linea con l’approccio “One Health” descritto dalla Missione 6 del PNRR italiano, in quanto teso a favorire la collaborazione tra diverse discipline e professionisti attraverso la valorizzazione dei dati e delle informazioni che il sistema sanitario mette a disposizione. Lo scopo ultimo è quello di migliorare la capacità di programmazione dei servizi sociosanitari, approcciando la complessità delle criticità analizzate in ambito sociosanitario ed il volume dei dati disponibili (non solo quelli afferenti ai principali flussi ministeriali, ma anche quelli regionali ed organizzativi) mediante l’utilizzo di un modello di IA che semplifichi i problemi oggetto di studio e che aiuti ad individuare i principali stakeholder che dovrebbero essere chiamati a risolverlo. La raccolta, il raffinamento e la successiva elaborazione dei dati disponibili vengono effettuati nel rispetto del codice per la protezione dei dati personali ed anche (e soprattutto) dei valori etici e dei principi fondamentali che sono alla base della pratica della promozione della salute e della sanità pubblica, mediante il coinvolgimento del data protection officer e del comitato etico aziendali.
Intelligenza Artificiale “spiegabile” a supporto dei pazienti: come funziona, benefici, sfide
Descrizione progetto AIEHEM
Viene presentato, solo a titolo di esempio, l’utilizzo della metodologia AIEHEM per risolvere un problema di ottimizzazione della gestione delle risorse di sistema nell’assistenza di tipologie di pazienti a rischio di decesso. In particolare, viene considerato il problema di ridurre il consumo inappropriato di risorse nell’ultimo trimestre di vita degli assistiti. Lo scopo è essenzialmente quello di intensificare le cure palliative evitando di svolgere indagini cliniche che non possono fornire informazioni per cambiare l’atteggiamento terapeutico e quindi per migliorare il quadro clinico di tali tipologie di pazienti, che conducono inevitabilmente anche ad un ingiustificato aumento del consumo di risorse e delle liste di attesa dei servizi diagnostici coinvolti.
In questo caso il modello di IA analizza i dati messi a disposizione dal flusso ministeriale A delle schede di dimissione ospedaliera del 2019 per individuare i fattori correlati con un consumo di risorse superiore alla media in casi di ricovero di persone nell’ultimo trimestre di vita. Si sono volutamente esclusi i dati relativi al periodo pandemico in quanto l’allocazione delle risorse per la gestione della pandemia poteva influenzare l’esito dell’analisi.
Per individuare le variabili di analisi maggiormente correlate con il problema o la criticità che si intende indagare si è scelto di utilizzare un modello di tipo A a stato singolo di Unorganized Turing Machine (UTM) (Turing, 1948), costituito da una rete combinatoria di porte NAND la cui configurazione ottimale viene selezionata mediante l’evoluzione di una popolazione di individui ciascuno dei quali rappresenta la codifica di una configurazione di UTM. In questo modo la UTM viene generata “in modo non sistematico e casuale” da un insieme di porte NAND a due ingressi. Turing ha scelto una porta NAND perché ogni altra operazione logica può essere eseguita da un insieme di unità NAND. Una macchina non organizzata di tipo A di Turing può essere considerata “una specie di rete neurale booleana senza una struttura a strati, poiché le connessioni ricorrenti sono consentite senza vincoli” (Teuscher e Sanchez, 2000).
Ogni possibile configurazione delle porte NAND che costituiscono la UTM è stata codificata con un vettore binario e per individuare la configurazione ottimale, ovvero il vettore che permettesse di massimizzare l’accuratezza predittiva del modello, è stato utilizzato un algoritmo ibrido swarm-evolutivo, che abbiamo chiamato Evolutionary Bait Balls Model (EBBM), in cui i vettori di configurazione delle porte NAND sono considerati come individui membri di uno sciame. Ciascuno di essi è in grado di compiere solo tre operazioni elementari (repulsione dal prossimo, attrazione verso un altro individuo particolarmente performante, orientamento rispetto al prossimo). L’evoluzione di questa popolazione porta alla comparsa di comportamenti emergenti (lo stato in cui si forma una sorta di bolla in cui la maggior parte degli individui tende ad orientarsi rispetto al prossimo), manifestando una sorta di intelligenza collettiva (Lella et al., 2022).
Il modello evolutivo originale della bait ball, che ha ispirato il nostro EBBM, è stato sviluppato da alcuni ricercatori che hanno scoperto che all’interno del gruppo di pesci che cercano di sfuggire ai predatori un nucleo generato spontaneamente costituisce quello che chiamavano “mandria egoista” (Roberts, 2021) (Yang, 2018). Questa denominazione deriva dalla teoria egoistica del branco secondo cui gli individui all’interno della popolazione tentano di ridurre il rischio di predazione ponendo altri conspecifici tra loro e i predatori. Tornando al modello bait ball, è proprio questo comportamento “egoistico” adottato dagli individui che porta alla formazione della configurazione collettiva ottimale.
Con tale algoritmo ibrido swarm-evolutivo si ottengono risultati migliori in termini di accuratezza predittiva rispetto ad altri modelli evolutivi classici come l’algoritmo genetico, come dimostrato in (Lella et al., 2022) dove il modello EBBM è stato utilizzato per implementare un sistema esperto in grado di diagnosticare con un discreto livello di accuratezza il rischio di incorrere nel diabete mellito di tipo II.
Rispetto agli altri modelli di machine learning e IA utilizzati per implementare un DSS destinato ai dirigenti e ai manager dei sistemi e delle organizzazioni sanitarie, l’EBBM UTM permette di creare un modello predittivo caratterizzato da un numero di nodi contenuto che prende in considerazione solo un sottoinsieme delle variabili non di classe nell’effettuare le sue previsioni. Tale modello permette agli esperti umani di comprendere appieno i criteri di valutazione utilizzati dal modello, esplicitando possibili bias che potrebbero aver portato ad una cattiva selezione dei dati utilizzati per il suo addestramento. Il modello ricavato attraverso l’ EBBM UTM, se validato da un team di esperti umani, potrebbe anche essere utilizzato proprio per la sua semplicità per implementare delle linee guida decisionali adottabili dalla dirigenza o dai primari (figura 1).
Figura 1- modello previsionale di UTM selezionato attraverso l’algoritmo EBBM
Da una prima analisi effettuata su una parte di dati presenti sul flusso SDO del 2019, il modello EBBM UTM è stato già in grado di stabilire che le variabili sesso e distretto di appartenenza non sono da considerare. Questo permette di escludere come stakeholder da coinvolgere i referenti dei distretti territoriali. Non si riscontrano inoltre disuguaglianze di genere e non è necessario coinvolgere le associazioni di assistiti che se ne occupano. Lo stesso modello di IA in questa prima analisi sembrerebbe invece suggerire il coinvolgimento dei servizi psichiatrici e di quelli ospedalieri relativamente alla gestione di determinate tipologie di ricoveri programmati.
La scelta di utilizzare il superamento della soglia regionale di spesa sanitaria pro capite come variabile di classe potrebbe aver introdotto un bias cognitivo. Si cercherà di ripetere l’analisi del modello EBBM UTM utilizzando differenti proxy per valutare l’adeguatezza dell’assistenza che è stata erogata agli assistiti prossimi al decesso. Proxy alternativi potrebbero essere dati dal numero di accessi al pronto soccorso o dal costo delle terapie farmacologiche che sono state somministrate ai pazienti prossimi al decesso. Le nuove simulazioni permetteranno di validare o meno il modello predittivo che è stato definito.
Lo sviluppo di un sistema di supporto decisionale destinato a dirigenti e manager della sanità
Lo sviluppo di un sistema di supporto decisionale (DSS) destinato ai dirigenti e ai manager dei sistemi e delle organizzazioni sanitarie deve necessariamente tenere in considerazione un molteplice numero di variabili (Longaray et al., 2016; Khademolqorani and Hamadani, 2015). Questi particolari DSS sono quindi caratterizzati da un elevato livello di complessità che si traduce nella definizione di gruppi o gerarchie di variabili da prendere in considerazione per risolvere determinate criticità e problematiche.
Come sottolineato da Diaby et al. (2013), questi DSS si differenziano principalmente dagli altri per il fatto che interessano beni di natura fondamentale ed insostituibile, ovvero la salute delle persone. Da qui deriva l’elevato livello di responsabilità legato alla decisione di adottare o meno determinate soluzioni informatiche che fungano di supporto alla dirigenza. Decisioni sbagliate prese con l’aiuto dei DSS possono mettere a repentaglio la salute se non la vita stessa di alcuni pazienti. Può anche capitare che per migliorare lo stato di salute di alcuni pazienti si arrivi a pregiudicare quello di altri pazienti (Marsh et al., 2014).
Va anche sottolineato il fatto che tali DSS spesso si basano su algoritmi di machine learning e di IA che si presentano come vere e proprie “black box”, non lasciando trapelare su quali presupposti si basino le loro previsioni o le loro scelte (Academy of Medical Royal Colleges, 2019). Questo aumenta la difficoltà nel valutare il grado di affidabilità di tali sistemi, rendendoli particolarmente vulnerabili a bias e ad attacchi volutamente maliziosi.
Tra i principali modelli di machine learning ed IA utilizzati per implementare dei DSS figurano algoritmi basati sugli alberi decisionali, sulla regressione lineare e logistica, sull’inferenza bayesiana e sulla classificazione (Bashir et al., 2014; Zandi, 2014; Roumani et al., 2013).
Tali sistemi si avvalgono spesso di Multicriteria Decision Analysis Methods (MCDA) o di Multicriteria Decision Making Methods (MCDM) (Aghdaiea et al. 2014).
I MCDA sono algoritmi che permettono di semplificare problemi complessi riconducendoli ad una serie di criteri elementari da prendere in considerazione nel trovare la soluzione (Angelis et al., 2017). Nelle ultime decadi i MCDA sono stati applicati in vari ambiti tra cui la gestione dei sistemi sanitari (Longaray et al., 2016). Nello specifico sono stati utilizzati in ambito clinico (Gasol et al., 2022; Berner, 2007) e in ambito gestionale (Marsh et al., 2014; Ju et al., 2012; Wu et al., 2007; Baltussen et al, 2006).
I MCDM sono invece algoritmi che permettono di trovare soluzioni in presenza di obiettivi multipli (San Cristobal, 2013). Anche questi algoritmi sono stati utilizzati in ambito clinico sanitario (Bashir et al. 2014) e in ambito gestionale sanitario (Narci et al., 2014; Ishizaka and Nemery, 2013).
Sia i MCDA che i MCDM non fanno altro che effettuare il raggruppamento o il ranking di possibili soluzioni alternative a problemi di natura amministrativa. Per questo motivo si comportano anch’essi come delle black box decisionali che portano a nascondere i criteri che hanno guidato la scelta della soluzione da adottare, come pure i bias e tutti gli altri fattori che ne hanno influenzato la selezione. Siamo invece qui interessati allo studio dei problemi attraverso algoritmi che esplicitino i nessi causali tra le variabili prese in considerazione dal sistema nel processo che porta all’individuazione della soluzione. Solo in questo modo è possibile verificare a posteriori se il processo decisionale automatizzato si sia basato su un numero sufficiente di dati, se questi siano caratterizzati da un sufficiente livello di qualità e di coerenza, se la loro selezione sia stata o meno influenzata da bias cognitivi. Una rappresentazione grafica semplificata dei nessi causali tra le variabili di studio che hanno portato il DSS a individuare determinate soluzioni o ad effettuare determinate previsioni, può aiutare i decisori umani a valutare l’affidabilità del sistema e a prendere le decisioni più appropriate.
Conclusioni
Il principale fruitore dei benefici derivanti dall’adozione della metodologia AIEHEM è l’assistito regionale. Nel caso del problema dell’ottimizzazione della gestione delle risorse di sistema nell’assistenza di tipologie di pazienti a rischio di decesso, che si porta come esempio, i vantaggi a medio-lungo termine di cui questi trae beneficio sono principalmente quello di migliorare la qualità delle cure palliative e di ridurre le lista di attesa relative a tutte le tipologie di visita specialistica e di esame strumentale correlate con il problema che si intende affrontare. Anche nel caso esaminato sembrerebbero infatti venire effettuati degli approfondimenti specialistici non necessari, forse derivanti da pratiche di medicina difensiva.
Con le informazioni ricavate attraverso la metodologia AIEHEM anche il personale operante nelle strutture territoriali ed ospedaliere viene messo in grado di coordinare al meglio le proprie attività e ad ottimizzare l’utilizzo delle proprie risorse. L’aumento della qualità dei servizi erogati si ripercuote poi non solo sugli assistiti, ma anche sui loro familiari e caregiver a cui possono essere date istruzioni più precise su come gestire tali tipologie di pazienti.
Nel caso considerato, il modello EBBM UTM ha suggerito di coinvolgere come stakeholders nel progetto di ottimizzazione della gestione delle risorse di sistema nell’assistenza di tipologie di pazienti a rischio di decesso, in primis referenti di associazioni di determinate tipologie di assistiti e caregiver, assieme ai referenti delle strutture sanitarie regionali che erogano i servizi corrispondenti ai MDC individuati dal modello di IA.
Il modello di IA preso in considerazione deve però servire ad estendere, non a sostituire le capacità analitiche degli esperti umani che devono in ogni caso intervenire per predisporre le linee di intervento migliori per approcciare il problema che viene affrontato. Una volta individuati, grazie al modello EBBM UTM, gli stakeholders e le attività critiche, verrà adottata la metodologia di progetto denominata “Theory of Change”, utilizzata anche dall’UNICEF e da altre organizzazioni afferenti all’ONU, che si è dimostrata particolarmente efficace nel trovare soluzioni a problemi contingenti che richiedessero interventi di natura politica, amministrativa ed organizzativa (ToC Center, 2021).
Considerato il problema specifico della ottimizzazione della gestione delle risorse di sistema nell’assistenza di tipologie di pazienti a rischio di decesso, che viene preso come esempio di utilizzo della metodologia AIEHEM, si stima un risparmio potenziale annuale di risorse del SSR pari a circa 16 mln di euro.
Bibliografia
Academy of Medical Royal Colleges (2019), Artificial Intelligence in Healthcare, retrieved on June 29th, 2022 from https://www.aomrc.org.uk/reports-guidance/artificial-intelligence-in-healthcare/ .
Aghdaiea, M.H., Zolfanic, S.H., Zavadskas, E.K., Synergies of Data Mining and Multiple Attribute Decision Making, Procedia – Social and Behavioral Sciences, vol.73, pp. 388-395.
Angelis, A., Kanavos, P. (2017), Multiple Criteria Decision Analysis (MCDA) for evaluating new medicines in health technology assessment and beyond: The advance value framework. Soc. Sci. Med., vol. 188, pp. 137-156.
Baltussen, R., Stolk, E., Chisholm, D., Aikins, M. (2006), Towards a multi-criteria apporach for priority setting: an application to Ghana. Health Econ, vol 15, pp. 689-696.
Bashir, S., Qamar, U., Khan, F.H. (2014), Heterogeneous classifiers fusion for dynamic breast cancer diagnosis using weighted vote based ensemble. Quality & Quantity, DOI: 10.1007/s11135-014-0090-z.
Ben-Gal, I. (2007). Bayesian Networks. In Ruggeri F, Kennett RS, Faltin FW (eds.). Support-Page. Encyclopedia of Statistics in Quality and Reliability. John Wiley & Sons.
Berner, E.S. (2007), Clinical Decision Support Systems, Theory and Practice. Second Edition Springer, 2007.
Diaby, V., Campbell, K., Goeree, R. (2013), Multi-criteria decision analysis (MCDA) in health care. A bibliometric analysis. Oper Res Health Care, vol.2, PP.20-24.
Gasol, M., Bosch, J.A.; Pontes, C., Obach, N. (2022), Early Access to Medicines: Use of Multicriteria Decision Analysis (MCDA) as a Decision Tool in Catalonia (Spain). J. Clin. Med., vol.11, p.1353.
Ishizaka, P., Nemery, P. (2013), Multi-Criteria Decision Analysis: Methods and Software. Wiley, 2013
Ju, Y., Wang, A., Liu, X. (2012). Evaluating emergency response capacity by fuzzy AHP and 2-tuple fuzzy linguistic approach. Expert. Syst. Appl., vol 39, pp.6972-6981.
Kam Ho, T. (1995). Random Decision Forests, Proceedings of the 3rd International Conference on Document Analysis and Recognition, Montreal, QC, pp. 278–282
Khademolqorani, S., Hamadani, A.Z. (2015), Development of a Decision Support System for Handling Health Insurance Deduction. Int. J. of Adv. Comp. Sci. And App., vol 6, no.2
Lella, L., Licata, I., Pristipino, C. (2022). Pima Indians Diabetes Database Processing through EBBM-Optimized UTM Model. In Nathalie Bier, Ana L. N. Fred, Hugo Gamboa, editors, Proceedings of the 15th International Joint Conference on Biomedical Engineering Systems and Technologies, BIOSTEC 2022, vol 5: HEALTHINF, Online Streaming, February 9-11, 2022. pages 384-389, SCITEPRESS, 2022.
Longaray, A.A., Ensslin, L., Munhoz, P., Tondolo, V., Quadro, R., Dutra, A., Ensslin, S. (2016). A systematic literature review regarding the use of multicriteria methods towards development of decision support systems in health management, Procedia Computer Science, vol., 100, pp.701-710.
Marsh, K., Lanitis, T., Neasham, D., Orpanos, P., Caros, J. (2014). Assessing the value of health care interventions using multi-criteria decision analysis: A review of the literature. PharmacoEconomics, vol. 32, pp. 345-365.
Narci, H.O., Ozcan, Y.A., Sahin, I. (2014), An examination of competition and efficiency for hospital industry in Turkey. Health Care Management Science, DOI: 10.1007/s10729-014-9315-x.
Roberts T.J.: Dynamical and computational structures under the sea: modelling of fish motion, http://studentnet.cs.manchester.ac.uk/resources/library/3rd-year-projects/2016/timothy.roberts-2.pdf , last accessed 2021/09/30.
Roumani, Y.F., May J.H., Strum, D.P., Vargas, L.G. (2013). Classifying higly imbalanced ICU data, Health Care Management Science, vol.16, no.2, pp.119-128.
San Cristobal, J.R. (2013). Critical Path Definition Using Multicriteria Decision Making: PROMETHEE Method, J. Manag. Eng., vol 29.
Teuscher C., Sanchez E. (2000). A Revival of Turing’s Forgotten Connectionist Ideas: Exploring Unorganized Machines. In Proceedings of the 6th Neural Computation and Psychology Workshop, NCPW6, University of Lige.
ToC Center, (2021). What is Theory of Change, retrieved on June 29th, 2022 from https://www.theoryofchange.org/what-is-theory-of-change/
Turing A. (1948). Intelligent Machinery. In Collected Works of A.M. Turing: Mechanical Intelligence. Edited by D.C. Ince. Elsevier Science Publishers, 1992.
Wu, C.R., Lin, C.T., Chen, H.C. (2007). Optimal selection of location for Taiwanese hospitals to ensure a competitive advantage by using the analytics hierarchy process and sensitivity analysis. Build. Environ., vol.42, pp.1431-1444.
Yang W. (2018). When the Selfish Herd is Unsafe in the Middle. In: The 22nd Asia Pacific Symposium on Intelligent and Evolutionary Systems
Zandi F. (2014). A bi-level interactive decision support framework to identify data mining-oriented electronic health record architectures, Applied Soft Computing, vol.18, pp.136-145.
