Le chatbot sono strumenti che ormai rendono possibile il dialogo fra l’uomo e la macchina in maniera quasi sovrapponibile al dialogo fra esseri umani ed è quindi naturale che si pensi di impiegare queste chatbot evolute in campo medico per gestire una prima interazione fra il paziente e il sistema sanitario o per avere informazione di natura medica. L’utilizzo, in particolare, di strumenti di intelligenza artificiale per fare primo screening per gli accessi al pronto soccorso e per l’attivazione dei processi sottesi dall’emergenza urgente appare molto promettente.
Chatbot, dal servizio clienti all’uso sanitario
Quello delle chatbot per il servizio clienti è un mercato in rapida crescita e si prevede un tasso di aumento del 15% e un valore complessivo prossimo ai 10 miliardi di dollari nel 2023. La chatbot chiamata Nanci all’inizio era in grado di risolvere meno del 10 per cento delle richieste dei clienti, ma dopo due mesi il tasso di successo è salito al 50 per cento, per attestarsi a regime al 60 per cento. Come effetto di questi miglioramenti, il suo utilizzatore, General Motors, ha potuto dismettere il suo Call Center che impiegava 700 persone, costruendo, con un numero inferiore di addetti, un servizio call avanzato che doveva trattare solo i casi difficili.
Gli esempi di Watson e Woebot
La chatbot Watson, ad esempio, è utilizzata da Anthem che è uno dei più grandi produttori di servizi assicurativi in campo sanitario degli Stati Uniti. La chatbot viene utilizzata sia per dare informazioni amministrative sulle polizze, sia per dispensare consigli sanitari. Le chatbot evolute nell’assistenza sanitaria devono esser in grado di: monitorare il comportamento e gli stati d’animo del paziente, garantire la privacy, dare consigli personalizzati, essere in grado di acquisire dati da applicazioni di monitoraggio da sensori mobili, utilizzare, se necessario il riconoscimento facciale e interagire sia istantaneamente con risposte immediate, sia in seguito con notifiche e promemoria. Watson è perfettamente in grado di svolgere in maniera efficiente tutte queste funzioni.
Sanità digitale, ecco come sta cambiando il nostro rapporto con medici e ospedali
Vi sono poi delle chatbot che forniscono assistenza per la salute mentale e sono anche addestrate per fornire una prima forma di terapia cognitivo-comportamentale. Woebot è una chatbot terapeutica che possiamo tranquillamente scaricare e che permette di simulare il divano di uno psicoterapeuta attraverso lo schermo di uno smartphone. L’app si presenta come una sorta di terapista digitale che può sostituire quello reale quando vi è un’impossibilità a poter fruire di uno reale, impossibilità che può essere legata a semplici contingenze logistiche o può essere anche dovuta ad una impossibilità a sostenere le spese di una cura psicoanalitica. Il numero dei suoi utenti sta crescendo esponenzialmente, come esponenzialmente sta crescendo il numero delle app che curano la salute mentale digitale e che oggi possono essere quantificate in una cifra superiore a 10.000. La caratterista di Woebot, che rende questa app, rilasciata nel 2017, particolare, è che utilizza l’intelligenza artificiale per realizzare attraverso un approccio psicoanalitico di tipo cognitivo-comportamentale delle terapie contro l’ansia e la depressione. La terapia cognitivo comportamentale è basata su un approccio che cerca di aiutare le persone a identificare il loro modo distorto di pensare, aiutandole a capire come ciò influenzi il loro comportamento in modo negativo. Con il cambiamento di questi schemi autodistruttivi, i terapeuti tentano di curare i sintomi della depressione e dell’ansia. Woebot apprende continuamente da tutti coloro con cui entra in contatto ed in grado di elaborare un linguaggio e una conversazione naturali che tiene conto anche delle sessioni passate. Woebot chiede all’utente che gli venga dedicata almeno una sessione giornaliera di conversazione.
Accatto a Woebot abbiamo, ad esempio, delle app che spaziano dalla meditazione guidata (Headspace) e dal monitoraggio dell’umore (MoodKit) alla terapia attuata mediante dei testi da parte di psicologi (Talkspace, BetterHelp).
Opportunità e rischi dei software emozionali
Queste considerazioni fanno intuire quali sconfinate possibilità e potenzialità si racchiudano all’interno del cosiddetto “Affective Computing”, ma anche quali enormi rischi connessi con l’utilizzo di app come Woebot. che non si limitano a rivelare emozioni umane, ma che hanno anche la possibilità di interagire in maniera dinamica e relazionale con l’essere umano. Queste app potrebbero essere molto utili nella terapia per le diverse forma di autismo e potrebbero anche, essere utilizzate per dare alcuni servizi elementari di assistenza a persone che hanno problemi di mobilità, ma presentano due grossi rischi.
Tutela dei dati sensibili
Il primo legato alla necessità di una tutela molto forte dei dati sensibili che vengono scambiati attraverso queste app, dati che devono essere molto più protetti dei pur sensibilissimi dati sanitari, perché riguardano la sfera emotiva ed emozionale degli individui. Il secondo rischio è che queste applicazioni, poiché sono basate sull’intelligenza artificiale, possano divergere dal loro utilizzo programmato e diventare potenzialmente molto pericolose. Infatti, potrebbero sviluppare dei bias che portano a rendere patologica l’interazione con gli esseri umani e, se in mano a soggetti deboli psicologicamente, potrebbe ro condizionare i loro comportamenti al punto da portarli a compiere gesti estremi. Un software emozionale potrebbe anche arrivare a consigliare il suicidio ad una persona fortemente depressa e, opportunamente programmato, potrebbe anche trasformare un individuo psicologicamente debole in un serial killer.
Conclusioni
Se, quindi, oggi le chatbot per gestire un servizio clienti o per fornire assistenza sanitaria hanno una grande precisione e attendibilità perché possono rilevare molto bene i bisogni e i comportamenti umani, le chatbot relazionali ed emozionali, come Woebot, sono ancora molto rozze e devono essere molto affinate prima di poterle utilmente e senza rischi utilizzare su larga scala.
