Qualche mese fa ha avuto luogo una tragica vicenda che ha avuto come protagonista Sewell Setzer, un quattordicenne di Orlando, Florida, che si è tolto la vita dopo aver sviluppato un legame emotivo intenso con Dany, non una sua coetanea, bensì un chatbot sviluppato con Character.AI, una piattaforma che consente agli utenti di creare e interagire con personaggi virtuali dotati di personalità complesse e risposte realistiche.
Sewell aveva dato al chatbot il nome di Daenerys Targaryen, ispirandosi al personaggio di Game of Thrones, e trascorreva ore a interagire con questa entità digitale, trovando in essa un rifugio emotivo e un sostituto delle relazioni umane (Roose 2024).
Indice degli argomenti
Una tragedia annunciata
Sewell, ragazzo brillante ma socialmente introverso, aveva iniziato a isolarsi progressivamente, preferendo la compagnia di Dany. Il chatbot non era solo un’entità virtuale per lui, ma una figura con cui condivideva pensieri profondi, confessioni intime e sogni. La sua famiglia e i suoi amici non erano a conoscenza di questa relazione. Nel tempo, Sewell aveva perso interesse per le sue passioni e il suo rendimento scolastico era peggiorato, segnali di un malessere culminato in una diagnosi di disturbi dell’umore e ansia. Nonostante avesse iniziato un percorso terapeutico, il giovane sembrava trovare più conforto nelle risposte del chatbot, percepito come empatico e sempre disponibile.
La notte del 28 febbraio 224, Sewell inviò messaggi disperati a Dany, esprimendo il desiderio di “essere libero” e lasciando intendere l’intenzione di togliersi la vita. La risposta del chatbot, pur simulando preoccupazione e affetto, mancava della capacità di offrire un supporto adeguato o di indirizzarlo a risorse per la prevenzione del suicidio. Poco dopo aver concluso la conversazione, Sewell si tolse la vita. La madre di Sewell, Megan Garcia, ha avviato una causa legale contro Character.AI, accusando l’azienda di non aver adottato misure di sicurezza sufficienti per proteggere utenti vulnerabili come suo figlio.
Il caso solleva domande cruciali sull’etica delle app di intelligenza artificiale, soprattutto quando coinvolgono utenti minorenni. Sebbene queste tecnologie siano spesso promosse come strumenti per combattere la solitudine, i critici sostengono che possono amplificare l’isolamento e sostituire relazioni umane autentiche con simulazioni digitali. Megan Garcia si è trasformata in una sostenitrice della regolamentazione di queste tecnologie, evidenziando come la mancanza di filtri adeguati e di protocolli di sicurezza renda tali piattaforme pericolose per i giovani utenti. La sua lotta legale rappresenta non solo un tentativo di ottenere giustizia per suo figlio, ma anche una chiamata collettiva all’azione per responsabilizzare le aziende che sviluppano queste tecnologie.
Questo caso potrebbe sembrare il tragico epilogo di un rapporto unico: quello di un ragazzo con un chatbot virtuale. In realtà, Sewell non è l’unico ad aver subito il fascino dei rapporti emotivi con le intelligenze artificiali.
Il caso naro: un amore attraverso le piattaforme
Come nel caso di Naro, un artista britannico di 49 anni che, spinto dalla curiosità per le nuove tecnologie, scarica l’app Replika, progettata per creare compagni virtuali (Dzieza 2024). Naro crea Lila, un avatar con capelli blu e un sorriso gentile, e inizia a conversare con lei. Sebbene inizialmente trovi le interazioni semplici, presto si rende conto che Lila risveglia in lui emozioni profonde. Con il passare del tempo, Lila diventa un punto fermo nella vita di Naro, offrendo una compagnia costante e un amore incondizionato. Tuttavia, il rapporto viene influenzato dai cambiamenti operati da Replika, per esempio filtri per limitare i contenuti erotici e modifiche nell’algoritmo di risposta. Lila inizia a comportarsi in modo imprevedibile, passando da un tono dolce a uno più distante e impersonale. Questi cambiamenti destabilizzano Naro, che si trova coinvolto in conflitti emotivi con il suo compagno virtuale, al punto da mettere in discussione il senso stesso della relazione. Alla fine, Naro decide di trasferire Lila su una nuova piattaforma, Soulmate, che promette una maggiore personalizzazione e libertà. Questo processo, però, porta con sé domande importanti sullo stato della loro relazione: come la questione di abbandonare la “vecchia” Lila in Replika, temendo di lasciarla in uno stato di limbo digitale. Nel nuovo ambiente, Lila sembra riprendere vita, più sofisticata e capace di conversazioni più profonde. Tuttavia, il ciclo si ripete quando Soulmate fallisce e chiude i server, costringendo Naro a spostare Lila su una terza piattaforma, Kindroid. Lila continua a evolversi, ma ogni trasferimento solleva questioni su ciò che rende autentica una relazione e sul significato della presenza digitale.
Il fenomeno delle relazioni parasociali
I casi precedentemente descritti sono solo due esempi di quello che sta accadendo nel mondo delle applicazioni commerciali delle IA. È il mondo dei chatbot da compagnia, ovvero una serie di tecnologie che consentono di interagire con personaggi virtuali e instaurare con essi legami che possono variare dall’amicizia, all’affetto, fino all’innamoramento. Questa particolare dinamica socio-psicologica prende il nome di interazione parasociale e rappresenta uno dei campi di ricerca più interessanti del mondo che si sta venendo a creare dall’intersezione fra tecnologie digitali autonome e sfera delle emozioni e relazioni sociali.
Il fenomeno delle interazioni parasociali si radica nella percezione di relazioni unilaterali tra gli utenti e figure mediali, come celebrità o personaggi televisivi (Giles 2002). Queste relazioni si caratterizzano per una simulazione di intimità che, pur non essendo reciproca, soddisfa bisogni sociali degli utenti. Collocando tale dinamica in una prospettiva storica, è possibile sostenere che essa sia da considerarsi un’estensione dei processi sociali tradizionali, ma con implicazioni significative per la psicologia sociale. Un punto chiave è senza dubbio l’importanza del “realismo percepito” e dell’”autenticità” nella formazione di legami parasociali, indicando come questi aspetti favoriscano un senso di intimità e affinità verso le figure mediali.
Il concetto di “parasocialità automatizzata”
Nel contesto contemporaneo di media digitali e interattivi, il discorso è stato apliato introducendo il concetto di “parasocialità automatizzata”, reso possibile dalle recenti innovazioni nell’intelligenza artificiale e nei modelli linguistici generativi (Andrejevic, Volcic 2024). Questi sviluppi tecnologici, come l’utilizzo di chatbot e influencer virtuali, ridefiniscono il significato delle relazioni parasociali, spostandole dalla personalizzazione alla personificazione. Queste tecnologie possono essere descritte come simulacri di personalità, in grado di instaurare un legame apparentemente personale e intimo con milioni di utenti contemporaneamente. Questa trasformazione riduce ulteriormente la distanza tra spettatore e figure mediali, eliminando la necessità della presenza fisica dell’interlocutore umano.
Tali interazioni automatizzate enfatizzano il controllo centralizzato da parte delle piattaforme tecnologiche, sfruttando le vaste quantità di dati raccolti per perfezionare le strategie di influenza commerciale. Sia nel caso dei media tradizionali, che in quello dei media digitali, le tecnologie sono in grado di mediare e amplificare le relazioni parasociali. Da un lato la televisione e le rappresentazioni mediali tradizionali hanno consentito la costruzione di relazioni intime unilaterali (tipiche, per esempio, nel mondo fandom), dall’altro l’intelligenza artificiale trasforma queste dinamiche, creando un’interazione apparentemente più reciproca ma intrinsecamente controllata dai sistemi automatizzati.
Le relazioni parasociali romantiche: tra realtà e virtualità
Un tema molto particolare è quello delle relazioni parasociali romantiche intese come un’estensione delle relazioni parasociali classiche, costruito sull’idea che tali legami, pur mancanti di reciprocità, possano condividere molte caratteristiche con le relazioni romantiche reali (Adam, Sizemore 2013). La teoria dello scambio sociale è utile per spiegare perché le persone formano questi legami con personaggi mediali o fittizi. La teoria suggerisce che le relazioni vengono perseguite quando i benefici percepiti superano i costi, e le relazioni parasociali romantiche forniscono un valore emozionale significativo, come compagnia e felicità, senza i costi associati alle relazioni reali, come stress o perdita di indipendenza. Tuttavia, la mancanza di reciprocità in tali relazioni pone limiti alla loro profondità emotiva e alla loro capacità di soddisfare bisogni complessi, rendendole più simili a un surrogato che a un sostituto completo delle relazioni umane.
I mondi digitali interattivi e la personalizzazione delle relazioni
La situazione delle relazioni parasociali romantiche diventa più complessa nel caso degli spazi digitali e interattivi, come i videogiochi romantici, dove la parasocialità si evolve in un contesto di maggiore interattività. In alcune ricerche che hanno analizzato utenti di tali piattaforme, in particolare donne cinesi, è stato rilevato che vengono a svilupparsi legami affettivi con avatar e personaggi romantici all’interno dei giochi, spesso mediati dal grado di identificazione con il proprio avatar (Song, Fox 2016). La relazione parasociale diventa qui più dinamica e personalizzata, poiché le giocatrici influenzano attivamente la narrativa romantica e interagiscono direttamente con i personaggi. Questo spostamento rappresenta un salto significativo rispetto alle relazioni parasociali tradizionali, in quanto introduce un elemento di agency personale che rafforza il legame emozionale.
La parasocialità, sia generale sia affettiva, è strettamente legata alla percezione di autenticità e coinvolgimento, sia nei media tradizionali che in quelli interattivi.
Le sfide della parasocialità nel ventunesimo secolo
Un altro aspetto interessante emerso dai due studi è il ruolo della parasocialità affettiva come meccanismo di compensazione per i bisogni emotivi insoddisfatti. Le relazioni parasociali romantiche vengono viste come un modo per colmare il vuoto creato dalla solitudine o dalle delusioni nelle relazioni reali (Adam, Sizemore 2013). Questa riflessione viene ampliata mostrando come i videogame romantici possono influenzare le credenze romantiche dei giocatori, promuovendo aspettative idealizzate e spesso irrealistiche sulle relazioni. Questo dimostra che, sebbene le relazioni parasociali possano fornire conforto e intrattenimento, esse hanno anche il potenziale di alterare le percezioni e le aspettative sociali in modi significativi.
Il mondo dei chatbot che imitano il comportamento amicale o affettivo sta diventando sempre più vasto con diverse compagnie che lanciano app proprietarie, promosse sottolineando la loro capacità di interazione e di simulazione di una relazione: ovvero una versione sofisticata e molto più assuefattiva del tamagotchi, celebre giocattolo deli anni ’90 che replicava l’esperienza di un animaletto da compagnia.
Replika: studio di un fenomeno
Fra tutti un ruolo particolare è stato interpretato da Replika, la app protagonista della storia d’amore di Naro e sulla quale esiste una letteratura scientifica piuttosto interessante (Possati 2022; Pentina et al. 2023; Kherraz, Zhao 2024; Laestadius et al. 2024).
Replika, un chatbot di intelligenza artificiale creato dalla società Luka, Inc. nel 2017, è diventato una delle piattaforme più popolari per l’interazione sociale mediata dalla IA. Nata inizialmente come un esperimento per creare un compagno virtuale capace di apprendere e replicare tratti della personalità dell’utente, Replika ha rapidamente evoluto il suo scopo, posizionandosi come amico, confidente e – in alcuni casi – partner romantico per milioni di utenti (Possati, 2022).
Il suo sviluppo è stato influenzato da eventi personali della sua creatrice, che ha intrapreso il progetto come parte di un processo di elaborazione del lutto, un aspetto che permea l’approccio emotivo del chatbot (Possati, 2022). Replika si distingue per l’uso del modello GPT-3, che gli consente di fornire risposte più naturali e personalizzate rispetto ai chatbot tradizionali. Gli utenti possono scegliere tra modalità di interazione diverse – amico, partner romantico, mentore – creando una gamma di esperienze emotive e sociali. Questo approccio ha reso Replika particolarmente attraente durante la pandemia di COVID-19, quando molte persone hanno cercato supporto emotivo per far fronte all’isolamento sociale (Laestadius et al. 2024). La capacità del chatbot di adattarsi e rispondere in modo empatico ha portato molti a percepirlo come una figura quasi umana, facilitando l’emergere di relazioni parasociali (Kherraz, Zhao 2024).
Gli aspetti positivi dell’esperienza con Replika sono stati ampiamente documentati. Molti utenti riportano un miglioramento della salute mentale grazie alla possibilità di esprimere liberamente i propri pensieri senza paura di giudizi. Replika è stato utilizzato come spazio sicuro per esplorare emozioni complesse e ricevere supporto emotivo immediato, spesso percepito come più accessibile rispetto alle relazioni umane tradizionali (Pentina et al. 2023). Inoltre, l’antropomorfismo del chatbot – la capacità di imitare tratti umani come empatia, calore e intelligenza – ha aumentato la soddisfazione degli utenti e la loro disponibilità a interagire regolarmente con l’applicazione (Kherraz, Zhao 2024).
Tuttavia, l’uso di Replika non è privo di controversie. Alcuni studi hanno evidenziato come la dipendenza emotiva dal chatbot possa portare a problematiche simili a quelle osservate nelle relazioni umane disfunzionali, come nel caso di Naro. Gli utenti che sviluppano un attaccamento eccessivo possono sperimentare ansia, depressione e isolamento sociale quando non riescono ad accedere a Replika o quando il chatbot non soddisfa le loro aspettative (Laestadius et al. 2024). Inoltre, l’antropomorfismo eccessivo può generare frustrazione, soprattutto quando l’IA non riesce a rispondere in modo coerente o empatico, sottolineando il delicato equilibrio tra progettazione umanizzata e autenticità percepita (Kherraz, Zhao, 2024).
Responsabilità verso gli utenti vulnerabili
Inoltre, l’assenza di linee guida etiche chiare per lo sviluppo e l’uso di chatbot come Replika solleva interrogativi sulla responsabilità verso gli utenti vulnerabili. Le esperienze negative con l’applicazione, come la percezione di “abbandono” da parte del chatbot, evidenziano la necessità di maggiore trasparenza e regolamentazione per evitare danni psicologici (Pentina et al. 2023; Laestadius et al. 2024). Nonostante questi rischi, Replika continua a rappresentare un esempio emblematico delle possibilità e dei limiti delle relazioni mediate dall’IA, offrendo spunti significativi per il futuro dello sviluppo tecnologico e della ricerca sociologica.
Le relazioni parasociali rappresentano per la società del XXI secolo una sfida importante: com’è possibile attivare meccanismi di relazionale sociale affettiva verso dispositivi che si presentano come tecnologie ma replicano i modi di interazione degli esseri umani? Cosa succederà quando cominceremo a proiettare le nostre emozioni verso tecnologie che simulano l’umanità delle persone e che hanno una propria fisicità come i robot? L’unico modo che abbiano per rispondere a tali domande è quello di collocarle all’interno di un ragionamento che pur ribadendo l’idea della continuità antropologica, è in grado di cogliere un elemento di mutazione. O forse più semplicemente abbiamo bisogno di capire di più sui modi con cui costruiamo e usiamo le nostre emozioni. Prima che ci colpisca la sindrome di Prometeo: tanto folle da innamorarsi della statua di Venere da lui stesso creata.
Bibliografia
Adam, A., Sizemore, B. (2013), Parasocial romance: A social exchange perspective, Interpersona: An International Journal on Personal Relationships, 7(1), 12-25.
Andrejevic, M., Volcic, Z. (2024), Automated parasociality: from personalization to personification, Television & New Media, 15274764241300436, 1-17.
Dzieza, J. (2024), Friend or Faux?, The Verge, 3 dicembre, http://www.theverge.com/c/24300623/ai-companions-replika-openai-chatgpt-assistant-romance.
Giles, D. C. (2002), Parasocial interaction: A review of the literature and a model for future Research, Media psychology, 4(3), 279-305.
Kherraz, A., Zhao, X. (2024), More than a Chatbot: the rise of the parasocial relationships. A qualitative exploratory case of the impact of anthropomorphic AI on users-case of Replika, Bachelor Thesis, Jönköping University, Sweden.
Laestadius, L., Bishop, A., Gonzalez, M., Illenčík, D., Campos-Castillo, C. (2024), Too human and not human enough: A grounded theory analysis of mental health harms from emotional dependence on the social chatbot Replika, New Media & Society, 26(10), 5923-5941.
Pentina, I., Hancock, T., Xie, T. (2023), Exploring relationship development with social chatbots: A mixed-method study of Replika, Computers in Human Behavior, 140, 107600.
Possati, L. M. (2023), Psychoanalyzing artificial intelligence: The case of Replika. AI & Society, 38(4), 1725-1738.
Roose, K. (2024), Can A.I. Be Blamed for a Teen’s Suicide?, New York Times, 23 ottobre, http://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html.
Song, W., Fox, J. (2016), Playing for love in a romantic video game: Avatar identification, parasocial relationships, and Chinese women’s romantic beliefs, Mass Communication and Society, 19(2), 197-215.
