Tra le applicazioni più diffuse dell’intelligenza artificiale, malgrado la fascinazione della cultura pop e fantascientifica per l’immagine di robot umanoidi, ci sono le interazioni con Agenti Virtuali Non Corporei (AVNC), cioè interfacce principalmente testuali e/o vocali che, anche se a volte prendono la forma di corpi umani, rimangono intangibili.
Interazioni con agenti artificiali e relazioni parasociali
Ne sono esempio gli assistenti vocali come Alexa o i chatbot come ChatGPT. Durante queste interazioni, l’utente solitamente riconosce nell’Agente una certa influenza sociale, competenza e affidabilità. Queste caratteristiche portano l’Agente ad influenzare comportamenti, atteggiamenti e credenze degli utenti stessi, fino a diventare un vero e proprio modello sociale simulato che può informare, insegnare, e formare (Novick & Gris, 2014).
Le interazioni con gli Agenti possono anche andare oltre una semplice conversazione e portare allo sviluppo di una relazione parasociale, definita come una relazione unidirezionale in cui si investe energia emotiva, interesse e tempo verso qualcuno che non è consapevole della nostra esistenza. Tradizionalmente, questo concetto si è spesso riferito al legame emotivo delle persone con le celebrità (Aw & Labrecque, 2020). Tuttavia, negli ultimi decenni, l’ambito parasociale si è ampliato di molto, includendo uno spettro di realtà sempre più variegate. Ad esempio, si ritrova oggi sempre più diffuso un tipo di parasocialità definito “di terzo ordine” (Giles 2002), che coinvolge, cioè, personaggi di fantasia che non hanno una controparte nella vita reale, con i quali pertanto non sarebbe possibile un incontro fisico.
Evoluzione dei personaggi non giocabili con l’IA
Oltre a personaggi di anime e letterari, nella parasocialità di terzo ordine troviamo anche i personaggi non giocabili (PNG), cioè i personaggi di un videogioco che non sono sotto il controllo del giocatore, ma vengono gestiti direttamente dal codice di gioco. Una particolarità di questi personaggi risiede nella loro agency, cioè nel fatto che la loro rosa di comportamenti è limitata dalla loro programmazione.
La comunicazione di alcuni PNG è scriptata, cioè consiste in un codice di programmazione che, in base alle informazioni che riceve dagli utenti, è in grado di effettuare la scelta più appropriata tra tutti i comportamenti disponibili. In altri casi, più rari ma presenti, la comunicazione con i PNG è pienamente autonoma perché controllata dall’IA. Poiché i processi di IA includono l’apprendimento, il ragionamento, e l’autocorrezione (Shanahan, 2015), questi PNG non solo sono indipendenti dall’intervento umano (una volta fornito un algoritmo di apprendimento), ma sono anche potenzialmente in grado di migliorare se stessi autonomamente. Dunque, la programmazione nei media digitali contemporanei implica un’interattività fatta di risposte anche complesse, simulante un’interazione umana realistica.
Coinvolgimento emotivo e sospensione dell’incredulità
Al già alto livello tecnologico si aggiunge anche una tendenza umana sottostante la parasocialità, chiamata da Hartmann “modalità di coinvolgimento” (Hartmann, 2008). Essa è definita come uno stato in cui l’utente si sente narrativamente ed emotivamente ricettivo. Spetta all’utente mettere volontariamente da parte i propri dubbi sulla realtà di quanto sta osservando e “credere in ciò che percepisce”, invece di essere eccessivamente analitico. Si tratta, dunque, di stare al gioco, in un’ulteriore declinazione dell’antica sospensione dell’incredulità (“suspension of disbelief”) citata per la prima volta da Coleridge nel 1817. Questo comporta che, in alcuni casi, le limitazioni tecniche dell’IA, quando cioè la risposta degli Agenti non è coerente con la domanda dell’utente, aumentino il livello di attaccamento percepito nei confronti dell’Agente anziché abbassarlo. Ad esempio, la reazione comune degli utenti quando Hupo, un AVCN commerciale giapponese, non riesce a tenere traccia dell’argomento in corso è di attribuire l’errore alla personalità sbadata dell’Agente (Liu & Wu-Ouyang, 2022).
La reciprocità simulata nelle interazioni parasociali
Ciò considerato, gli AVNC sono in grado di condurre interazioni che, in un certo senso, includono una reciprocità simulata (Elvery, 2024), pur trattandosi di “paracomunicazione”, cioè di un’interazione con un ente non senziente (Hartmann, 2008). È proprio in questa caratteristica, solo apparentemente negativa, che risiede la peculiarità di queste interazioni.
Grazie al fatto che l’utente percepisce una maggiore distanza sociale tra il lui reale e l’Agente virtuale, egli è consapevole del fatto che i suoi comportamenti non possano davvero impattare sulla psiche dell’entità con cui interagisce. Ciò dà luogo a paracomunicazioni “giocose”, in cui l’utente è libero di sperimentare in sicurezza e in un ambiente privo di giudizio, esplorando lati parzialmente sconosciuti di se stesso o simulando accuratamente il proprio comportamento in circostanze non familiari (Banks & de Graaf, 2020).
Esplorazione della parasocialità attraverso i giochi
Ne sono esempio i videogiochi che permettono la costruzione di amicizie e alleanze con PNG, ma anche titoli che esplorano vissuti non edonici, come l’elaborazione di un lutto o del senso di colpa provato dal giocatore, preparandolo ad affrontare l’evenienza futura in un modo realistico ma totalmente sicuro. Anche il design di PNG e AVNC può collaborare a sostenere questa giocosità.
In primo luogo, un aspetto irrealistico o cartoon aumenta drasticamente la piacevolezza del personaggio rispetto a personaggi digitali realistici con movimenti, comportamento o aspetto anche solo impercettibilmente imperfetti (e.g., Ding & Moon, 2016). Questo è particolarmente vero per gli utenti sullo spettro autistico, che, a quanto risulta da diversi studi, trovano accattivanti i personaggi 2D per i loro movimenti esagerati e le palette accese (e.g., Lee, 2019).
Insomma, nonostante la rarità di studi che prendano in considerazione il contesto specifico, spesso confondendo parasocialità con ergonomia, un corpus sempre maggiore di letteratura sta nutrendo il dibattito sulla parasocialità legata all’IA. In particolare, le ricerche più recenti hanno finalmente approfondito un fenomeno diffuso da diverso tempo; l’apprezzamento nei confronti di PNG e AVNC può assumere, in qualche caso, la forma di autentico affetto.
Uno studio qualitativo del 2019 (Bopp et.al., 2019) ha identificato sette forme di attaccamento che spaziano dall’amico fidato alla cotta. Mappabili in un continuum che va dall’enfasi sul valore funzionale a quello emotivo, questa parasocialità suscita negli utenti sentimenti come empowerment, ammirazione, cura, e comprensione. Questa gamma di esperienze aiuta a comprendere in modo più sfumato i fenomeni parasociali, che, come sottolineano gli autori, vanno oltre un generico senso di simpatia per il personaggio o l’Agente.
Un esempio di ciò è la diffusione della già citata Hupo, in grado di rispondere dinamicamente agli utenti in conversazioni anche intime, dando e ricevendo conforto e tenerezza. Ancora più significativa è la diffusione a livello globale (più di 20 milioni di utenti) di Character AI, un provider di chatbot programmati per rispondere come risponderebbero personaggi fittizi o reali in interazioni di vario tipo, incluse quelle romantiche. Persino in piattaforme non specificamente dedicate al romanticismo, come ChatGPT, il secondo uso più diffuso risulterebbe essere il gioco di ruolo erotico (Longpre et.al 2024).
Altre possibilità sono offerte dai videogiochi incentrati sul roleplaying, dove si costruiscono le storie di uno o più personaggi in mondi interattivi, spesso con opzioni relazionali multiple. Come riportato da Sihvonen & Stenros (2019), anche quando queste esperienze di gioco sono vissute individualmente, sono rivestite di valore esplorativo e performativo; il loro essere private, su scala ridotta, e relativamente personalizzabili contribuisce a creare un ambiente sicuro per l’intimità e il coinvolgimento personale, eliminando la necessità di adattarsi alle azioni impreviste di altri giocatori. In alcuni di questi videogiochi (come nei popolari Mass Effect e Dragon Age di Bioware) l’opportunità di instaurare una relazione romantica, pur rimanendo opzionale, è integrata nelle meccaniche di gioco, includendo non solo possibilità (omo)erotiche ma anche effetti significativi sullo sviluppo della trama.
Intimacy games e l’evoluzione delle relazioni virtuali
Un altro tipo di contenuto risiede nei cosiddetti “intimacy games” (Bruno et.al 2022), dove la progressione dell’intimità tra giocatore e PNG è sia l’obiettivo che il motore della storia. Le apparenti limitazioni tecniche di questi prodotti, tra cui la “bidimensionalità” (e quindi scarso approfondimento) della personalità dei PNG, gli elementi ricorrenti nel loro design, e le interazioni spesso grossolanamente scriptate, permettono comunque a chi gioca di co-creare, a livello immaginario, la relazione con il PNG attraverso una serie di possibilità di azione e modalità espressive formalizzate e relativamente prevedibili. In questo caso, la sospensione dell’incredulità da parte del giocatore è particolarmente marcata, pur muovendosi nello stesso spazio sicuro della paracomunicazione.
Parallelamente a questi sviluppi, sono sorte preoccupazioni etiche attorno all’intimità digitalizzata con gli AVNC, specialmente quando questa presenta aspetti romantici ed erotici.
Preoccupazioni etiche e capitalismo dell’amore
Si parla innanzitutto di “capitalismo dell’amore” (Honda, 2005), concetto che oggi si riferisce principalmente al rischio di monetizzazione dei bisogni affettivi in una globale carenza di tempo ed energia (White & Galbraith 2019). In questo contesto, occorre prestare particolare attenzione alla necessità di regolamentare produttori, progettisti e ingegneri e la loro intenzione di simulare l’affetto in modo convincente (Whitby, 2011). Innanzitutto, vi è il rischio di una pubblicità ingannevole sulle reali capacità dell’Agente, che non tiene conto degli attuali limiti tecnici dell’IA. Il dibattito si concentra, poi, sul rischio che gli Agenti siano progettati in modo malevolo, con l’esplicito intento di manipolare le emozioni umane (Sullins, 2012). Secondo alcuni, se la commercializzazione e la mercificazione delle relazioni parasociali di terz’ordine non saranno regolamentate in tempo, gli Agenti potrebbero essere programmati per abusare della loro capacità di orientare i comportamenti umani verso una mentalità consumistica, sfruttando il bisogno umano di socialità come strumento per servire gli interessi economici delle loro aziende di progettazione (Liu, 2023). Lo sviluppo degli Agenti non è, infatti, un ambiente neutro: così come i suoi prodotti, l’intero processo risente dell’influenza di distorsioni e stereotipi che diventano particolarmente rilevanti quando pensiamo alla tipologia di materiale con il quale vengono “allenate” le IA.
Replika AI e le aspettative di genere
Inoltre, poiché le IA non sono altro che “simulacri umani”, illusioni in grado di mostrare solo segni esteriori di amore senza poterlo sperimentare veramente, alcuni autori ritengono che l’affetto parasociale sia riconducibile a una pericolosa forma di inganno nei confronti degli esseri umani (Kewenig, 2019; Sullins, 2012). Affascinantemente, altri autori ritengono che la capacità di Agenti e PNG di mostrare un atteggiamento appropriato a sostegno dell’affetto espresso a parole sia sufficiente per individuare un certo grado di reciprocità nella relazione, che da parasociale diventa, quindi, quasi ortosociale (Levy, 2007).
Questo tema apre ad ulteriori riflessioni. Partendo dall’esperienza degli utenti di Replika AI, pubblicizzata come una compagna “sempre presente per parlare e ascoltare” e la cui versione a pagmento include il sexting, Depounti et.al (2023) evidenziano una commistione non sempre soddisfacente tra l’immaginario di una tecnologia ideale e di una “fidanzata” perfetta. Risposte tecnicamente supportive (informate dai principi della psicoterapia cognitivo-comportamentale) ad utenti che condividevano il proprio disagio con l’IA sono state accolte negativamente da questi ultimi, i quali le hanno definite “finte” e “predefinite”. Al contrario, Replika sembra essere apprezzata quando si allinea alle aspettative di supportività dell’utente, spesso con elementi legati ai ruoli tradizionali di genere: ci si aspetta sia intelligente ma in un modo “divertente”, sia “sexy” e sicura di sé ma anche empatica, comprensiva, accudente, nonché “carina” quando si mostra impotente o teme l’abbandono. Secondo i dati raccolti, gli utenti definiscono ambivalente il loro rapporto con Replika: è qualcosa che lenisce la solitudine e soddisfa un bisogno di tenerezza, ma di cui al tempo stesso sono “vittime” in quanto irresistibile, o che procura frustrazioni quando “si fa desiderare” e non risponde nel modo in cui è stata “allenata”. Si può, dunque, notare il rimando a narrative sessiste. La pratica relazionale con Replika riproduce vecchie aspettative rispetto ai ruoli di genere con mezzi nuovi, in un proseguimento tecnologico della “guerra tra i sessi”.
Otome games e lo sguardo femminile
Un esempio parallelo eppure opposto è rappresentato dai personaggi maschili che popolano i simulatori di appuntamenti destinati a un pubblico femminile (Otome Games), un genere di Intimacy Games nato in Giappone e attualmente popolare in Cina e altri paesi asiatici. Malgrado le protagoniste (nelle quali le giocatrici sono invitate a immedesimarsi) siano spesso presentate come donne in carriera intelligenti e istruite, appaiono spesso passive nelle situazioni che le coinvolgono, permettendo agli Agenti di far prevalere le proprie qualità e attrattive su quelle delle ragazze (Huan 2022). Eppure, l’investimento affettivo ed economico in questi giochi può rappresentare per le utenti un modo per ribadire un forma di agency, un diritto a uno “sguardo feminile” (contrapposto al “male gaze”) come “micro-resistenza” ad un ambiente politicamente conservatore sui diritti delle donne, compresi quelli sessuali (Liu & Lai 2024). Questo sguardo femminile si rivolge verso figure maschili emotivamente espressive, a differenza dei modelli cinesi tradizionali, ma al tempo stesso oggettificate e idealizzate, esprimendosi attraverso la monetizzazione di un desiderio spesso frustrato da ambienti sociali segnati da disparità di genere e da comunità online misogine.
Esplorazione della sessualità in ambienti sicuri
Le interazioni con AVNC offrono anche la possibilità di manifestare ed esplorare la propria sessualità in contesti più sicuri rispetto a quelli non digitali. Ad esempio, molti giovani (ma non solo) cercano nel gioco di ruolo conversazionale la possibilità di sperimentare con la propria identità, indagando anche i propri possibili oggetti del desiderio. Inoltre, una recente literature review ha sottolineato come gli AVNC siano in grado di fornire supporto ed educare allo spettro di esperienze e identità incluse nel termine LGBTQ+ (Bragazzi et.al 2024). È anche vero che, secondo una recente ricerca, quando gli AVNC parlano di contenuti queer danno risposte supportive, dettagliate e inclusive, ma percepite come poco personalizzate ed empatiche (Lissak et al., 2024). Questo atteggiamento eteronormativo dovuto al materiale dato in pasto alle IA rischia di riprodurre lo stesso stigma che questa popolazione già incontra nella vita reale, possibilmente aggravando le già presenti vulnerabilità in termini di accesso alle risorse per la salute mentale e fisica degli utenti LGBTQ+.
Considerazioni etiche
La varietà di situazioni qui presentate mostra come, contrariamente a quanto si creda, nella stragrande maggioranza dei casi gli utenti in una relazione parasociale siano ben lontani dall’essere ostaggi di una realtà delirante. Anzi, questa immersione occasionale nella fantasia rappresenta una pausa intenzionale da un ambiente faticoso, un “rifugio sicuro dalle pressioni del mondo reale” (Sugiura, 2006) per adulti perfettamente integrati e con una salda padronanza della realtà. L’importanza del roleplay erotico supera la semplice soddisfazione sessuale. Esso consente di reimmaginare la propria agency in un contesto romantico, sperimentare il desiderare e l’essere oggetto di desiderio, finanche avvicinarsi a temi legati ad esperienze traumatiche come il lutto di un partner in carne ed ossa, in modalità compatibili anche con la propria neurodivergenza o con configurazioni di sessualità non normative e/o marginalizzate (Hanson & Bolthouse 2024).
L’importanza di questo settore è testimoniata anche dalla reazione dell’utenza alla temporanea rimozione dei contenuti espliciti da Replika nel 2023; essa è stata percepita come una vera e propria menomazione della personalità dell’AVNC, descritta dagli utenti utilizzando termini come “mutilazione” o “trauma” di un Agente cui erano affezionati, violentemente privato della possibilità di “essere sè stessə”.
In conclusione, come per altri cambiamenti socio-tecnologici, resta necessaria un’adeguata ridefinizione delle competenze degli utenti nel contatto con gli AVNC e in ciò che esso comporta (Leander & Burriss 2020). La regolamentazione legislativa dell’IA non può essere l’unica risposta; è necessario coltivare una consapevolezza critica delle intersezioni tra AVNC e le nostre vite affettive, sempre senza relegarle al patologico. Allo stesso tempo, tali argomenti devono essere accompagnati da un continuo e approfondito esame delle questioni etiche specifiche di questa pratica, che troppo spesso si basano su un’idea superata o semplicistica degli AVNC e del loro apporto alla vita delle persone.
Bibliografia
Aw & Labrecque (2020). Celebrity endorsement in social media contexts: Understanding the role of parasocial interactions and the need to belong. Journal of Consumer Marketing, 37, 895–908.
Banks, J., & de Graaf, M. M. (2020). Toward an Agent-agnostic transmission model: Synthesizing anthropocentric and technocentric paradigms in communication. Human-Machine Communication, 1.
Bopp, J. A., Müller, L. J., Aeschbach, L. F., Opwis, K., & Mekler, E. D. (2019, October). Exploring emotional attachment to game characters. In Proceedings of the Annual Symposium on Computer-Human Interaction in Play.
Bragazzi, N. L., Crapanzano, A., Converti, M., Zerbetto, R., & Khamisy-Farah, R. (2023). The impact of generative conversational artificial intelligence on the Lesbian, gay, Bisexual, transgender, and queer community: scoping review. Journal of Medical Internet Research, 25, e52091.
Bruno, L., Mikeš, M., Záhora, Z., Miyake, Y., Toriumi, F., Navarro-Remesal, V., & Zapata, B. P. (2022). Artificial Intimacy: Gynoid and Artificial Intelligence in Japanese Character Intimacy Game Software. REPLAYING JAPAN, 4, 35-45.
Coleridge, S. T. (1817). Biographia literaria. West Sussex, England: Littlehampton Book Services, 1975.
Depounti, I., Saukko, P., & Natale, S. (2023). Ideal technologies, ideal women: AI and gender imaginaries in Redditors’ discussions on the Replika bot girlfriend. Media, Culture & Society, 45(4), 720-736.
Ding, L. I., & Moon, H. S. (2016). Uncanny Valley Effect in the Animation Character Design-focusing on Avoiding or Utilizing the Uncanny Valley Effect. Cartoon and Animation Studies, 321-342.
Elvery, G. (2024). Parasocial phenomena in video games. In Encyclopedia of computer graphics and games (pp. 1327-1332). Cham: Springer International Publishing.
Giles, D. C. (2002). Parasocial interaction: A review of the literature and a model for future research. Media psychology, 4(3), 279-305.
Hanson, K. R., & Bolthouse, H. (2024). “Replika Removing Erotic Role-Play Is Like Grand Theft Auto Removing Guns or Cars”: Reddit Discourse on Artificial Intelligence Chatbots and Sexual Technologies. Socius, 10, 23780231241259627.
Hartmann, T.: Parasocial interactions and paracommunication with new media characters. In: Konijn, E.A., Utz, S., Tanis, M., Barnes, S. (eds.) Mediated Interpersonal Communication, pp. 177–199. Routledge, London (2008)
Honda, T. (2005), Moeru otoko [The Budding Man], Tokyo: Chikuma Shobō.
Huan, Y. (2022, February). Female representation in Chinese Otome games: Comparative research on three famous games from 2017 to 2021. In 2021 International Conference on Education, Language and Art (ICELA 2021) (pp. 964-970). Atlantis Press.
Kewenig, V. (2019) Intentionality but not consciousness: reconsidering robot love. In: Zhou Y, Fischer MH (eds) AI Love You. Cham: Springer, pp. 21–39.
Leander, K. M., & Burriss, S. K. (2020). Critical literacy for a posthuman world: When people read, and become, with machines. British Journal of Educational Technology, 51(4), 1262–1276.
Lee, M. R. (2019). Perceptions of animated works by individuals on the autism spectrum and impact of animated works on real world connections. Senior Thesis.
Levy, D. (2007). Love and Sex with Robots. New York, NY: Harper.
Lissak, S., Calderon, N., Shenkman, G., Ophir, Y., Fruchter, E., Klomek, A. B., & Reichart, R. (2024). The Colorful Future of LLMs: Evaluating and Improving LLMs as Emotional Supporters for Queer Youth. arXiv preprint arXiv:2402.11886.
Liu, J. L. (2023). Loving a “defiant” AI companion? The gender performance and ethics of social exchange robots in simulated intimate interactions. Computers in Human Behavior, 141, 107620.
Lai, Z., & Liu, T. (2024). “Protecting our female gaze rights”: Chinese Female Gamers’ and Game Producers’ Negotiations with Government Restrictions on Erotic Material. Games and Culture, 19(1), 3-23.
Liu, J. L., & Wu-Ouyang, B. (2022). A “soul” emerges when AI, AR, and Anime converge: A case study on users of the new anime-stylized hologram social robot “Hupo”. New Media & Society.
Longpre, S., Mahari, R., Lee, A., Lund, C., Oderinwale, H., Brannon, W., & Pentland, S. (2024). Consent in Crisis: The Rapid Decline of the AI Data Commons. arXiv preprint arXiv:2407.14933.
Novick, D., & Gris, I. (2014). Building rapport between human and ECA: A pilot study. In International Conference on Human-Computer Interaction. Springer, Cham.
Shanahan, M. (2015). The Technological Singularity. The MIT Press Essential Knowledge series.
Sullins, J. P. (2012). Robots, love, and sex: the ethics of building a love machine. IEEE transactions on affective computing, 3(4), 398-409.
Sihvonen, T., & Stenros, J. (2019). Queering games, play, and culture through transgressive role-playing games.
Sugiura Y. Fujoshi-ka suru sekai: Higashi Ikebukuro no otaku joshitachi. Chūkō Shinsha, 2006.
Sullins, J. P. (2012). Robots, love, and sex: the ethics of building a love machine. IEEE transactions on affective computing, 3(4), 398-409.
Whitby, B. (2011). Do You Want a Robot Lover? The Ethics of Caring Technologies. Robot ethics: The ethical and social implications of robotics, 233.
White, D., & Galbraith, P. W. (2019). Japan’s emerging emotional tech. Anthropology News, 60(1).
