Tecnologie digitali sempre più pervasive e persuasive: così influenzano la nostra evoluzione

Nel precedente contributo abbiamo indicato sia determinati capisaldi dei modelli di business dei principali protagonisti del mondo fisico-cibernetico in cui siamo entrati, sia alcuni meccanismi generatori di potere, ovvero sistemi algoritmici progettati per attrarre e accentuare tendenze insite nell’umanità grazie al suo lungo percorso evolutivo.

In breve, i due imperativi di fondo perseguiti dai techno-giants del web sono: engagement, cioè attrazione stabilizzante degli utenti, e digital tethering di essi (Selinger e Frischmann, 2015, Will Internet of Things result in predictable people?, The Guardian, 10 August), ovvero attivazione di meccanismi e processi tali da tenerli avvinghiati in una ragnatela di connessioni in continua e imprevedibile espansione.

Cerchiamo allora di approfondire ulteriori aspetti basilari, mettendo in luce come le interazioni tra dispositivi algoritmici e decisioni “autonome” degli attori portino questi ultimi a rimanere irretiti in feedback loop quasi inestricabili. A questo fine ridurremo esporremo riflessioni di carattere generale su questioni e terminologie tecniche, per approfondire le quali vi sono indicazioni specifiche.

La libertà immaginaria dell’uomo e l’uso dei simboli

Per illustrare in modo appropriato gli effetti del perseguimento dei due imperativi, partiamo dalle analisi di personalità molto differenti tra loro: Brzezinski, Leroi-Gourhan, Weaver e Shannon, che forniscono spunti di estremo interesse per riflettere sulla dinamica tecno-economica in atto.

Il primo, politologo e consigliere per la sicurezza nazionale del Presidente Jimmy Carter, nel definire la technetronic society^[1] mette in evidenza che, mentre nella società industriale lo scopo primario della conoscenza tecnologica era la realizzazione di grandi avanzamenti delle tecniche produttive, nella technetronic society, la conoscenza tecnico-scientifica “in addition to enhancing production capabilities, quickly spills over to affect almost all aspects of life directly” (1980: 9-10). 30 anni or sono, quindi, Brzezinki intravede la natura pervasiva delle tecnologie dell’informazione, destinate a trasformare profondamente tutte le attività umane.

La visione di Brzezisnki richiama alla mente il capitolo conclusivo di un libro del grande antropologo francese André Leroi-Gourhan (Il Gesto e la parola, Einaudi, 1965, Volume I- II), dove egli riflette sulla libertà immaginaria e le sorti dell’homo sapiens^[2], dal momento che “dopo la scrittura, si è formata un’immagine non materializzata, indispensabile allo sviluppo spirituale al progresso, ma che, in particolare nelle scienze umane, ha fatto sì che l’uomo perdesse qualsiasi legame con il vasto mondo” (Vol. II: 464). Dall’invenzione della scrittura in poi, attraverso una serie di tappe analizzate da una letteratura sterminata, siamo arrivati alla “fase attuale, [in cu] la situazione non è ancora molto diversa in apparenza: la società continua a disporre di tutti i suoi mezzi, ma li trasferisce in maniera crescente in organi artificiali” (Vol. II. 469).

In tale quadro si inserisce il libro unanimemente considerato il fondamento della moderna teoria dell’informazione (C. Shannon e W. Weaver, 1971, La Teoria Matematica delle Comunicazioni, Etas Libri, ed. or. 1948), il cui incipit è cruciale: “Il termine comunicazione sarà da noi usato in un senso molto ampio per comprendervi tutti i procedimenti attraverso i quali un pensiero può influenzare un altro”.

Alla luce di questi veri e propri fari illuminanti, proiettati verso lo scenario odierno, approfondiamo i seguenti trend:

• cambiamenti fondamentali dell’identità personale verso un “networked self”.
• Paradossi e contraddizioni della tendenza verso un mondo programmabile”.
• Complessità del mondo creato dall’umanità grazie alla sua stessa cultura e contemporaneo rischio di impoverimento della stessa umanità (warped itself).
• Paradosso dovuto alla presenza di leve create per l’impoverimento e alla partecipazione consapevole degli individui.
• Cambiamenti fondamentali dell’identità personale verso un “networked self”.

Nell’affrontare questo tema non si può prescindere dalla celebre affermazione di McLuhan, che interpretiamo seguendo approcci contemporanei delle scienze cognitive: “The medium is the message” because it is the medium that shapes and controls the scale and form of human association and action” (M. McLuhan, 2013, Understanding Media. The Extension of Man, Ginko Press).

Tenendo presente quanto indicato nella premessa, si comprende la rilevanza delle odierne tecnologie dell’informazione nel modellare il modo in cui interagiamo con gli altri, quindi nell’influire sull’evoluzione del modo di pensare e di agire delle persone a scala sempre più ampia. La pervasività e la potenza computazionale di dispositivi per l’elaborazione delle informazioni fanno sì che ciascuno di noi sia di fatto inserito in una molteplicità di strutture connettive globali, che non solo creano la possibilità di ricostruire il nostro profilo comportamentale, ma al tempo stesso influenzano l’evoluzione del modo di pensare e della personalità di chiunque, sulla base della produzione incessante di flussi informativi a scala globale.

In questo modo si realizza una discontinuità radicale. Mentre in passato la formazione e il processo evolutivo dell’identità personale avveniva fondamentalmente sulla base di interazioni fisico-visive, ora le tecnologie di rete svolgono una funzione sempre più importante, in molti casi è addirittura preponderante, nel “mediare” le interazioni tra persone. Esse diventano gli strumenti attraverso i quali si modellano le percezioni, evolvono i processi cognitivi e quindi gli umani agiscono sull’ambiente operativo, che sua volta agisce su di noi. In definitiva, le identità personali si formano sulla base dell’appartenenza a reti direttamente o indirettamente globali. Siamo diventati “networked inhabitants of the emerging information society” (J.E. Cohen, 2012, Configuring the Networked Self, Creative Commons: 21). Le tecnologie digitali cambiano profondamente l’orizzonte della comunicazione e della collaborazione interindividuale e collettiva (ivi: 26), trasformando le modalità e la scala, ma soprattutto la genesi e gli scambi della conoscenza. Oltre al problema cruciale della privacy, si pone quindi una questione fondamentale, che richiama i passi di Brzezinski, Shannon e Weaver, McLuhan: le conoscenze tecnico-scientifiche influenzano la vita delle persone; un pensiero può influenzare un altro (a scala variabile). i social media tendono a diventare una componente essenziale dei modelli percettivi umani, cambiando la nostra percezione dello spazio e del tempo, dal momento che la sfera delle interazioni non è più limitata all’insieme circoscritto della prossimità fisica e dell’ordine temporale standard. L’immediatezza e la scala globale degli scambi informativi può trasformare tutto questo attraverso un incrocio di sequenze teoriche e operative tali da rendere obsoleti concetti cardine degli orizzonti decisionali tradizionali come pianificazione, rigidità prefissata, coerenza tra intenzione-decisione-azione. La compenetrazione tra la sfera digitale e quella reale “dissolves the temporal and spatial restraints that govern offline interaction, offering an excess of novelty and validation that simply isn’t available in the real world” (M. Miller, B. White, 2016, The Warped itself, AEON, 5 October).

L’alterazione dei modelli di percezione spazio-temporale è conseguente innanzitutto alla natura e alla dimensione del divario che si crea continuamente tra l’enorme e continua espansione della sfera digitale e la capacità di information processing di individui e collettività, immersi nei processi reali. Tutto questo è importante nella dinamica dei processi innovativi e nella diffusione dei modelli di consumo, dove è sempre più palpabile la sensazione che sia vera la considerazione di Howhy su come funziona la nostra mente: “We are butcogs in a causally structured world, eddies in the flow of information” (J. Howhy, 2013, The Predictive Mind, Oxford University Press, p. 2^[3]).

Bisogna allora considerare i meccanismi individuali e collettivi, che alimentano e amplificano tale gap (vedi successivo Par. 4), ma prima è opportuno approfondire temi relativi alla tendenza irreversibile verso un mondo pervaso di algoritmi.

Paradossi e contraddizioni della tendenza verso un “mondo programmabile”.

Per la prima volta in 200.000 anni di storia l’Homo Sapiens è (teoricamente) in grado di coordinare a scala globale micro- e macro-comportamenti, com’è in parte avvenuto con la pandemia da Covid-19 (J. Flack, N. Micthell, 2020, Uncertain Times, AEON, 29 March). Siamo nell’era dell’IoT, dove sistemi di software sempre più complessi e potenti, con alla base una grande varietà di hardware pervasivo, che consente l’accesso a una enorme potenza computazionale, rende il mondo “programmabile” (A.Taivalsaari, T. Mikkonen, 2017, Roadmap to the Programmable World: Software Challenges in the IoT Era, IEEE Software, 34(1):72-80, January). Le visioni ottimistiche si diffondono in sedi autorevoli come Wired, dove un esponente del giornalismo USA, Bill Wasik, sintetizza le crescenti aspettative circa i benefici di un mondo programmabile per l’umanità con la tesi che in un mondo siffatto tutti gli oggetti si comportano in modo congruente e vantaggioso per l’umanità, risolvendone i problemi (Wasik, 2016, In the Programmable World, All Our Objects Will Act as One, Wired, 14-5)^[4]. Meno ottimistica è la visione di Selinger e Frischman (2015). Questi due autori, riferendosi al “programmable world” where the scale, scope, and power of these tools [IoT] is amplified as we become increasingly predictable” si chiedono: possono essere gli umani essere programmabili in modo pervasivo come le macchine?

In realtà la dinamica reale del mondo mostra che esso non è (ancora) unidirezionalmente diretto verso la completa programmabilità, come si vede da ciò che accade ovunque. Vale allora la pena affrontare una serie di interrogativi.

Perché l’umanità si è avviata verso un mondo programmabile? Quali i motivi di un percorso tortuoso e contraddittorio, con evidenti segni di aspetti paradossali?

Rispondiamo al primo quesito chiarendo che vi è una propensione insita negli esseri viventi e nell’uomo in particolare, verso la ricerca di regolarità nel mondo, come base per le proprie azioni. Il biologo teorico Robert Rosen (Anticipatory Systems, 2012, Springer, 2nd ed.) ha decritto l’importanza dei sistemi viventi come “sistemi anticipatori”, in grado cioè di interagire con il mondo sulla base di un modello di sé stessi e dell’ambiente, quale “potente forza causale” per agire (e sopravvivere) in un contesto non pienamente sotto controllo. L’elaborazione di un modello predittivo (Rosen, 2012: 12, 313) è infatti essenziale per esplorare un mondo mutevole, soggetto a processi evolutivi e selettivi, nei quali la capacità di adattamento è Fondamentale (Rosen, 2012, Cap. 6.5). Dotarsi di un modello predittivo sfruttando le regolarità naturali è utile per evitare le prede e poi via via, nel corso degli 200.000 anni, per affrontare progressivamente tutta una serie di problemi concernenti bisogni essenziali da sodisfare. Modelli predittivi e adattamento sono elementi fondamentali per aumentare le probabilità di successo delle proprie azioni, evitando la “cecità percettiva” (Flack e Mitchell, 2020) derivante dall’ostinazione a pensare che il futuro sia uguale al passato.

Nel perseguire questi obiettivi, riprendiamo a questo proposito spunti da Leroi-Gourhan, l’umanità ha creato con lo sviluppo culturale e tecnico-scientifico un potenziale “immaginario”, incorporato in dispositivi tali da generare una enorme quantità di informazioni e conoscenze.

A questo punto emergono chiaramente una serie di paradossi tra loro strettamente connessi. Il primo su cui soffermiamo l’attenzione è che l’evoluzione della cultura umana, intesa in senso ampio, grazie alla potente strumentazione via via resa disponibile ha aumentato a dismisura la complessità dell’ambiente interattivo, ampliandone la scala e al tempo stesso rendendo sempre intenso lo scambio informativo, per cui le nostre percezioni dipendono sempre più dalle percezioni e dai comportamenti degli altri (Flack e Mitchell, 2020). Su queste basi è inevitabile che si creino feedback sia virtuosi che viziosi, con il risultato di poter dare origine a eventi non prevedibili: amplificazione di notizie vere, diffusione di tesi e interpretazioni infondate, alterazione dei processi decisionali a molti livelli. Ne risulta un esito paradossale: un apparato “immaginario” (à la Leroi-Gourhan) per fondare modelli predittivi individuali e collettivi più affidabili, quindi per produrre una relativa certezza, produce l’opposto, cioè incertezza, a sua volta connessa alla complessità del quadro delle interazioni sociali tra processi informativi estremamente distribuiti (Linson et al., 2018: 7)^[5]. Non può che essere così in un contesto globale dove tutti possono apprendere, il comportamento di ciascuna entità (individuale e collettiva) influenza quello delle altre, insomma un ambiente dove la mutazione è continua, generata in modo imprevedibile da incessanti flussi informativi.

È chiaro che si creano così le condizioni per un’era della complessità, dell’incertezza e dell’ansietà, che rendono problematico lo scenario tecno-economico e sociale a livello planetario, entro il quale individui e collettività devono prendere decisioni che coinvolgono l’intero Pianeta (Lombardi, 2021, Transizione ecologica e universo fisico-cibernetico, Firenze University Press, in corso di stampa).

È inoltre possibile individuare un ulteriore paradosso: un apparato tecnico-scientifico, creato nel corso di millenni dalla “libertà immaginaria” dell’uomo per affrancarsi da problemi fondamentali dell’esistenza, contiene aspetti meccanismi che agiscono in senso opposto.

Complessità del mondo creato dalla cultura umana e rischio di impoverimento della stessa umanità (warped itself)

Abbiamo visto che complessità e incertezza connotano un universo di interazioni, in cui siamo immersi, per cui si produce incessantemente un divario tra capacità di elaborare informazione e il volume dei flussi informativi. L’armamentario tecnico-scientifico oggi disponibile potrebbe essere di aiuto nell’elaborare modelli predittivi affidabili, appropriati per l’altezza delle sfide da affrontare. Bisogna però constatare che una componente rilevante di esso, dai social media all’impiego di sistemi algoritmici sempre più sofisticati nell’aggregazione di informazioni estremamente pervasive, sembra principalmente orientata verso altre finalità. I social media hanno meccanismi attrattivi molto forti, che non di rado ormai alterano i processi percettivi umani, impoverendoli rispetto alle potenzialità acquisite durante un lungo processo evolutivo.

Per motivare questa tesi, che può apparire forte, prendiamo brevemente in esame le piattaforme, che hanno una serie di caratteristiche tali da generare il rischio appena indicato:

• estrema facilità di accesso e scambio interattivo digitale.
• Rappresentazione di un mondo apparentemente senza frizioni (friction-less), in cui tutto scorre liberamente, idee, visioni, denaro, valori.
• Presenza diffusa di strumenti attrattori: like, condivisioni, meccanismi premiali sempre più fantasiosi e gratificanti. In breve, è generale la tendenza a realizzare engagement e tethering mediante sistemi predominanti che fanno leva su ricompense emotive.
• Creazione progressiva della sensazione che l’ambiente digitale sia fonte informativa accettabile. In sostanza, siamo in presenza di uno “space that encourages people to accept what’s presented to them without reflection or deliberation, especially if it appears summoned by credible information or passed on from someone we trust” (E. Selinger e B.Frischman, 2016, Why it’s dangerous to outsource our critical thinking to computers, The Guardian, 10 December).

A fronte degli aspetti e meccanismi indicati, vi sono per così dire “risvolti della medaglia” specifici, che fanno da contrappunto:

• la facilità è programmata, è il frutto tools socio-tecnici, creati espressamente per modellare, influenzare, indurre orientamenti di pensiero e comportamenti umani (nel par. successivo indicheremo esempi concreti in questo senso). In breve siamo di fronte a quello che studiosi e analisti chiamano techno-social engineering (Selinger e Frischman, 2015) oppure reactive social enginering (J. C. Flack e M. B. Laubichler, 2016, Engineered societies, The Christian Science Monitor, 7 January).
• La rappresentazione di un mondo senza frizioni alimenta un progressivo distacco dal mondo reale, perché l’ambiente offline è nettamente separato dal primo. Di conseguenza diviene alto il rischio di alterare il processo di formazione dei modelli predittivi con cui operare. Questa tendenza è poi rafforzata dai meccanismi illustrati nel prossimo paragrafo.
• I sistemi algoritmici in atto hanno come obiettivo la stimolazione delle componenti emotive, che costituiscono una parte considerevole, quasi del tutto predominante, della nostra mente secondo L. Mlodinov (2012, How Your Unconscious Mind Rules Your Behavior, Pantheon Books). Al tempo stesso, però, la mediazione digitale riduce molto l’ampiezza del sistema percettivo umano, che è intrinsecamente multimodale- multisensoriale. Per questa via si rischia una sorta di ipertrofia della parte visiva e emotiva “mediata”, certamente impoverita rispetto a quella associata con le altre modalità percettive. In altri termini, l’eccessiva accentuazione digitale può provocare mutamenti radicali dei processi cognitivi e modifiche significative della fisiologia del cervello, come mostrano ricerche neurologiche (E. J. Beyer, 2021, You Rewired. How Modenirty, Changes your Brain, Interesting Engineering, 8 April), che ovviamente si sommano all’azione di altri fattori (formazione, reddito, condizioni sanitarie). Per non dire poi che di fatto “This transirion that we’ve made to Internet, something has fallen apart in terms of the nature of human interaction” (Beyer, 2021.
• Dal punto precedente deriva che diviene sempre più difficile conservare un’autonomia decisionale, quando si indebolisce lo sviluppo di propri, riflessivi sistemi di valutazione, per cui le inferenze individuali e collettive non solo possono essere “orientate” occasionalmente, come nel caso di elezioni, ma subiscono anche deformazioni permanenti. Ciò è particolarmente grave quando si tratta di affrontare sfide sistemiche locali e globali: pandemie, crisi climatica, prevenzione e risposte a eventi catastrofici.

Paradosso dovuto alla presenza di leve create per l’impoverimento e alla partecipazione consapevole degli individui

A questo punto è necessario cercare di comprendere come sia possibile contemperare leve per l’impoverimento dei processi cognitivi umani e la partecipazione consapevole alla da parte delle persone.

Sono a questo proposito introdotti tre set-combinazioni di strategie e dispositivi esplicitamene progettati, da un lato e di-propensioni psicologiche umane, dall’altro, il cui esito è appunto quello che potremmo quasi ritenere “impoverimento partecipato”.

Il primo set è ampiamente documentato sul piano teorico e operativo dal contributo di Nir Eyal (2014, Hooked, How To Build Habit-Forming Products, Ryan Hoover editor). In questo libro, diventato besteller internazionale, Eyal spiega -con dovizia di particolari e riferimenti alla letteratura specialistica- come nelle società (tecnologiche e non) vengano progettate tecniche idonee a generare habits, cioè comportamenti automatici, attivati e resi stabili mediante vere e proprie “esche” ambientali. Egli illustra infatti quello che chiama “Hook Model”, basato su tre step: 1) innesco (trigger), come “la candela di accensione del motore”, in questo caso tecnologie capaci di generare reazioni a catena, sequenze di emozioni e comportamenti, come abbiamo visto nei paragrafi precedenti. La candela di accensione può essere ambientale oppure interna (stimolazione di emozioni positive), ma fa sempre leva sul subconscio. 2) Introduzione di fattori che influenzano e modificano nel senso voluto la percezione dell’utente, ingenerando in quest’ultimo l’attesa di un certo risultato. In breve, viene indotto un vero e proprio modello predittivo, basato sull’innesco di associazioni cognitive e psicologiche. 3) Variabilità delle ricompense proposte dal recepimento delle peculiarità prospettate con il modello di prodotto. Siamo quindi di fronte a sistemi di ricompense sempre attraenti, perché modificate in base al grado di coinvolgimento.

Se il lettore di queste note pensa che si tratta di un ampio impiego di tecniche psicologiche, è nel giusto: lo sostiene lo stesso Eyal nei Capp. 5-6, dove sviluppa anche argomenti a sostegno della “Moralità della manipolazione”^[6].

La letteratura internazionale ha peraltro messo in luce un altro meccanismo, che favorisce e amplifica sia l’adozione che la diffusione di idee e comportamenti attraverso peculiari impieghi delle tecnologie dell’informazione, combinato con propensioni insite nel funzionamento della nostra mente. Il riferimento è al fenomeno denominato Echo Chambers, che indica processi di ricerca e acquisizione di informazioni-idee omogenee o congruenti con le proprie. L’esistenza di echo chamber è messa in luce in campo politico, sociale, scientifico^[7].- Esperimenti e ricerche dirette mostrano che il desiderio di rafforzare la propria opinione svolge un ruolo importante nella ricerca individuale di informazione politica^[8], nella diffusione di misinformation (teorie cospirative) e conoscenze scientifiche^[9], nel consolidamento della popolarità sui social, che presenta un aspetto peculiare: al di sopra di una certa soglia di popolarità l’effetto di influenza sociale persiste, mentre al di sotto essa l’effetto si esaurisce più o meno lentamente^[10]. Molteplici conferme della funzione svolta dai social nella mobilitazione politica sono state ottenute da uno studio su utenti Facebook durate le elezioni americane del 2016^[11] e da un altro, incentrato su Twitter ^[12], da cui emerge ancora una volta il ruolo dei social nel rafforzare gli orientamenti politici, anche se il la forza dei legami appare differente tra i due schieramenti (democratico e repubblicano).

Conclusioni

Da queste e altre ricerche emerge con nettezza che nei social media le tecnologie dell’informazione, sulla base di strategie di business oppure di altra natura (politica, culturale), tendono ad amplificare spinte endogene alla mente umana quali:

• confirmation bias, inteso come ricerca di informazioni a supporto di proprie scelte e convinzioni.
• Tendenza a seguire fattori in grado di mobilitare energie emotive di segno opposto, sia in senso positivo che negativo, cioè il subliminal di Mlodinov (2012).
• Spinta a cercare affinità, congruenza di prospettive e modelli predittivi individuali, per consolidare i legami sociali, che sono basilari per la formazione e l’evoluzione delle identità individuali.

Il punto di arrivo di questa seconda serie di riflessioni sulla dinamica dell’universo fisico-cibernetico può essere così sintetizzato: nell’intreccio profondo tra sfera digitale e mondo reale, che si sviluppa nell’epoca che stiamo vivendo, emergono pressioni endogene auto-organizzate, sia su base strategica che come frutto di un lungo processo evolutivo, che influenzano profondamente il presente e futuro evolutivo dell’umanità. Il “potenziale immaginario” creato dagli umani ha ormai assunto dimensioni incredibili, che rischia di sfuggire al controllo, nel senso di non essere impiegato per il benessere umano, ma per altre finalità, data la evidente tendenza delle tecnologie dell’informazione ad essere non solo pervasive, ma anche persuasive.

Ne consegue che occorrerebbe effettuare un salto di qualità verso nuove forme di intelligenza collettiva affrontando temi e questioni, su cui si incentrerà il terzo contributo della serie.

Note

1. “a society that is shaped culturally, psychologically, socially, and economically by the impact of technology and electronics” (Zbgniev Brzezinski, 1980, Between two ages, Vking: 9) ↑
2. “La libertà, fragile elemento dell’edificio umano, poggia sull’immaginazione intesa sia nel senso illusorio che in quello della liberazione attraverso i simboli” (Vol. II: 463). Si rinvia all’affascinate analisi paleontologica e antropologica di Leroi-Gourhan per un’illustrazione puntuale dell’evoluzione umana sul piano anatomico, culturale e tecnologico. ↑
3. “We can see ourselves as mere cogs in nature’s causal machinery and also as mental islands set over against the world, which is hidden behind the veil of sensory input” Howhy, 213: 258). ↑
4. Wasik continua affermando “Soon we’ll be able to choreograph them to respond to our needs, solve our problems, and even save our lives”. ↑
5. Linson A. et al., 2018, The active inference approach to ecological perception: General information dynamics for natural and artificial embodied Cognition, Frontiers in Robotics and AI, 8 March. ↑
6. Ovviamente quanto è stato sintetizzato in questa sede non rende giustizia della ricchezza di analisi e spunti forniti dal libro di Eyal. ↑
7. Per una rassegna di studi in materia si veda Garumella K. Et al., 2018, Political Discourse on Social Media: Echo Chambers, Gatekeepers, and the Price of Bipartisanship, IW3C2 (International World Wide Web Conference Committee), published under Creative Commons CC BY 4.0 License. ↑
8. Garette R.K. et al, 2009, Echo chambers online? Politically motivated selective exposure among Internet news users, Journal of Computer-Mediated Communication 14, International Communication Association ↑
9. Bessi A. et al., 2015, Science vs Conspiracy: Collective Narratives in the Age of Misinformation, PLoS ONE 10(2): e01l18093. doi:10.1371/journal.pone.0118093. Zollo F., et al., 2015) Emotional Dynamics in the Age of Misinformation. PLoS ONE 10(9): e0138740. doi:10.1371/journal.pone.0138740 ↑
10. Onnela J.P., Reed-Tsochas F., Spontaneous emergence of social influence in online systems, PNAS | October 26, 2010 | vol. 107 | no. 43. ↑
11. Bond R.M. et al., 2012, A 61-million-person experiment in social influence and political mobilization, doi:10.1038/Nature11421. ↑
12. Colleoni E. et al.,, 2014, Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data, ↑