La guerra dei social contro i profili social falsi, che disseminano disinformazione, è forse come svuotare il mare con un secchiello.
Si arriva forse a questa consapevolezza, alla luce di alcuni dati recenti, che mostrano un paradosso. E cioè che anche a fronte della rimozione di miliardi di account, c’è ancora molta difficoltà nell’individuare gli account falsi soprattutto creati manualmente perché risultano più credibili e quindi difficilmente identificabili come abusivi.
La risposta dei social al problema dei falsi account
In particolare, secondo quanto riportato dal “The New York Times”, i social hanno cancellato negli ultimi mesi più di un miliardo di account falsi. Eppure la disinformazione resta e addirittura cresce, come riportano i numeri dell’aumento di contenuti legati a Qanon.
Ma davvero i social network possono rimuovere gli account falsi con tale facilità di identificazione e, in un certo senso, anche andando contro i propri interessi commerciali che presuppongono il raggiungimento di elevate percentuali di iscrizioni alle proprie piattaforme al fine di massimizzare i profitti legati alle attività business dell’advertising online?
In realtà, sembrano prospettarsi concreti dubbi sull’effettiva entità dei dati statistici che risulterebbero “gonfiati”, se si considera che “Facebook ha dichiarato di aver bloccato 4,5 miliardi di account nei primi nove mesi dell’anno e di aver individuato più del 99% degli account falsi prima che gli utenti potessero segnalarli” (corrispondenti a quasi il 60% della popolazione mondiale).
L’aumento esponenziale di account falsi
Dal punto di vista tecnico, nella maggior parte dei casi, i cosiddetti “fake account” sono generati da bot automatici che vengono creati da sofisticati programmi con l’intento di favorire la viralizzazione delle discussioni online su determinati post o argomenti tematici costantemente condivisi dagli utenti (secondo alcuni studi, ad esempio, più della metà degli account Twitter che parlano di COVID-19 sono bot).
L’aumento esponenziale di account falsi che risultano registrati sui social network, al netto degli sforzi intrapresi nel tentativo di identificarli e bloccarli già durante la fase di iscrizione, conferma un dato – perlopiù sovrastimato – decisamente preoccupante: circa il 5% degli utenti mensili di Facebook, ad esempio, è costituito da account falsi, destinati ad incidere sulle frequenti ondate di contenuti falsi e fuorvianti veicolati per il tramite dei social network (non a caso, sulla scorta di tali interventi di controllo, recentemente, proprio Facebook ha dichiarato di aver rimosso circa 7 milioni di contenuti di incitamento all’odio per violazione delle proprie politiche aziendali, di cui oltre l’80% è stato rilevato prima della visualizzazione da parte degli utenti).
Ciò risulta dai dati pubblicati nell’ambito del Community Standards Enforcement Report (CSER), da cui si evince un incremento della capacità tecnologica della piattaforma nella rapida identificazione degli account falsi in grado di prevenire possibili danni ed evitare di agire su account validi e autentici registrati erroneamente dall’utente.
La proliferazione di fake news sui social
Ogni giorno si assiste alla crescente proliferazione di informazioni false e fuorvianti che circolano in Rete al punto da richiedere un maggiore impegno nell’attività di controllo da parte dei social network, non a caso etichettate come vere e proprie “macchine della disinformazione a scopo di lucro” e proprio per tale ragione considerati i principali responsabili della diffusione incontrollata di fake news.
L’accusa mossa alle piattaforme sociali di amplificare disinformazione, incitamento all’odio e contenuti violenti viene infatti utilizzata per giustificare la necessità di porre a loro carico l’adozione di efficaci misure in grado di monitorare la circolazione del flusso comunicativo condiviso dai propri utenti, evitando qualsivoglia interferenza manipolativa nella formazione dell’opinione pubblica con effetti distorsivi sulla percezione delle opinioni espresse online tali da alterare la libertà di scelta delle persone.
Il sistema di classificazione degli account fake di Facebook
In particolare, Facebook utilizza sistemi di apprendimento automatico che consentono di riconoscere gli account classificati in modo errato dagli utenti (profili personali di aziende o animali domestici che devono essere convertiti in pagine) e di identificare le violazioni più gravi realizzate mediante profili personali che, essendo registrati al fine specifico di commettere truffe e spam, devono essere rimossi il più rapidamente possibile prima che diventino attivi nella condivisione dei contenuti, con il rischio di danneggiare gli utenti reali.
Più precisamente, il sistema di classificazione predisposto da Facebook può identificare quattro tipi di profili falsi:
- account illegittimi non rappresentativi della persona,
- account compromessi di utenti reali che sono stati rilevati da aggressori,
- spammer che inviano ripetutamente messaggi e
- truffatori che manipolano gli utenti nella divulgazione di informazioni personali.
Pertanto, grazie all’uso di algoritmi di rilevazione si procede, già in fase di registrazione, al blocco della creazione degli account falsi così da impedire da subito di accedere alla piattaforma sociale. I sistemi tecnologici di controllo cercano anche potenziali account falsi non appena si registrano, individuando segnali di comportamenti dannosi desumibili da indirizzi e-mail sospetti o da altre azioni equivoche che ne consentono l’immediata disabilitazione prima di causare danni. Ulteriori account possono essere cancellati a seguito delle segnalazioni inoltrate direttamente dagli utenti sollecitati a collaborare attivamente nell’individuazione di fake account.
Nonostante ciò, i social network hanno ancora molta difficoltà nell’individuare gli account falsi.
Anche per tale ragione, Facebook ha implementato il proprio sistema di rilevazione degli account falsi, perfezionando il livello dei propri algoritmi per combattere la disinformazione online mediante il cosiddetto “Temporal Interaction EmbeddingS (TIES)” in grado di monitorare le peculiari reazioni interattive generate da fake account rispetto al tradizionale flusso riferibile a post e profili “normali”, in modo da poter mettere in evidenza con maggiore facilità i comportamenti legati a entità non autentiche (il modello TIES di Facebook, ha esaminato 2,5 milioni di account con un rapporto 80/20 reali/falsi) e 130.000 post, di cui circa il 10% sono etichettati come disinformazione).
Conclusioni
Di fronte al dilagante rischio di una crescente disinformazione online, i social network dovrebbero intensificare ancora di più i propri sforzi, mettendo in secondo piano le proprie “teoriche” preoccupazioni sulla compressione della libertà di parola, in modo da prendere concretamente atto che la proliferazione di account falsi incide sulla progressiva diffusione di informazioni false e fuorvianti al punto tale da compromettere la stabilità generale della società e dei circuiti democratici dei sistemi politici a causa di preoccupanti “effetti collaterali” provocati dal business particolarmente redditizio su cui si basa il funzionamento degli algoritmi di viralizzazione dei contenuti in grado di alimentare divisioni, caos e bugie come diretta conseguenza della circolazione senza controllo di contenuti falsi.