Una novità della quale non si sentiva certamente la necessità nel tribolato mondo dei social media: la “cicatrice francese”. Il Nucleo speciale Antitrust della Guardia di Finanza, su impulso dell’Autorità Garante della Concorrenza e del Mercato (Antitrust), ha svolto nei giorni scorsi un’ispezione nella sede italiana di TikTok, l’app di proprietà della cinese ByteDance.
Cos’è il caso della cicatrice francese su TikTok
Ciò nell’ambito di un’istruttoria aperta nei confronti di TikTok Technology Limited, società con sede in Irlanda che cura i rapporti con gli utenti europei, e delle collegate che agiscono in Inghilterra e in Italia. Per l’ennesima volta, la Big Tech è al centro dell’attenzione per la mancata vigilanza su contenuti pericolosi, la cui visione soprattutto da parte degli adolescenti incrementa la loro propensione all’autolesionismo, all’alimentazione scorretta, e anche al suicidio. Tiktok, in sostanza, non solo ne consente la pubblicazione, ma non li rimuove come dovrebbe. In questo caso, i video riguardano una nuova challenge (sfida) nei quali ragazzi e ragazze, nella quasi totalità minorenni, stringono con pollice e indice la pelle del proprio viso fino a provocarsi degli ematomi anche irreversibili. La pratica, che provoca la cosiddetta cicatrice francese, è venuta alla luce appunto Oltralpe, ma i ragazzi e le ragazze italiane e di tanti altri Paesi non hanno perso tempo ad adottarla, fino a fare diventare virale il relativo hashtag.
Diete tossiche su TikTok, come i ragazzi cadono vittime dell’algoritmo
La trovata è facilmente replicabile, grazie al deleterio (perché molto semplice) meccanismo di funzionamento di TikTok, che consente facilmente la pubblicazione dei propri video e l’osservazione di quelli altrui. L’algoritmo “For you”, ideato e implementato dalla app di proprietà cinese, ritenuto dagli esperti il migliore per catturare l’attenzione degli utenti, fa il resto. Studiando e registrando l’attività dei fruitori, e quindi i like, i post pubblicati e quelli seguiti, e tanti altri elementi, letteralmente li inonda di quelli che reputa, a livello individuale, più graditi. E non sbaglia mai!
La gravità del comportamento di TikTok, che fa il paio con quello di altre app in casi simili – Meta, pur conoscendo gli effetti nefasti di determinate immagini di Instagram sulla salute mentale e fisica dei ragazzi, si guardava bene dall’intervenire per non perdere utenza – risiede non solo nel fatto di non avere attivato un sistema efficace di vigilanza ex ante, ma anche nell’ aver consentito, con la propria inazione, che la sfida raggiungesse milioni e milioni di utenti. Come d’altronde già successo con altre famigerate challenge, quale, ad esempio, la Blue Whale. D’altra parte, le politiche di TikTok, messe nere su bianco nelle sue linee guida, prevedono la rimozione dei contenuti dannosi. Ma, come spesso accade, le Big Tech non rispettano le loro stesse prescrizioni, il che ha causato il fallimento dell’approccio di auto regolamentazione e dei codici di condotta portato avanti anche dalla UE prima che si decidesse a cambiare prospettiva d’intervento adottando prescrizioni cogenti.
Privacy, nuove grane per TikTok negli Usa: ecco i paletti degli Stati e del Governo
Le contromisure
L’Autorità ha preso spunto dall’ennesima azione distruttiva di TikTok per andare oltre, mettendo finalmente sotto la sua lente l’algoritmo di base, il tristemente famoso “For YOU” del quale abbiamo riferito in precedenza. A questo proposito, l’Europa sta lavorando per rendere trasparenti i passaggi che conducono all’elaborazione degli algoritmi, che riescono a scandagliare i meandri più nascosti della mente degli utenti, leggendone con precisione assoluta propensioni, desideri, debolezze, comportamenti. Utilizzando poi questi metadati per una profilazione targettizzata e individuale da utilizzare per ancorare gli utenti alla piattaforma anche a fini pubblicitari.
Per concludere, un commento di TikTok a Sky News : “Le linee guida della community chiariscono quale tipo di contenuto non è accettabile sulla nostra piattaforma, e questo include contenuti che incoraggiano, promuovono o glorificano comportamenti pericolosi che potrebbero portare a lesioni”.
La piattaforma, inoltre, dà dei consigli molto dettagliati per segnalare tale genere di contenuti. Eccoli: “Gli utenti di TikTok sono invitati a segnalare video o immagini associati a sfide o tendenze pericolose sul sito dei social media.
Procedi nel seguente modo per segnalare i contenuti:
- Fai clic sulla freccia bianca a destra di un video TikTok
- Tocca l’icona che dice “segnala” con il simbolo di una bandiera
- Segui le istruzioni fornite per segnalare il contenuto
- Se ricevi messaggi relativi a una sfida che ritieni pericolosa, non interagire con loro e segnala immediatamente gli account”.
Molto precisi, non c’è che dire. Tuttavia, è evidente che qualcosa non funziona. Ora anche la nostra Autorità Antitrust ci vuole vedere chiaro
Le challenge pericolose su TikTok
Ma la “cicatrice francese” non è che l’ultima della serie di sfide in auge su TikTok.
- Le challenge, in effetti, rappresentano una delle maggiori peculiarità della piattaforma, sia per il numero di partecipanti, sia per la loro originalità. Il problema si pone quando esse divengono pericolose, soprattutto per l’età degli utenti coinvolti, spessissimo bambini che non potrebbero neanche essere iscritti a TikTok. L’anno scorso, un ragazzo di 12 anni decise di mandare un messaggio a tutti suoi “compagni di gioco” sulla piattaforma. Lo fece dopo aver subito ustioni sul 35 % del suo corpo. Come? Insieme ai suoi cugini decise che era giunto il momento di sfidarsi a Fire challenge. Versò un po’ di alcol denaturato sul pavimento di cemento, gli mise fuoco e poi lo spense. Purtroppo per lui, la bottiglia si infiammò e in un attimo il ragazzo cominciò a bruciare. Fino a che raggiunse i suoi familiari dall’altra parte della casa, che gli lanciarono addosso l’acqua, il “gioco” gli aveva provocato ustioni tali da rimanere sei mesi in ospedale, dopo dei quali ha dovuto reimparare a stare in piedi, a camminare, a vestirsi.
- Un’altra challenge è denominata Blackout, e sfida gli utenti a trattenere il respiro finché non perdono conoscenza. La sua pericolosità è intuibile, specialmente per bambine e bambini. Diverse vittime, tra le quali ricordiamo tutti una ragazzina di 10 anni a Palermo. La bambina adottò la variante peggiore, quella che porta gli sfidanti a legarsi una cintura intorno al collo per misurare la resistenza al soffocamento e alla mancanza d’ossigeno, per poi condividere il proprio risultato.
- Ancora, la challenge Penny, altrimenti detta Outlet (sarebbe la presa di corrente da muro) forse quella più rischiosa. Lo sfidante (!!!) collega un caricabatterie a metà in una presa in modo che i poli siano esposti, quindi prende un penny e lo attacca ad essi. Ciò spesso porta a ricevere una scossa elettrica, ma può anche provocare incendi e causare gravi lesioni permanenti, come perdere dita, mani, braccia. Sulla Penny o Outlet c’è un episodio da raccontare, che la dice lunga sul mondo delle Big Tech (e anche sulla stupidità di certe mamme). In sostanza, l’assistente vocale Alexa di Amazon ha incoraggiato una bambina di 10 anni a cimentarsi nella sfida. La mamma ha affermato di utilizzare la tecnologia dell’assistente virtuale per motivare i suoi figli a provare sfide fisiche, come tenere in equilibrio un manico di scopa sulle mani. Quando la bambina ha fatto la richiesta ad Alexa, questa è stata la risposta (documentata dal registro delle attività del dispositivo): “Ecco qualcosa che ho trovato sul web… La sfida è semplice: collegare un caricatore del telefono circa a metà in una presa a muro, quindi toccare con un penny i poli esposti”. Ed ecco il rituale commento di Amazon alla tragedia scampata: “Alexa è progettato per fornire informazioni accurate, pertinenti e utili ai clienti. Non appena siamo venuti a conoscenza di questo errore, abbiamo agito rapidamente per risolverlo”.
- Abbiamo poi Milk Crate, la sfida “della cassa di latte”, grazie alla quale molti giocatori (bambini e adolescenti, per lo più ma non solo) sono rimasti feriti, alcuni gravemente. Essa consiste nel tentare di salire una scala, fatta di casse di plastica per il latte, senza cadere. Ma qualcuno cade, e si fa molto male. D’altra parte è una sfida, il risultato contempla la sconfitta. Le casse di plastica, infatti, non sono esattamente le strutture più resistenti, quindi quando viene applicata loro pressione, tendono a ribaltarsi. Poiché sono impilate in altezza, il partecipante cade a terra e…
- Infine ” Orbeez Challenge “. Gli Orbeez sono sfere di gel che si espandono in acqua. Gli adolescenti sparano gli Orbeez, verso individui ignari “drive-by-style”. Le perle di gel sono solitamente fatte con acqua, ma la variante, molto più pericolosa, consiste nel congelarle per intensificare i loro effetti.
