Le prime sentenze dell’Oversight Board, “tribunale supremo” di Facebook, hanno evidenziato tutti gli errori commessi abitualmente dai moderatori di contenuti che lavorano per il social media pur essendo impiegati per lo più presso agenzie esterne che forniscono servizi di moderazione.
Le decisioni hanno contestato le mancate spiegazioni sulle decisioni che portano alla rimozione di un contenuto (nel caso di un post di un cittadino armeno che rivolgeva parole ingiuriose alle persone di origine azera), hanno contestato la superficialità delle decisioni stesse (nel caso di un utente birmano che criticava le reazioni differenti di una comunità di fedeli rispetto ad alcuni fatti di cronaca recente), hanno criticato l’arbitrarietà nell’interpretazione delle policy di rimozione (nel caso di un utente che aveva condiviso una citazione erroneamente attribuita a Goebbels) e hanno contestato la sproporzione tra la violazione commessa dagli utenti e la rimozione integrale dei contenuti in luogo dell’utilizzo di forme di moderazione più “soft” ed educative (nel caso di un utente che invitava le autorità sanitarie a valutare l’uso dell’idrossiclorichina contro il covid-19).
Un primo bilancio dell’oversight board Facebook
Più che un tribunale in difesa degli utenti, la struttura e l’organizzazione dell’Oversight Board di Facebook sembrano quindi essere quelle di un tribunale interno di supervisione del lavoro dei moderatori di contenuti e, soprattutto, delle agenzie esterne che lavorano come fornitori dei servizi di moderazione del social.
Moderatori social, lavoratori “obsoleti” ma indispensabili: chi sono gli invisibili della rete
Facendo un primo bilancio, dunque, le prime sentenze dell’Oversight Board sottolineano, ancora una volta, i principali limiti del processo di moderazione di Facebook: opaco, contradditorio, superficiale. Questo perché:
- Solo Facebook è in grado di ricondurre un “errore” di moderazione di contenuti sanzionato dal Board a uno specifico moderatore o team di moderazione attivo sulla piattaforma.
- Solo Facebook può introdurre cambiamenti strutturali in seguito a una sentenza dell’Oversight Board nel proprio processo di moderazione di contenuti e nelle proprie policy.
- Le sentenze del Board possono quindi essere usate da Facebook per valutare l’operato delle società terze che forniscono i servizi di moderazione, ed eventualmente rimodulare i contratti sulla base di una sentenza definitiva e “neutrale” rispetto al social media stesso.
- Questa interpretazione del ruolo dell’Oversight Board all’interno dell’ecosistema di Facebook non deve oscurare il suo ruolo nel più ampio contesto della relazione tra piattaforme digitali e Stati.
L’Oversight Board uno strumento di pressione nelle mani di Facebook?
Opacità, superficialità, arbitrarietà nell’interpretazione delle policy di rimozione, uso sproporzionato della forza di repressione: sono bastate le prime quattro sentenze su cinque per riassumere tutte le critiche che nel corso degli ultimi anni sono state mosse a più riprese nei confronti del sistema di moderazione di contenuti adottato da Facebook (e simile sotto molti aspetti a quello utilizzato da altre piattaforme digitali, come ho ricostruito nel mio libro “Gli obsoleti. Il lavoro impossibile dei moderatori di contenuti”, Agenzia X Edizioni, 2021). L’Oversight Board, “tribunale supremo” voluto e organizzato da Facebook tramite una fondazione finanziata dalla stessa azienda di Menlo Park, non ha tuttavia alcun potere che non sia quello di ordinare la ripubblicazione dei contenuti che sono stati rimossi da Facebook e riabilitati dai giudici del Board stesso: le sue sentenze non si traducono in nuove regole di policy della piattaforma, né tantomeno possono modificare in senso più ampio le modalità di lavoro dei moderatori di contenuti che hanno portato questi ultimi a commettere errori più o meno gravi. Solo Facebook ha il potere di trasformare le sentenze del Board in un intervento strutturale più ampio sui propri processi e regole interne.
Facebook Oversight Board, che succede ora? Ecco perché può essere un’arma a doppio taglio
Che cosa succede al moderatore di contenuti la cui decisione è stata invalidata dalla decisione del Board? Non è dato saperlo, ma non è difficile immaginare le possibili conseguenze: solo Facebook è in grado di ricondurre ogni singolo caso esaminato dal Board a uno specifico moderatore di contenuti o a uno specifico team di moderazione. Dal momento che la maggior parte de moderatori lavora per società esterne a Facebook stessa, che forniscono a quest’ultima servizi di moderazione in subappalto, è plausibile che le decisioni del Board possano essere usate da Facebook per valutare l’operato di quelle società a cui il social ha delegato il potere di decidere quali contenuti e quali utenti hanno il diritto di rimanere sulla sua piattaforma: per rinegoziare al ribasso i contratti di fornitura, per individuare i fornitori meno “affidabili”, per mettere sotto pressione ulteriormente i moderatori che lavorano per Facebook ma senza esserne a tutti gli effetti dipendenti e controllati direttamente dalla società. L’Oversight Board, fino a prova contraria, sembra essere più uno strumento utile a Facebook per controllare l’operato dei suoi fornitori – e ottenere sentenze inoppugnabili al fine di stralciare o rimodulare i contratti – che non un’istituzione al servizio degli utenti stessi.
Facebook ha sempre l’ultima parola su quali contenuti saranno oggetto di valutazione effettiva
A sollevare numerosi dubbi sull’ambiguità del ruolo dell’Oversight Board e del suo stretto rapporto con Facebook ci ha pensato un lungo articolo di Kate Klonick apparso poche settimane fa sul New Yorker Magazine: Klonick, che ha seguito i 18 mesi di selezione e formazione dei “giudici” del Board, ha riassunto efficacemente i limiti stringenti imposti da Facebook nei confronti del Board fin dai suoi primi giorni di operatività. Limiti che sembrano essere pensati per venire incontro più alle necessità (di business) di Facebook che non ai bisogni dei suoi utenti: divieto di valutare i contenuti che non sono stati eliminati dalla piattaforma ma segnalati dagli utenti, divieto di valutare l’operato degli algoritmi, divieto di imporre un cambiamento delle policy. Solo Facebook, inoltre, può decidere quali appelli degli utenti possono essere valutati dai giudici del Board su un totale di 200.000 contenuti ammissibili ogni giorno: non è insensato domandarsi quali siano i criteri seguiti dall’azienda di Menlo Park nel selezionare i contenuti da sottoporre ai giudici del Board, e se tra questi criteri non vi sia il legame tra un determinato appello degli utenti e un determinato moderatore di contenuti di uno specifico fornitore, al fine di servirsi delle sentenze del Board per rivalutare i contratti di fornitura in seguito a errori macroscopici commessi dai fornitori stessi.
Il “caso” Trump
Questa ipotesi, tuttavia, sembra venire meno di fronte alla prossima sentenza a cui è chiamato l’Oversight Board: la riabilitazione o il “ban” definitivo di Donald Trump da Facebook e Instagram, una decisione che non è stata di certo presa in autonomia da un moderatore esterno alla piattaforma ma deciso a livello centrale. Eppure, anche in questo caso, una conseguenza importante della decisione del Board non sarà solo quella relativa al plausibile (secondo Bloomberg) ritorno sulla scena pubblica digitale dell’ex presidente degli Stati Uniti, quanto una sentenza destinata a influenzare il lavoro delle agenzie di moderazione di contenuti nei confronti dei personaggi pubblici politici di qualsiasi livello: un monito, un precedente, per far sì che i fornitori di Facebook possano avere una linea guida da seguire in caso di moderazione di contenuti relativi ai politici locali e internazionali, e che Facebook stessa possa usare per valutare l’operato dei propri fornitori sulla base di una sentenza di rilievo mondiale eseguita da un tribunale “terzo” e apparentemente neutrale. L’Oversight Board, anche in questo senso, sembra essere uno strumento funzionale al regolamento di conti e al ribilanciamento dei rapporti di forza tra Facebook e i propri fornitori dei servizi di moderazione, che nel corso degli anni hanno acquisito un ruolo e una voce di costo crescente nei bilanci del social media.
Tra Stati e piattaforme: il ruolo dell’Oversight Board nella “istituzionalizzazione” di Facebook
Se, fino a prova contraria, il ruolo dell’Oversight Board può essere valutato alla luce delle necessità di un’azienda privata come Facebook di contenere i costi e ribilanciare i rapporti di forza con i propri fornitori di servizi (di moderazione), allo stesso modo non deve essere sottovalutato il ruolo del Board all’interno del più ampio scenario che vede Facebook scontrarsi a più riprese con il potere locale degli Stati e delle Comunità sovranazionali: un aspetto sottolineato, tra gli altri, da Ginevra Cerrina Ferroni, vice presidente del Garante italiano per la protezione dei dati personali, che ricorda in un articolo come “Facebook e il Comitato per il controllo che ne costituisce l’Authority di garanzia si stiano affermando come una vera e propria nuova tipologia di istituzione sociale che si pone come una realtà privatistica alternativa al modulo Stato, tanto da poter parlare persino di una “privatizzazione della giustizia digitale su scala globale”, dai contorni ancora incerti, pertanto rischiosa e da seguire pertanto con la massima attenzione”. Un aspetto, quest’ultimo, che solleva ulteriori interrogativi sulle reali intenzioni di Facebook nei confronti del “suo” Oversight Board: “controllore” indipendente, ma finanziato e costruito su misura dal suo imprevedibile “controllato”.
