Facebook, i documenti interni svelano i vip esenti da regole: così un software “tutela” lo 0,2% che conta. “Tutti uguali? Non stiamo facendo quello che diciamo in pubblico”

Il quotidiano statunitense Wall Street Journal ha avuto accesso a documenti interni della società di Mark Zuckerberg: il sistema XCheck permette ai sei milioni di utenti in "white list" di postare contenuti proibiti ai comuni mortali. Il controllo - quando c'è - è soltanto ex post: l'anno scorso il social ha registrato 16,4 miliardi di visualizzazioni di post che avrebbero dovuto essere rimossi

Secondo il fondatore Mark Zuckerberg, Facebook non fa alcuna discriminazione tra utenti e consente ai suoi 3 miliardi di iscritti di esprimersi su un piano di parità con personaggi della politica, della cultura, dello spettacolo e del giornalismo. Solo che non è vero. The Facebook files, un’inchiesta del Wall Street Journal che ha avuto accesso a documenti interni della società di Menlo Park che controlla anche Whatsapp e Instagram, rivela che ai personaggi famosi è riservato un trattamento di favore. Con regole di comportamento molto più permissive rispetto a quelle che valgono per gli altri utenti. Per farlo, documenta il quotidiano finanziario, viene utilizzato un programma noto come “XCheck“, inizialmente concepito come forma aggiuntiva di tutela per i profili di alto livello, ma trasformatosi nel tempo in un sistema per escludere milioni di vip dai controlli sulla qualità dei contenuti e delle interazioni. Come? Alcuni account sono direttamente inclusi dal programma in una white list che li esenta da ogni sanzione. Ad altri, invece, è concesso di postare contenuti contrari agli standard in attesa di un successivo controllo dell’azienda, che il più delle volte non arriva. “In realtà non stiamo facendo ciò che diciamo di fare pubblicamente“, ammette l’azienda nel documento consultato dal Wsj.

XCheck ha consentito a personaggi pubblici di postare senza conseguenze contenuti che contenevano molestie o incitamenti alla violenza, e che avrebbero di sicuro portato a sanzioni se a pubblicarli fossero stati utenti “normali”. Nel 2019, ad esempio, ha lasciato che il giocatore del Paris Sant-Germain Neymar pubblicasse le foto senza vestiti di una donna che lo aveva accusato di stupro, mostrandola a decine di milioni di fan prima che il contenuto fosse rimosso. Tra i post apparsi sui profili della white list comparivano anche alcune clamorose fake news riconosciute da Facebook stesso: “I vaccini sono mortali”, “Hillary Clinton copre le spalle a circoli pedofili“, “Donald Trump paragona i richiedenti asilo ad animali”. “A differenza del resto della nostra comunità – si legge in un documento interno – queste persone possono violare i nostri standard senza conseguenze”, una pratica che “non è giustificabile in pubblico”. Nel 2020, riporta il quotidiano, di questa “élite invisibile” gestita da XCheck facevano ormai parte quasi sei milioni di utenti (lo 0,2% del totale) a cui viene garantita una sorta di impunità permanente.

Il portavoce di Facebook Andy Stone ha replicato che le critiche a XCheck sono giuste, ma ha spiegato che il sistema “è stato progettato per un motivo importante: creare un passaggio di controllo supplementare sui contenuti particolarmente delicati e che richiedono valutazioni più attente”. Stone ha poi aggiunto che la società sarebbe al lavoro per eliminare gradualmente la lista dei privilegiati. Il Wall Street Journal aggiunge però che l’azienda è consapevole di come le sue piattaforme siano piene di difetti da cui derivano danni la cui portata spesso può essere compresa del tutto solo dall’azienda stessa. Alcune di queste carte – che includono indagini di ricerca, discussioni interne tra dipendenti e bozze di relazioni alla dirigenza – sono state inviate alla Sec (Security and Exchange Commission) e al Congresso Usa da un lavoratore di Facebook che ha chiesto di essere protetto in base alla normativa federale sui whistleblower. I documenti, scrive il quotidiano, “mostrano nel modo più chiaro possibile quanto i problemi di Facebook siano noti a chi ci lavora, fino allo stesso Zuckerberg. E che quando l’azienda affronta in pubblico queste questioni lo fa con risposte parziali o fuorvianti, mascherando tutto ciò che sa”.

A differenza degli utenti standard – su cui il controllo è automatizzato e spesso tagliato con l’accetta – quelli sotto l’egida di XCheck vengono trattati con i guanti di velluto. Se l’algoritmo di Facebook ritiene che uno degli account in white list sta violando le regole, non rimuove il contenuto incriminato ma inoltra la pratica a un team apposito, composto da dipendenti specializzati, per ulteriori valutazioni. Che non sempre arrivano, e quando arrivano lo fanno con un ritardo tale che il contenuto “proibito” può raggiungere un pubblico gigantesco. Secondo un resoconto datato dicembre 2020, lo scorso anno XCheck ha consentito a contenuti illegittimi di essere visualizzati 16,4 miliardi di volte.

Prendiamo il caso di Neymar: dopo che una donna lo accusò di averla stuprata nel 2019, lui – per difendersi – postò su Facebook e Instagram i propri scambi di messaggi con lei, in cui comparivano il suo nome e le sue foto senza vestiti, accusandola di volerlo ricattare. La procedura standard per un caso del genere sarebbe semplice: rimuovere subito il contenuto. Ma Neymar era protetto da XCheck: così, per oltre 24 ore, il sistema impedì ai moderatori di Facebook di cancellare le immagini di revenge porn, che furono viste da 56 milioni di persone e condivise più di 6mila volte. Anche l’account di Donald Trump era gestito da XCheck prima della sua sospensione per due anni da Facebook, decisa lo scorso giugno: tanto che una citazione razzista dell’ex presidente, segnalata dall’algoritmo, era stata “risparmiata” dall’intervento diretto di Zuckerberg, che ammise in pubblico la circostanza.