“Stanno cercando di normalizzare la violenza così siamo preparati alla guerra“. Questo è solo uno dei tanti commenti che si possono leggere su Reddit dopo che nelle scorse ore il feed degli utenti di Instagram è stato inondato di contenuti non richiesti ma soprattutto a sfondo sessuale o decisamente violento. Risse, sparatorie, animali maltrattati, atti di autolesionismo, video a luci rosse: per citare un altro commento di Reddit “sembra il dark web“. Ma che cosa è successo?

Come noto Instagram seleziona contenuti da mostrare agli utenti basandosi sulle preferenze da loro espresse, sostanzialmente seguendo account specifici e mostrando di interagire con alcuni argomenti piuttosto che con altri. Per questo motivo tante persone non si sono spiegate il proliferare sui propri feed di contenuti per nulla in linea con quelli che solitamente affollano le loro home e si sono confrontate in cerca di risposte. “Sì, sta succedendo ed è inquietante” ha scritto qualcuno, “Ho appena visto un tizio raccogliere il suo braccio dopo che gli è stato tagliato da un machete” ha fatto sapere qualcun altro.

Il panico si è diffuso pure su TikTok. Tanti creator e dintorni hanno realizzato dei contenuti per segnalare la questione: “Ragazze che prendono a pugni ragazzi, un elefante che spezza un uomo” ha fatto notare uno di loro; l’Influencer onesta ha messo in guardia le mamme (“Se avete dei figli evitate di dargli il telefono in questo momento, io sto male, ho visto cose che non so neanche se posso dire, gente che muore, ho visto un uomo che piangeva mentre due persone lo forzavano con una maschera a mangiare. La cosa folle è che questi contenuti hanno anche centomila like”). E ancora un altro giovane tiktoker ha detto: “Per la vostra sanità mentale non aprite i reels di Instagram. Ho visto un elefante che accartoccia un uomo…”).

Ecco che allora si è pensato a un errore di Meta nel mettere mano all’algoritmo che regola i suggerimenti: “Abbiamo corretto un errore che causava ad alcuni utenti la visualizzazione di contenuti nel loro feed Instagram Reels che non avrebbero dovuto essere consigliati. Ci scusiamo per l’errore”, ha confermato una nota stampa trasmessa alla Cnbc.

Secondo la politica di Meta, l’azienda lavora per proteggere gli utenti da immagini inquietanti e rimuove contenuti particolarmente violenti. I contenuti vietati possono includere “video che raffigurano smembramenti, interiora visibili o corpi carbonizzati”, nonché “commenti sadici nei confronti di immagini che descrivono la sofferenza di esseri umani e animali”. Tuttavia, Meta afferma che consente alcuni contenuti se aiutano gli utenti a condannare e sensibilizzare su questioni importanti come violazioni dei diritti umani, conflitti armati o atti di terrorismo.

L’errore con Instagram Reels, tuttavia, arriva dopo che Meta ha annunciato l’intenzione di aggiornare le sue politiche di moderazione nel tentativo di promuovere meglio la libertà di espressione, riporta ancora Cnbc. In una dichiarazione pubblicata il 7 gennaio la società ha affermato che avrebbe cambiato il modo in cui applica alcune delle sue regole sui contenuti al fine di ridurre gli errori che hanno portato alla censura degli utenti. Meta ha spiegato che ciò include lo spostamento dei suoi sistemi automatizzati dalla scansione di “tutte le violazioni delle politiche” a un focus su “violazioni illegali e di alta gravità, come terrorismo, sfruttamento sessuale minorile, droga, frode e truffe”. Per le violazioni delle politiche meno gravi, la società ha aggiunto che farà affidamento sugli utenti per segnalare problemi prima di agire.