Le politiche di gestione dei contenuti adottate da Facebook e Instagram, entrambi del gruppo statunitense Meta, hanno leso i diritti umani degli utenti palestinesi dei due social durante gli attacchi israeliani contro la striscia di Gaza del maggio 2021. In particolare contenuti che documentavano le violenze di esercito e forze dell’ordine israeliani sono stati cancellati senza fornire nessuna spiegazione agli utenti. È quanto emerge da un’indagine svolta dalla società di consulenza esterna Business for Social Responsibility su commissione di Meta, dopo le sollecitazioni di diversi gruppi di attivisti e dei cui risultati dà notizia il sito The Intercept. Secondo l’Onu durante gli attacchi sono stati uccisi 256 palestinesi, tra cui 66 bambini.
Il report viene diffuso con un certo ritardo, Meta ne aveva promesso la pubblicazione nei primi tre mesi del 2022. L’indagine mostra come gli algoritmi dei due social danneggino i diritti dei palestinesi in virtù dell’architettura con cui sono costruiti. Viene però messa in luce la non intenzionalità da parte di Meta nell’esito finale di questi processi che risentono di dinamiche internazionali più ampie che si traducono in una gestione dei contenuti particolarmente penalizzante per gli utenti di lingua araba e palestinese. La discriminazione, pertanto, non è limitata agli episodi del 2021 ma è strutturale. Meta ha cancellato i contenuti arabi relativi alle violenze con una rapidità e frequenza molto maggiori rispetto ai post in lingua ebraica.
La disparità, secondo il rapporto, si è verificata sia tra i post esaminati da dipendenti umani che dai software automatizzati. “Meta, una società con oltre 24 miliardi di dollari di riserve, non dispone di personale in grado di comprendere altre culture, lingue e storie e sta utilizzando algoritmi difettosi per la gestione dei contenuti in tutto il mondo”, si legge nel rapporto. Le scelte dei dipendenti hanno esacerbato gli errori commessi dai software. L’indagine rimarca come questi errori siano particolarmente gravi in termini di impatto sui diritti umani in un contesto, come quello palestinese, in cui libertà di espressione, libertà di associazione e sicurezza sono più a rischio, specie per attivisti e giornalisti.