Strage in Nuova Zelanda, quei video (e Brenton Tarrant) potevano essere bloccati?

Non è facile bloccare contenuti inopportuni diffusi attraverso le piattaforme online, ma sicuramente si può fare qualcosa di più rispetto a quanto si è verificato a ridosso della strage di Christchurch. La propagazione c’è stata, nonostante i sofisticati algoritmi di controllo, a dispetto dei filtri animati dall’intelligenza artificiale, in barba alle agguerrite squadre di specialisti in carne e ossa.

I potentissimi sistemi includono strumenti che etichettano in maniera univoca qualunque file, riconoscendone una specie di dna la cui individuazione può portare all’istantanea esclusione da qualunque trasferimento attraverso i gangli delle piattaforme social e conseguentemente alla distribuzione online di un video, di un’immagine o di un audio ritenuti inadatti, inopportuni, illeciti o comunque riconducibili ad eventi criminali. La diffusione endemica del raccapricciante video è stata contrastata da Faceboook che solo nelle prime 24 ore ha rimosso un milione e mezzo di filmati, ma nella fase di upload se ne è fatti sfuggire almeno 300mila. Un 20% di esemplari sono comunque stati caricati online e quei file hanno cominciato a rimbalzare altrove, spesso scegliendo WhatsApp per un inoltro diretto friend-to-friend, ossia da un amico all’altro o da un tizio ad una sua lista di contatti. Ma WhatsApp è sempre di Facebook (come pure Instagram), osserverebbe giustamente qualcuno e la coincidenza lascerebbe supporre che certi meccanismi di monitoraggio potrebbero avere anche una trivalenza e far fruttare le proprie funzioni su tutta la famiglia di servizi messi a disposizione da Mark Zuckerberg & C.

In the first 24 hours we removed 1.5 million videos of the attack globally, of which over 1.2 million were blocked at upload…

— Facebook Newsroom (@fbnewsroom) 17 marzo 2019

Chi deve difendere o proteggere l’utenza purtroppo – si fosse mai in una partita a scacchi – muove con i pezzi neri, ovvero può cominciare a giocare soltanto dopo che l’avversario ha fatto la prima mossa. Questa condizione di svantaggio spiegherebbe il fatto che nei primi istanti di condivisione del video qualcosa possa essere scappato a chi gestisce la piattaforma, il suo funzionamento e la sua sicurezza.

Quello stesso “qualcuno” di qualche riga fa – e ne ho incontrati parecchi in questi giorni – si è domandato come mai gli artigli della profilazione commerciale non vengano utilizzati per tracciare chi nel tempo ha manifestato una certa “vivacità” così da prevenirne pericolose escalation. Il quesito che echeggia nelle trombe di Eustachio del “quisque de populo” è semplice: come mai se cerco un paio di scarpe o una automobile un attimo dopo sono bombardato da pubblicità corrispondenti a quanto di mio interesse e in casi come questo di Christchurch non appare un banner che dica “volete smetterla?” a tutti quelli che tentano di pubblicare riprese splatter che farebbero inorridire persino Quentin Tarantino?

Il tizio, che si è messo una telecamera sulla testa (come i motociclisti che vogliono immortalare la bellezza dei paesaggi circostanti o le emozioni di una guida sportiva) per riprendere il massacro, non era al suo battesimo “social”. I suoi post erano inequivocabili e poco prima di dar luogo alla sua sconvolgente performance ha anticipato cosa stava per combinare. Era noto per dichiarazioni che non erano proprio stralci del catechismo e il buon senso (forse difficile da inserire in un algoritmo) avrebbe suggerito di “taggarlo” come soggetto pericoloso (senza per forza temere uno scenario orwelliano o veder limitata la libertà di espressione della collettività virtuale).

La frequentazione dei social determina l’acquisizione (da parte del gestore) di una valanga di elementi informativi che – destinati a tradursi in modelli predittivi – possono essere utili per conoscere abitudini, spostamenti e intenzioni. Spesso non c’è nemmeno da fare voli pindarici per scoprire cosa ci aspetta perché è lo stesso Brenton Tarrant di turno a dire dov’è, cosa ha in mente di fare, come pensa di realizzare i suoi squilibrati propositi.

Se il benvenuto all’utente di Facebook è nel sorprendente “a cosa stai pensando?” che invita a “postare” qualcosa, probabilmente si possono evitare certi show e le loro repliche e magari contribuire a scongiurare l’esecuzione di follie omicide segnalando fulmineamente alle Autorità competenti l’imminente pericolo.