YouTube: l’intelligenza artificiale è troppo severa, tornano i moderatori umani

La crescita esponenziale dell’uso di filtri automatici su YouTube ha portato a un raddoppio di rimozioni errate di video, con proteste da parte degli utenti. Per questo Google ha intenzione di correre ai ripari, ricorrendo nuovamente ai team di moderatori umani.

I moderatori umani stanno per tornare di moda su YouTube. Durante la pandemia infatti il popolare sito di streaming video di Google aveva “messo offline” molti di loro, affermando di voler puntare sempre più sui filtri automatici controllati dall’Intelligenza Artificiale, che assicuravano tempi di intervento assai ridotti rispetto a un essere umano. Google però non aveva tenuto in conto la difficoltà che un’IA poteva incontrare nel comprendere i contenuti e il contesto in cui essi vengono proposti, discriminando così sottilmente tra contenuti realmente offensivi e pericolosi, satira, umorismo etc.

Pochi giorni fa però il colosso si è visto costretto a cambiare rotta, come spiegato al Financial Times. Secondo l’articolo infatti un utilizzo accresciuto dell’IA ha portato a un aumento significativo delle rimozioni di video, molte delle quali si sono rivelate errate, con relative proteste da parte degli utenti. Stando ai numeri snocciolati da YouTube infatti, tra aprile e giugno scorso, sarebbero stati ben 11 milioni i video rimossi, circa il doppio del normale. Di questi, circa 320.000 sarebbero state oggetto di ricorso, con metà dei video ripristinati. Tutti indizi precisi di un eccesso di zelo da parte dei sistemi di intelligenza artificiale nell’individuare e rimuovere contenuti violenti, razzisti o di incitamento all’odio.

Foto: Depositphotos

“Una delle decisioni che abbiamo preso [all’inizio della pandemia] quando si trattava di macchine che non potevano essere precise come gli esseri umani, è stato di assicurarci di non sbagliare nell’assicurarci che i nostri utenti fossero protetti, anche se ciò avrebbe potuto comportare una riduzione del numero di video leggermente superiore”, ha spiegato il chief product officer di YouTube, Neal Mohan.

Ora dunque gli esseri umani torneranno a occuparsi dei contenuti, ma comunque non in via esclusiva. L’IA infatti continuerà ad affiancare l’attività umana, magari per una prima scrematura che andrà poi eventualmente valutata da esseri umani: in un Web in cui i contenuti digitali sono in costante crescita non è possibile fare diversamente.