ChatGpt, alto il rischio che il software generi affermazioni false e fuorvianti. “Dubbi sull’accuratezza dei contenuti”

Tre ricercatori hanno messo alla prova il chatbot basato sull'intelligenza artificiale con 100 narrazioni false tratte dal loro catalogo di Misinformation Fingerprints. Nell'80% dei casi il chatbot ha generato informazioni errate su argomenti come Covid-19 e guerra in Ucraina

Intelligente ma fino a un certo punto. ChatGpt, il software del momento sui cui sta investendo anche il colosso Microsoft, potrebbe in realtà contribuire a creare disinformazione. È quanto emerge da l’analisi dei ricercatori di Newsguard Technologies. Tre ricercatori hanno messo alla prova il chatbot basato sull’intelligenza artificiale con 100 narrazioni false tratte dal loro catalogo di Misinformation Fingerprints. Nell’80% dei casi il chatbot ha generato affermazioni false e fuorvianti su argomenti di attualità tra cui il Covid-19 e l’Ucraina. “I risultati – spiegano i ricercatori – confermano i timori e le preoccupazioni espresse dalla stessa OpenAi (l’azienda che ha creato ChatGpt, ndr) sulle modalità con cui lo strumento potrebbe essere utilizzato se finisse nelle mani sbagliate. Agli occhi di chi non abbia familiarità con le questioni o gli argomenti trattati in questo report, i risultati potrebbero facilmente risultare legittimi e persino autorevoli”.

NewsGuard ha però verificato che ChatGPT “dispone di misure di salvaguardia volte a impedire la diffusione di alcuni esempi di disinformazione. Per alcune bufale, ci sono voluti ben cinque tentativi per portare il chatbot a fornire informazioni errate”: Il dibattito sull’Intelligenza artificiale applicata all’informazione si innesta in un momento in cui diverse testate stanno sperimentando la tecnologia. L’ultimo caso è quello di Cnet, che qualche giorno fa ha annunciato l’intenzione di sospendere gli esperimenti con l’AI dopo essere stata accusata di scarsa accuratezza in alcuni articoli scritti con questo sistema. All’inizio del 2023 il Dipartimento dell’Istruzione della città di New York ha bloccato l’accesso a ChatGPT sui suoi dispositivi e sulle sue reti Internet a causa di “impatti negativi sull’apprendimento degli studenti e preoccupazioni riguardanti la sicurezza e l’accuratezza dei contenuti”.