“Chi sviluppa l’IA crede che possa ucciderci tutti entro il decennio. Né Anthropic, né OpenAI stanno agendo responsabilmente”
Commenti“Né Anthropic, né OpenAI stanno agendo responsabilmente”. È un atto d’accusa netto quello affidato a Twitter da Jacob Coxon, 27 anni, ricercatore britannico laureato a Cambridge, che ha annunciato le proprie dimissioni da Anthropic dopo tre anni trascorsi a fare ricerca sul pretraining nei due principali laboratori americani di intelligenza artificiale. Secondo Coxon, le due aziende stanno correndo verso la superintelligenza capace di auto-migliorarsi e, nel farlo, “stanno giocando d’azzardo con le nostre vite”. Il suo addio arriva mentre la competizione fra i grandi laboratori di IA accelera e Anthropic, azienda di San Francisco che ha costruito gran parte della propria identità pubblica proprio intorno al tema della sicurezza, si prepara a una possibile Ipo dalla valutazione potenzialmente colossale. Coxon, che prima di approdare ad Anthropic aveva lavorato proprio per OpenAI, sostiene però che dietro la corsa tecnologica si nasconda un rischio che il pubblico non ha ancora compreso fino in fondo.
“Non sottovalutate il potere di questa tecnologia” scrive il matematico. Secondo il ricercatore, i sistemi che stanno arrivando saranno presto “sovrumani“, capaci di “hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”. Non si tratta, sostiene, di scenari puramente teorici: “Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando”. È a questo punto che Coxon riferisce ciò che, a suo dire, pensano realmente alcune delle persone che stanno sviluppando questi sistemi. “Le persone che costruiscono l’IA credono sinceramente che essa potrebbe ucciderci tutti entro la fine del decennio“, scrive. Coxon precisa che “non è una trovata di marketing” e sostiene che, anzi, nelle dichiarazioni pubbliche il linguaggio utilizzato da dirigenti e ricercatori sia spesso molto più prudente rispetto alle loro convinzioni private.
“Molti dirigenti e ricercatori senior, quando parlano alla stampa, useranno formule che sembrano ragionevoli – afferma – ma sento le stesse persone esprimere privatamente paura”. È sulla base di questa esperienza diretta, sostiene Coxon, che considera il rischio legato allo sviluppo dell’IA senza precedenti: “Nessun’altra attività umana comporta un livello di pericolo simile”. Coxon si confronta anche con una delle domande più ricorrenti nel dibattito sull’intelligenza artificiale: se chi lavora nei laboratori ritiene davvero possibile che la tecnologia possa sfuggire al controllo, perché continuare a svilupparla?
La risposta, nel suo racconto, è diversa per OpenAI e Anthropic. “A OpenAI, molti non hanno interiorizzato fino in fondo la posta in gioco a livello di civiltà”, scrive. Ad Anthropic, invece, il problema sarebbe conosciuto e discusso, ma proprio questa consapevolezza non avrebbe fermato la corsa. “La posta in gioco è ben compresa, ma sono intrappolati in una corsa per arrivarci per primi”, sostiene. Secondo Coxon, alla base ci sarebbe la convinzione che nessun altro laboratorio sia disposto a comportarsi responsabilmente e che, proprio per questo, sia necessario arrivare per primi. “Devono farlo loro stessi, nonostante il rischio”, scrive. Per il ricercatore è una logica estremamente pericolosa: accettare la corsa e arrivare a quello che definisce l'”endgame” sarebbe “una scommessa arrogante che non dovrebbe essere lanciata dallo Slack privato di un’azienda”.
Il riferimento è alla possibilità che lo sviluppo di sistemi sempre più potenti raggiunga una fase nella quale l’IA sia in grado non soltanto di eseguire compiti complessi, ma anche di contribuire in maniera significativa al proprio stesso miglioramento. È proprio questa prospettiva, la nascita di una superintelligenza capace di accelerare il proprio sviluppo, a preoccupare maggiormente Coxon. “Accelerare lo sviluppo dell’allineamento”, cioè la ricerca di sistemi i cui obiettivi restino compatibili con quelli umani, “dovrebbe richiedere una fiducia straordinaria nel fatto che non esistano traiettorie migliori disponibili”, sostiene. Il problema, nella sua lettura, è che la competizione economica e tecnologica rischia di trasformare una decisione dalle conseguenze potenzialmente irreversibili in una gara fra aziende private. Nonostante il tono allarmato, Coxon non si dice contrario in assoluto all’intelligenza artificiale. Al contrario, afferma di essere “ottimista sul potenziale del coordinamento” fra i diversi attori. E individua anche alcuni segnali che, a suo giudizio, potrebbero rendere possibile un accordo sui ritmi di sviluppo tra i laboratori statunitensi. “Warning shot” come l’attacco a Hugging Face, scrive, avrebbero reso più plausibili accordi fra i laboratori americani per rallentare la corsa. Ma, aggiunge, non ritiene che il sistema sia attualmente avviato
