“Il progetto Q* è una minaccia per l’umanità”: la lettera dei ricercatori a OpenAI prima della rottura con Sam Altman
I ricercatori di OpenAI hanno avvertito il consiglio di amministrazione, prima della cacciata del CEO Sam Altman, di una svolta nell’intelligenza artificiale che rappresenterebbe una “minaccia per l’umanità”. Potrebbe essere questa la ragione della rottura, poi rientrata, con il numero uno della società a cui fa capo ChatGPT. A spiegare i dettagli della vicenda è Reuters in un articolo nel quale si parla del progetto in questione, denominato Q*, dove l’asterisco sta per “star”, stella in inglese.
Dentro OpenAI sarebbe quindi aperta una discussione sul “potente” sviluppo dell’intelligenza artificiale, arrivata a essere in grado di eseguire calcoli paragonabili a quelli appresi dagli studenti delle scuole elementari, un livello che ha reso i ricercatori “molto ottimisti” riguardo al futuro successo di Q*, hanno spiegato fonti all’agenzia di stampa. Dentro l’azienda, infatti, alcuni credono che il progetto Q* rappresenti una una svolta verso l’AGI, l’intelligenza generale artificiale, ovvero un sistema autonomo in grado di superare “gli esseri umani nei compiti economicamente più preziosi”.
I test sarebbero stati superati e vengono considerati uno “sviluppo chiave”. In questo risiederebbe la decisione di alcuni ricercatori di inviare una lettera al consiglio di amministrazione. Una missiva inviata prima della cacciata di Altman, poi rientrato nella società lo scorso martedì, anche in seguito alle proteste di più di 700 dipendenti che avevano minacciato di dimettersi e passare ai principali competitor di OpenAI.
Dentro il Cda ci sarebbero preoccupazioni anche riguardo alla commercializzazione dell’intelligenza artificiale nel pieno dei suoi progressi prima di avere una piena comprensione delle sue conseguenze. A favore dell’allontanamento di Altman hanno votato il direttore scientifico Ilya Sutskever, l’esperta di robotica Tasha McCauley, l’imprenditore Adam D’Angelo e la sostenitrice dell’Altruismo effettivo Helen Toner.
Fondata nel 2015 dallo stesso Altman, Elon Musk e altri imprenditori, OpenAI è salita alla ribalta delle cronache per ChatGPT, la sua intelligenza artificiale in grado di scrivere come un essere umano, dopo essere stata addestrata. L’AGI, invece, raggiungerebbe un livello molto più avanzato essendo in grado di avere comprensione dei problemi come un un essere umano, nonché la capacità di adattarsi senza dover essere addestrata.