La grande scommessa di “mantenere il controllo” sull’Intelligenza artificiale, il Nobel Hinton: “Costringere le aziende a destinare risorse sulla sicurezza”
La grande scommessa di “mantenere il controllo” sull’Intelligenza artificiale, il Nobel Hinton: “Costringere le aziende a destinare risorse sulla sicurezza”
“Mantenere il controllo”, lo scienziato e informatico Geoffey Hinton, premiato con il Nobel per la Fisica con John Hopfield, da tempo penso che sia questa la grande scommessa per affrontare la diffusione sempre più capillare dell’intelligenza artificiale su cui ha espresso in passato una preoccupazione così forte da decidere di dimettersi da Google per poterne parlare liberamente. Nella telefonata con la Fondazione Nobel Hinton, 77 anni, nato a Londra e diventato cittadino canadese, ha nuovamente espresso il suo pensiero: “Abbiamo a che fare con qualcosa per cui abbiamo un’idea molto più limitata di cosa succederà e di che cosa fare. Vorrei avere una sorta di ricetta semplice per cui se si fa questo, tutto andrà bene. Ma non è così. In particolare – ha proseguito Hinton – per quanto riguarda la minaccia che queste cose possano sfuggire al controllo e prendere il sopravvento, penso che ci troviamo in una sorta di bivio nella storia” e “nei prossimi anni dovremo capire se c’è un modo per affrontare questa minaccia”.
Secondo il Nobel è “molto importante in questo momento lavorare sulla questione di come mantenere il controllo. Dobbiamo impegnarci molto nella ricerca. Credo che una cosa che i governi possano fare – ha rilevato – sia costringere le grandi aziende a destinare molte più risorse alla ricerca sulla sicurezza. In modo che, ad esempio, aziende come OpenAI non possano mettere in secondo piano la ricerca sulla sicurezza”.
Hinton ha detto inoltre di vedere delle analogie fra i timori relativi all’IA con la conferenza di Asilomar (California) che nel 1975 riunì i protagonisti della ricerca sulle biotecnologie per discutere i rischi di quel campo di ricerca che allora era appena agli inizi: “Penso che ci siano delle analogie e che quello che hanno fatto sia stato molto buono. Purtroppo – ha aggiunto – ci sono molte altre applicazioni pratiche dell’IA” e “credo che sarà molto più difficile”. Quanto hanno fatto allora i biologi, ha osservato, è “un buon modello cui guardare”.
La speranza è che adesso i suoi appelli alla prudenza possano avere più ascolto grazie al Nobel: “Spero che mi renda più credibile quando dico che queste cose le capisco davvero”. Il riferimento è alla scuola di linguistica di Noam Chomsky, “che pensa che sia del tutto insensato dire che queste cose – dice riferendosi ai grandi modelli linguistici – capiscono, che non elaborano il linguaggio nello stesso modo in cui lo facciamo noi. Credo che questa scuola sia sbagliata. Penso che sia ormai chiaro che le reti neurali siano molto più brave a elaborare il linguaggio di qualsiasi altra cosa prodotta dalla scuola linguistica di Chomsky. Ma c’è ancora molto dibattito al riguardo, soprattutto tra i linguisti”.
Hai già letto 5 articoli
Acquista l'accesso illimitato a Ilfattoquotidiano.it
Partecipare in diretta ogni giovedì alle 16.00 alla riunione di redazione de ilfattoquotidiano.it e proporre la tua inchiesta
Partecipare al Forum di discussione con la redazione e il Direttore e lanciare la tua campagna su un tema o una battaglia di interesse pubblico. Scopri la nuova sezione dedicata ai sostenitori
Proporre il tuo post per il blog dedicato
Commentare tutti gli articoli
Navigare il sito senza pubblicità
Ricevere le newsletter tematiche
Leggere tutti gli articoli del Fatto Quotidiano 7 giorni dopo la pubblicazione
Sconto del 30% sull'abbonamento annuale a TvLoft e sui libri della casa editrice Paper First; sconto del 20% e sui prodotti del nostro shop online
Sottoscrivere la tessera alla Fondazione il Fatto Quotidiano al prezzo ridotto di 5€ (anziché 20€)
Infine riceverai la tua Membership card digitale e potrai usufruire dei vantaggi dedicati alle nostre Partnership
Partecipare in diretta ogni giovedì alle 16.00 alla riunione di redazione de ilfattoquotidiano.it e proporre la tua inchiesta
Partecipare al Forum di discussione con la redazione e il Direttore e lanciare la tua campagna su un tema o una battaglia di interesse pubblico. Scopri la nuova sezione dedicata ai sostenitori
Proporre il tuo post per il blog dedicato
Commentare tutti gli articoli
Navigare il sito senza pubblicità
Ricevere le newsletter tematiche
Leggere tutti gli articoli del Fatto Quotidiano 7 giorni dopo la pubblicazione
Sconto del 30% sull'abbonamento annuale a TvLoft e sui libri della casa editrice Paper First; sconto del 20% e sui prodotti del nostro shop online
Sottoscrivere la tessera alla Fondazione il Fatto Quotidiano al prezzo ridotto di 5€ (anziché 20€)
Infine riceverai la tua Membership card digitale e potrai usufruire dei vantaggi dedicati alle nostre Partnership
Gentile lettore, la pubblicazione dei commenti è sospesa dalle 20 alle 9, i commenti per ogni articolo saranno chiusi dopo 72 ore, il massimo di caratteri consentito per ogni messaggio è di 1.500 e ogni utente può postare al massimo 150 commenti alla settimana. Abbiamo deciso di impostare questi limiti per migliorare la qualità del dibattito. È necessario attenersi Termini e Condizioni di utilizzo del sito (in particolare punti 3 e 5): evitare gli insulti, le accuse senza fondamento e mantenersi in tema con la discussione. I commenti saranno pubblicati dopo essere stati letti e approvati, ad eccezione di quelli pubblicati dagli utenti in white list (vedere il punto 3 della nostra policy). Infine non è consentito accedere al servizio tramite account multipli. Vi preghiamo di segnalare eventuali problemi tecnici al nostro supporto tecnico
La Redazione
Caro navigatore, cara navigatrice,
non riesci a leggere ilfattoquotidiano.it perché hai negato i consensi relativi alla pubblicità. Per continuare a leggerci accetta i consensi o diventa nostro Sostenitore (in questo modo navigherai senza nessuna inserzione).
Ti ricordiamo che il nostro lavoro ha un costo ripagato dalla pubblicità e dai sostenitori. Il tuo aiuto è per noi indispensabile.
Se clicchi “Accetta i consensi” acconsenti in questo modo al trattamento dei tuoi dati personali mediante l'impiego di tutti i cookie presenti sul sito, fermo restando la possibilità di revocare il consenso in qualunque momento. Navigherai in modo totalmente gratuito e potrai visualizzare fino ad un massimo di 5 articoli al mese, e vedrai la pubblicità. Che cosa sono i cookie?
Se clicchi su “Rifiuta e Sostienici” sottoscrivi un abbonamento Sostenitore a “ilfattoquotidiano.it”, al costo promozionale di 1€ al mese per 3 mesi. A decorrere dal quarto mese il costo dell'abbonamento diverrà di 5,99€ al mese, il tutto mantenendo le tue attuali impostazioni. Da abbonato potrai navigare senza alcun tipo di pubblicità.