Perché la lettera-appello di Musk sull’intelligenza artificiale è un grosso pasticcio
di Mario Carmelo Cirillo e Franco Padella
La richiesta di moratoria di sei mesi sullo sviluppo dell’Intelligenza Artificiale (IA), firmata da imprenditori e tecnici della IA (tra cui Elon Musk) ha riacceso i riflettori sui suoi rischi. Si paventano i pericoli connessi all’esistenza di “potenti menti digitali che nessuno, nemmeno i loro creatori, può comprendere, prevedere o controllare”. La lettera-appello appare essere un grosso pasticcio: sposta l’attenzione su ipotetici rischi futuri evitando accuratamente quelli già presenti (cfr. Byung-Chul Han. Infocrazia. 2023 Einaudi).
I modelli di IA stanno spingendo i confini del possibile in maniera impressionante. I risultati forniti favoriscono la propensione a scambiare i guadagni prestazionali ottenuti dalle macchine con una reale comprensione del linguaggio naturale. All’origine di questi risultati vi sono architetture sofisticate, parallelizzazione del calcolo e immense basi di dati. Espressioni fuorvianti come deep learning, training ecc. inducono a pensarli intelligenti, ma questi modelli sono in realtà semplici pappagalli stocastici, stocastic parrots, come suggerito nella prima pubblicazione citata all’interno dell’appello, dai cui contenuti, tuttavia, gli autori di Stochastic Parrots prendono pesantemente le distanze.
I Large Language Models hanno enormi consumi energetici, e spesso si caratterizzano per pratiche di sfruttamento del lavoro e furto di grandi quantità di dati a beneficio di una manciata di persone. Inoltre la IA recepisce la visione dominante dei Paesi in cui viene sviluppata, quella dell’uomo bianco occidentale, con annesse discriminazioni di genere, razza, etnia, disabilità, inclinazioni sessuali, ricadute semantiche e culturali connesse. E poiché gli umani tendono a valutare gli interlocutori sulla base di come parlano, l’ottimo linguaggio dei sistemi di IA li rende oltremodo insidiosi. Questo significa che tutte le popolazioni non occidentali e bianche, come quelle del Sud del mondo, sono già ora danneggiate dall’utilizzo di questi modelli.
Come riportato in Stochastic Parrots, è accaduto che un palestinese, dopo che un sistema di traduzione automatico ha tradotto il suo post arabo “buon giorno” nell’inglese “feriscili” e nell’ebraico “attaccali”, sia finito arrestato dalla polizia israeliana. Su tutto questo sovrasta la crescente concentrazione di potere da parte delle grandi multinazionali dell’information technology.
Riguardo ai timori di un futuro sopravanzamento della IA rispetto alla specie umana, una suggestione ci viene da Kurt Gödel, il più grande logico del ventesimo secolo e grande amico di Einstein. La cosiddetta disgiunzione di Gödel induce a pensare che le macchine non arriveranno mai a uguagliare la mente umana (per approfondire qui). E tuttavia i pericoli esistono, derivanti dal sempre più diffuso affidamento delle scelte anche di governo alla logica di algoritmi sempre più “intelligenti”. Dalla pervasiva digitalizzazione delle nostre esistenze derivano senz’altro enormi rischi, così come la necessità di opportune contromisure di regolamentazione e di un efficace controllo democratico.
A tal proposito Gödel, esule dalla Germania nazista, al funzionario che lo interrogò per la concessione della cittadinanza Usa voleva spiegare che nella Costituzione Americana aveva trovato un’aporia che poteva porre fine democraticamente alla democrazia. I suoi accompagnatori, Einstein e Morgenstern, glielo impedirono, ma il fatto è di incombente attualità alla luce dell’assalto al Campidoglio degli Stati Uniti il 6 gennaio 2021 e della contrazione delle democrazie già in corso, con l’affermazione di soggetti capaci di vincere le elezioni sulla base di programmi che contrastano i principi di libertà e di pluralismo che ne sono a fondamento.