Le Intelligenze Artificiali che calcolano i prezzi online potrebbero imparare a “fare cartello”
Un esperimento condotto presso l'Università di Bologna in un ambiente simulato dimostra che due algoritmi di Intelligenza Artificiale creati per stabilire i prezzi di vendita online, se messi in competizione potrebbero imparare a mettere in atto strategie collusive.
Accordarsi per tenere alti i prezzi di un genere merceologico è illegale. Ma se a condurre questo “lavoro sporco” fossero delle Intelligenze Artificiali? La domanda sorge spontanea alla luce di una simulazione condotta dai ricercatori dell’Università di Bologna con due algoritmi di “dynamic pricing“, quelli usati dai siti di e-commerce per stabilire i prezzi.
Se fate acquisti online, avrete notato che i prezzi cambiano continuamente. Probabilmente saprete anche che le quotazioni non sono fatte “a mano”, ci pensano algoritmi di Intelligenza Artificiale. Si tratta di programmi che inizialmente erano realizzati per monitorare parametri quali il traffico e le preferenze d’acquisto, e calibrare di conseguenza i prezzi. Per esempio, potevano far salire i prezzi negli orari e nei giorni di punta e abbassarli nei momenti di stallo.
Questi sistemi di tariffazione si sono evoluti con il tempo. Dai programmi basati su regole (come l’orario e il flusso di traffico) si è passati a Intelligenze Artificiali dotate di apprendimento automatico. In pratica non serve più “dire” al software quali parametri deve controllare, il software apprende dall’esperienza a trovare il modo per massimizzare il profitto complessivo del sito. Il programmatore pone l’obbiettivo al software, quindi lo lascia libero di sperimentare strategie diverse in un ambiente simulato, in modo che impari ad adottare quelle vincenti a seconda delle situazioni che si presentano. Quando “ha imparato” lo mette al lavoro.
I ricercatori dell’Università di Bologna si sono chiesti se questi sistemi informatici possano anche imparare a mettere in atto strategie collusive, come per esempio un “cartello dei prezzi” a svantaggio dei consumatori. Per verificarlo, gli esperti hanno creato due semplici algoritmi di determinazione dei prezzi e li hanno messi al lavoro nello stesso ambiente. Il risultato è stato che i due algoritmi – che sono nati come entità completamente autonome – hanno appreso a ribattere al comportamento l’uno dell’altro. Il risultato non è stato un’asta al ribasso, ma l’esatto contrario: i prezzi delle merci si sono allineati su valori superiori a quelli che avrebbero avuto se gli algoritmi avessero operato da soli.
La conclusione è che le Intelligenze Artificiali “imparano a colludere puramente per tentativi ed errori, senza alcuna conoscenza preliminare dell’ambiente in cui operano, senza comunicare tra loro, e senza essere specificamente progettati o istruiti per colludere”. Un risultato pessimo, perché un comportamento del genere esula dal controllo umano e rischia di far salire il prezzo dei beni, danneggiando i consumatori. Peraltro “senza lasciare alcuna traccia di azioni concertate”. In altre parole, non sarebbe colpa di nessuno.