Il riconoscimento facciale di Amazon? Per gli esperti è il Ku-Klux-Klan 2.0

Sta venendo il giorno in cui quella specie di sorriso giallo che appare nel logo non coinciderà con lo stato d’animo degli utenti.

Parliamo di Amazon, quella che poco alla volta si è guadagnata le simpatie di chi vuol fare acquisti online nonostante il trattamento riservato ai dipendenti fosse diametralmente opposto a quello concepito da Adriano Olivetti o dai tanti altri personaggi che nel mondo tecnologico hanno equilibrato il profitto aziendale con il rispetto (e, perché no?, l’amore) per i lavoratori.

Quando si tratta di risparmiare una manciata di euro, però, non frega nulla a nessuno se chi opera in quei magazzini non può nemmeno permettersi il lusso di lamentarsi, stritolato dalla chimera di aver trovato un posto di lavoro pur se inumano.

Se l’etica non interferisce nelle nostre scelte quotidiane per l’incontrastato sovrastare del tornaconto personale, forse stavolta qualcuno può cominciare a preoccuparsi: il colosso capitanato da Jeff Bezos, nelle mille attività cui dà vita, include la commercializzazione di un sistema di riconoscimento facciale chiamato “Rekognition” finito in questi giorni al centro di enormi polemiche.

L’elevato margine di errore rilevato (in particolare a fronte dell’identificazione di donne, specie se di colore) trasforma una soluzione potenzialmente di grande utilità investigativa in un pericoloso strumento che potrebbe portare all’attribuzione di comportamenti e azioni a soggetti totalmente estranei.

Il sistema Rekognition, commercializzato da Amazon Web Services, esegue analisi di immagini e video di volti, tra cui l’identificazione e il monitoraggio delle persone e delle loro emozioni. Peccato che verifiche e test abbiano evidenziato che sia parziale, inaccurato e pericoloso. In una prova, la tecnologia di riconoscimento ha incredibilmente identificato membri afroamericani e latini del Congresso degli Stati Uniti come persone presenti in archivi di fotosegnalazione per pregresse attività criminali, riconducendo erroneamente 28 membri a persone arrestate.

Lo sbagliare l’abbinamento volto-identità non è certo rassicurante, soprattutto se quel prodotto viene venduto alle forze di polizia come ausilio alle indagini che – sempre più spesso – sfruttano i filmati delle telecamere di videosorveglianza o immagini non sempre nitide pescate dal web.

La circostanza è il cardine di uno studio redatto da due ricercatori del Massachussets Institute of Technology e pubblicato nel gennaio scorso. Il lavoro ha innescato immediatamente una serie di perplessità. Si sono scatenati attivisti di ogni sorta, ma soprattutto hanno detto la loro numerosi esperti di intelligenza artificiale che non hanno potuto fare a meno di esprimere un più che qualificato dissenso, ma le reazioni sono state fatte serenamente rimbalzare da Amazon.

L’imperturbabilità del colosso del commercio elettronico si è incrinata due giorni fa, quando la Securities and Exchange Commission (Sec) ha ufficialmente dichiarato che Amazon deve dare agli azionisti l’opportunità di prendere in considerazione e votare due distinte risoluzioni che affrontano i principali rischi aziendali posti dalla vendita della tecnologia di riconoscimento facciale alle Agenzie governative Usa.

Le due risoluzioni predisposte dagli azionisti, depositate presso Amazon a dicembre, si concentrano sui rischi aziendali per l’azienda derivanti dalle vendite di Rekognition. Una risoluzione chiede ad Amazon di bloccare le vendite del sistema alle articolazioni del Law Enforcement americano a meno che il Consiglio “concluda che la tecnologia non ponga rischi reali o potenziali per i diritti civili e umani”. L’altra risoluzione, invece, richiede al comitato direttivo uno studio indipendente di Rekognition sulla misura in cui la tecnologia potrebbe “mettere in pericolo, minacciare o violare” la riservatezza dei personali o altri diritti civili.

La Sec ha stabilito che l’Assemblea annuale della Società – che dovrebbe aver luogo nei prossimi mesi – dovrà includere le risoluzioni e la relativa discussione nell’Ordine del giorno.

Amazon aveva pensato di rivolgersi alla Securities and Exchange Commission per impedire la messa ai voti in questione, ma la lettera a firma di Elizabeth M. Murphy (vicedirettore della Divisione di Corporate Finance della Sec) ha incenerito i propositi di Jeff Bezos & C. Rekognition – già venduto all’Orlando Police Department della Florida e al Washington County Sheriff Office dell’Oregon – è stato proposto anche all’Immigration and Customs Enforcement (ICE) e all’FBI che stanno sperimentandone le potenzialità.

Un simile prodotto/servizio potrebbe sbarcare anche dalle nostre parti. L’augurio è che lo sforzo di oltre 70 gruppi per i diritti civili e le libertà civili, nonché delle centinaia di dipendenti di Amazon e delle 150.000 persone che hanno firmato una petizione per bloccare le vendite di Rekognition, non passi inosservato.