Desiderava del cioccolato ed è entrata in un negozio per comprarlo. “In un minuto, un commesso mi si è avvicinato e mi ha detto: ‘Sei una ladra, devi andartene’”, ha dichiarato Sara (nome di fantasia) nel raccontare la sua disavventura alla BBC. Squadrata dalla testa ai piedi, perquisita e identificata come una criminale da Facewatch, un sistema di riconoscimento facciale adottato in Inghilterra in diversi esercizi commerciali, è stata vittima di un errore della tecnologia. “Sono stata bannata da tutti i punti vendita che utilizzano questo meccanismo di sicurezza. – ha affermato – Nel tragitto verso casa ho pianto tutto il tempo. Ho pensato: ‘La mia vita sarà la stessa? Sarò considerata una taccheggiatrice ma non ho mai rubato’”.
Il suo volto è stato abbinato dalla telecamera del negozio a quello di una ladra già nota, presente nel database delle forze dell’ordine. Lei, però, è innocente. Sono i rischi della catalogazione, dell’usare un’intelligenza artificiale per individuare i malviventi. Ma tutto è bene quel che finisce bene. E dopo aver compreso l’errore, Facewatch si è scusata con la donna, sottolineando al contempo il sempre maggiore supporto della tecnologia nel prevenire il crimine. Stando alla BBC, tra il 2020 e il 2022 la polizia ha usato i sistemi di riconoscimento biometrico nove volte. L’anno successivo 23, nel 2024 già 67. Un fenomeno in costante crescita, con una direzione chiara. Dove il limite della garanzia di sicurezza incroci la violazione della privacy degli utenti, però, resta ancora un nodo da sciogliere.
Un equilibrio precario su cui, in Inghilterra, si è però pronti a scommettere. Azienda leader nel settore del riconoscimento facciale è appunto Facewatch, il cui sistema di sorveglianza è utilizzato in diversi negozi (come Budgens, Sport Direct e Costcutter) per cogliere i delinquenti sul fatto. Le telecamere, installate sui soffitti, riprendono i volti dei clienti cercando poi una corrispondenza con le liste di controllo della polizia. “Ci vuole meno di un secondo perché la tecnologia crei l’immagine biometrica del volto di una persona, – ha spiegato al servizio pubblico britannico la direttrice dell’intelligence del Met, Lindsey Chiswick – la confronti con la watchlist personalizzata o la elimini automaticamente quando non c’è corrispondenza”. Grazie alla tecnologia biometrica, gli agenti inglesi hanno arrestato 192 persone solo quest’anno.
Ma il rovescio della medaglia esiste quasi sempre. “La mia esperienza, dopo anni che osservo questo sistema, è che molte persone non sanno cosa sia davvero il riconoscimento facciale – le parole di Silkie Carlo, direttrice di “Big Brother Watch”, Ong per le libertà civili attenta al tema della privacy –. Se fanno scattare un allarme di corrispondenza, la polizia può interrogarli, chiedere di provare la loro innocenza e possibilmente arrestarli”. Quale sia la soluzione, considerando anche la possibilità che i database con i volti siano hackerati e utilizzati per scopi sinistri senza consenso, è ancora un rompicapo da risolvere.
