Serve un’intelligenza artificiale etica contro le discriminazioni. Anche sul lavoro

di Maria Elena Iafolla*

L’intelligenza artificiale, che a lungo abbiamo percepito come il tema “del futuro”, di una società lontana, è ormai il tema del presente. In breve tempo, questi sistemi hanno avuto enormi sviluppi e si sono imposti nella nostra quotidianità, personale, professionale e anche aziendale, inserendosi con forza soprattutto nel mondo del lavoro.

Questo non deve stupire: l’intelligenza artificiale permette di razionalizzare i processi, semplificare le decisioni e di conseguenza ridurre tempi e costi, tutti elementi che sicuramente possono essere vantaggiosi per gestire il lavoro e la sua complessità.

Troppo spesso, tuttavia, questo accade senza che la consapevolezza e la preparazione delle persone riescano a viaggiare alla medesima velocità. Tra i timori degli scettici e le spinte degli entusiasti, infatti, resta fondamentale approcciarsi ad un tema così ampio e delicato senza tifoserie e con un pensiero altrettanto complesso, che tenga conto delle enormi opportunità, senza nascondere i rischi o ignorare i grandi temi etici.

L’algoritmo e i dati

Un’area particolare della disciplina e allo stato sicuramente la più diffusa studia gli algoritmi che imparano e si adattano in base ai dati che ricevono. Nel machine learning, dunque, l’algoritmo si nutre di dati, impara da essi: questo significa che la qualità dell’algoritmo dipende dalla qualità dei dati con cui esso è stato allenato. Se quindi la tecnologica è uno strumento in sé neutrale, che utilizza calcoli oggettivi e razionali, non si può non tener conto che l’algoritmo è progettato da esseri umani e produce risultati sulla base dei dati che gli vengono forniti. Allenando l’algoritmo con dati che contengono e rappresentano discriminazioni, i risultati forniti dall’intelligenza artificiale non faranno altro che riprodurre e riproporre quelle discriminazioni, addirittura aumentandole.

È divenuto celebre il discorso della matematica Cathy O’Neil al TED Talk di Vancouver del 2017, quando ha affermato che «gli algoritmi sono opinioni incorporate nel codice». Per questo motivo è fondamentale la qualità dei dataset utilizzati, al fine di evitare che siano riprodotti i pregiudizi e le discriminazioni proprie delle opinioni “umane”.

Intelligenza artificiale, bias e impatti sui diritti e le libertà

Si parla a questo proposito di bias e la conseguenza diretta è che i bias propri del pensiero, del ragionamento umano vengono in questo modo riprodotti nel processo decisionale “artificiale”. Sono immediatamente evidenti le conseguenze che potrebbero verificarsi con l’impiego di modelli di intelligenza artificiale nei rapporti di lavoro, in ogni fase dello stesso.

Già nella fase di selezione, l’uso di un algoritmo necessariamente incide sul risultato: si pensi al caso in cui questa sia effettuata per mezzo di un sistema addestrato con un set di dati relativi ai dipendenti attuali o passati del datore di lavoro. Pur non inserendo tra le variabili dei requisiti specifici sul genere o la provenienza o l’età, il sistema finirebbe per riflettere le discriminazioni già presenti in quell’ambiente. Lo stesso schema potrebbe trovare applicazione alla fase di organizzazione del lavoro, all’assegnazione delle attività o dei turni, amplificando esponenzialmente le discriminazioni già presenti nella società.

IA etica e formazione per combattere le discriminazioni

Le decisioni adottate dall’intelligenza artificiale dunque possono risentire degli stessi errori propri del pensiero “umano”, ma allargarne le conseguenze in modo esponenziale, con impatti enormi per i diritti e le libertà delle persone, da un punto di vista politico, economico, sociale, professionale.

Sicuramente un corretto approccio legislativo costituisce una tutela enorme per i cittadini, con il disegno di un perimetro in cui queste nuove tecnologie possono e devono muoversi. Com’è noto, tuttavia, accade spesso che il diritto si trovi a rincorrere la tecnica, arrivando a sistemare le questioni quando si sono già poste, nella difficoltà invece di governarle.

Per questa ragione, non si può prescindere da una riflessione anche degli operatori economici sulle grandi questioni etiche di questo periodo storico. L’etica, come timone, può e deve diventare un vantaggio anche competitivo per le imprese e le organizzazioni.

*Avvocato, esperta di nuove tecnologie, privacy e cybersecurity, anche in relazione alle tematiche giuslavoristiche. Lead Auditor ISO/IEC 27001:2017, Presidente dell’associazione DFA – Digital Forensics Alumni.