La tecnologia è femmina? No, se i programmatori sono soprattutto maschi

Quando si pensa ai robot, alla tecnologia e agli algoritmi sottostanti, si tende a credere che siano neutri dal punto di vista del genere, oppure che i professionisti della robotica siano obiettivi e non abbiano bisogno di considerare il genere quando progettano e costruiscono un dispositivo. La tecnologia, però, è essenzialmente sociologia: ovvero materia profondamente condizionata dai comportamenti umani e dalle loro relazioni sociali, materiali e simboliche. Molteplici sono le ricerche che dimostrano come il genere incida pesantemente nella costruzione della tecnologia; se i costruttori sono prevalentemente di un determinato genere, i loro dispositivi saranno gender-oriented, cioè non saranno neutri.

I dati a disposizione, a livello globale, ci indicano come l’universo dei programmatori sia prevalentemente maschile. Il grafico dimostra che il numero delle programmatrici (indicato con il colore rosso) è di gran lunga inferiore a quello dei colleghi maschi (indicato con il colore blu).

Grafico di Han Huang | REUTERS GRAPHICS

Questa composizione di genere ha un diretto impatto sulla tecnologia prodotta. L’ultima dimostrazione la si può avere dal motore di reclutamento automatico di Amazon. La Reuters riferisce che gli specialisti hanno scoperto un grave malfunzionamento nell’algoritmo, al cui sviluppo lavoravano dal 2014: scartava in automatico i curricula delle donne. Ciò accadeva perché il motore non valutava positivamente l’utilizzo di alcune parole o espressioni, ad esempio “delle donne”, oppure scartava a priori i curricula delle laureate in college femminili.

In realtà, come alcuni recenti studi hanno dimostrato, nell’ “addestramento” dei robot-algoritmi (AI) occorre tenere conto anche di un particolare fenomeno linguistico, denominato “allineamento linguistico”: i robot tenderebbero ad allinearsi al linguaggio del contesto in cui sono addestrati. Se quest’ultimo è a predominanza maschile, il dispositivo tenderà a non riconoscere, o a non valutare positivamente quello femminile.

Ciò può accadere, ovviamente, nell’ipotesi in cui il dispositivo è costruito soltanto da maschi del tutto inconsapevoli del loro impatto (di genere) sulla tecnologia prodotta. Se però pensiamo che Amazon è anche quella società che ha preparato – come ha rivelato qualche giorno fa gizmodo.com (un importante blog sulle innovazioni tecnologiche) – un video formativo (una specie di tutorial) di 45 minuti per istruire i dirigenti di Whole Foods Market (società acquistata da Amazon l’anno scorso per 13,7 miliardi di dollari) a ostacolare la sindacalizzazione dei propri dipendenti, il dubbio che non sia tutto un caso ci può anche sfiorare.

In fondo, una società che vuole insegnare ai propri manager di intercettare qualsiasi “segnale di allarme” nei comportamenti dei lavoratori – che potrebbero essere, come spiega il video, semplici parole usate dai lavoratori, come “delegato sindacale”, giusto salario”, “diritti dei lavoratori” – per impedire, sin dall’inizio, che questi organizzino delle lotte sindacali, non si posiziona molto lontano dalla discriminazione automatica (o automatizzata) dei curricula delle donne.

E qui si ritorna alla questione di fondo sulla tecnologia: quanto sono neutre la scienza e la tecnologia? Può mai esistere una tecnologia fondata sulla non discriminazione di genere, classe e razza (intesa come costruzione sociale) in un sistema di produzione in cui i mezzi di produzione sono proprietà di pochi?