Gli algoritmi influiscono sulle nostre vite, non solo sul feed di notizie dei nostri social network, o sull’ordine dei risultati di una ricerca su Google. In più, gli algoritmi non sono neutrali, come ha spiegato la femminista e ingegnera informatica Liz Rush in un’intervista alla giornalista Susan Cox su Feminist Current.

Anche se sono invisibili, gli algoritmi rinforzano e promuovono il sessismo e il razzismo nella nostra società, sempre maggiormente influenzata da Internet. Ecco alcuni passaggi tradotti in italiano, mentre qui trovate l’intervista integrale.


Susan Cox: Che cosa è esattamente un algoritmo?

Liz Rush: Un algoritmo è un insieme di regole o procedure adottate per calcolare o risolvere problemi con i computer. E’ come una ricetta. Ha diverse fasi che si susseguono in un certo ordine e, alla fine, il piatto è il risultato.


SC: Quali sono gli effetti negativi degli algoritmi sulla società moderna?

LR: Gli algoritmi sono dappertutto, ma non li vediamo. Sono nel tuo feed di Facebook, in quello che si vede su Twitter, in qualsiasi cosa che sta su Internet – anche nei motori di ricerca. (…) Quello che vedi è sempre filtrato attraverso algoritmi che sono stati personalizzati e ottimizzati sulla base di ciò che una società o un programma pensa che vuoi vedere.

Questo concetto viene definito “filter bubble”, e fa riferimento agli algoritmi che influiscono su quello che vediamo su Internet.

Quando cerchi qualcosa su Google, tra i risultati non troverai solo quelli che corrispondono meglio al termine. Google prende la cronologia delle ricerche, i tuoi dati demografici e le abitudini di shopping online, ma anche ciò che cercano le persone che si trovano nella tua stessa città.

Quindi, se io e te cerchiamo la stessa cosa, è probabile che avremo risultati simili perché siamo interessate agli stessi argomenti, siamo donne bianche, siamo entrambe Millennials, eccetera.

(…)

I dati stanno diventando sempre più intrecciati con quelli personali e con quelli di altre persone. Ad esempio, con la funzione di completamento automatico di Google, troviamo un algoritmo di apprendimento automatico – cioè che cerca di indovinare quello che stai pensando sulla base della cronologia di ricerca tua e di utenti simili a te. E in base a quello che stai effettivamente cercando, prova a imparare se il completamento era corretto o meno.

Ovviamente, un algoritmo del genere potrebbe imparare Fonte_UN Womenpregiudizi, e si vede quando si cerca: “Perché le donne sono così …” Spesso i suggerimenti che completano questa frase non sono lusinghieri per le donne, né per le persone di colore, o per ogni altra minoranza.


SC: Quindi, il sessismo e il razzismo possono entrare negli algoritmi?

LR: (…) Di per sé, l’algoritmo non è necessariamente razzista, sessista o classista. Ma, quando impara da un feedback che porta con sé un pregiudizio, o utilizza dati in qualche modo discriminatori, è in quel momento che il razzismo o il sessismo diventano il risultato dell’algoritmo. (…)

Se cerchi annunci di lavoro online, come donna hai meno probabilità di un uomo di vedere offerte di lavoro ben remunerate. Questo modello è stato dimostrato più volte. Ed è questo il tema centrale degli algoritmi: indipendentemente dall’intento della persona che li ha scritti, se il design degli algoritmi consente a pregiudizi auto-rinforzanti di continuare a propagarsi, allora i risultati – se non saranno corretti – alimenteranno i pregiudizi.

(…)


SC: Ma perché quanto cerco su Google un’immagine su qualsiasi cosa che riguarda le donne, i risultati contengono così tanto porno? Com’è possibile se Google prende in considerazione i miei interessi e la mia cronologia? Non ho mai cercato video porno o roba del genere, ma quando scrivo la parola “donna” nella ricerca di immagini di Google, i primi risultati suggeriti hanno quasi sempre a che fare col porno.

LR: Sì. E’ piuttosto frustrante. Quando cerchi “donna”, i risultati non sono solo basati sui tuoi dati. Considerano anche che la stragrande maggioranza degli utenti che cercano il termine “donna” sono alla ricerca di pornografia.


SC: Perciò la maggior parte dei risultati di ricerca di immagini legate al mondo femminile sono fondamentalmente porno softcore. Certo, neanche l’opzione “ricerca sicura” sembra essere molto utile. Potrebbe essere un problema anche per le bambine, quando cercano il termine “ragazza”.

LR: E’ terribile. Noi adulti siamo in grado di razionalizzare la situazione e dire: “Ok il porno è un’enorme parte di Internet e di tutte queste tecnologie.”

Ma se sei una ragazza di 12 anni alle prime armi su Internet, e stai cercando un videogioco di Nancy Drew, le probabilità che tu apra per sbaglio un porno sono estremamente alte, perché gli algoritmi hanno questo processo incorporato per far sì che gli utenti clicchino sui risultati, così come sugli annunci pubblicitari. E la pornografia è un settore enorme in questo campo.

(…)

SC: E ‘interessante il fatto che, nonostante Google non sia una società porno, la pornografia è dentro tutto quello che fanno. La pornografia costituisce il 30 per cento di tutta la rete Internet, e per via di questo processo di ottimizzazione, gli algoritmi rafforzano il sessismo e il razzismo che esiste nella società, amplificando le tendenze di quello su cui cliccano gli utenti, che è spesso pornografia o immagini porno.

(…)

SC: Che posso fare le donne possono fare per proteggersi?

LR: Anche se questi processi possono sembrare spaventosi, nessuno vuole mettere alla gogna Internet. Esistono, ad esempio, dei modi per assicurare la propria sicurezza online.

Ma il vero modo per cominciare a cambiare questa tecnologia è assicurarsi che siamo tutte coinvolte. Questo significa parlarne, imparare di più su questi temi, e prendere sul serio il fatto che la tecnologia ha impatto davvero forte su di noi e sul mondo che ci circonda.