Algoritmi sessisti, intelligenza artificiale e questione di genere

Fonte immagine: Photo by Franki Chamaki on Unsplash

L’Intelligenza Artificiale può essere sessista. Gli algoritmi vengono, infatti, “allenati” e la loro creazione è basata sulla raccolta di dati provenienti da testi o altri materiali che potrebbero quindi replicare la narrazione di una realtà in cui esistono ancora molte disparità di genere. Anche la deputata americana Alexandria Ocasio Cortez aveva sollevato il problema già qualche anno fa mettendo in evidenza come i sistemi di Intelligenza Artificiale possano presentare dei bias e replicare discriminazioni razziste proprio perché non si tratta di sistemi completamente neutri.

Secondo il report dell’UNESCO sul rapporto tra Intelligenza Artificiale (AI) e l’uguaglianza di genere si dovrebbe cominciare a sviluppare algoritmi che tengano conto delle situazioni e delle tematiche sociali, delle vicende legate al sessismo e al razzismo, data la crescente importanza che proprio questi sistemi assumono nella vita quotidiana.

L’UNESCO in questo report fa propri i Feminist Internet Principles, principi che sono stati elaborati durante il primo meeting chiamato “Imagine a Feminist Internet” organizzato dall’Association for Progressive Communication (ASP) in Malesia nell’aprile del 2014 che riuniva circa 50 attivisti che si battono per i diritti delle donne, contro la violenza o per i diritti legati ad Internet.

Il principio su cui dovrebbe basarsi Internet è quello dell’accesso universale e aperto. Rispettare questo principio significa garantire il diritto a codificare e creare piattaforme che possano mettere in discussione la cultura sessista e le discriminazioni in tutti gli spazi.

Bisogna abituarsi all’idea che Internet sia uno spazio in cui si possono costruire movimenti e luoghi di condivisione che favoriscono la democratizzazione di processi di policy-making e l’uguaglianza di genere nei network locali e globali che possiedono la governance della tecnologia. Proprio qui risiede l’ennesima sfida alla logica capitalista, con la creazione di forme alternative di potere economico che girano intorno ai principi della cooperazione, solidarietà, beni comuni, favorendo la diffusione di risorse e dati aperti e gratuiti.

Tra gli altri principi figurano forme di “agency”, che si manifestano perseguendo il principio che garantisce il supporto al diritto alla privacy e al pieno controllo dei propri dati personali e delle informazioni online a tutti i livelli. Il principio della memoria, cioè il diritto di esercitare e detenere il controllo della propria storia e memoria, incluso poter accedere ai dati personali e alle informazioni online, poter esercitare il controllo su questi dati incluso chi ha accesso a questi dati e sotto quali condizioni e avere la capacità di cancellarli per sempre. Il principio dell’anonimato per difendere il diritto di essere anonimo e di rifiutare tutte quelle richieste che restringano questo principio e la lotta alla violenza online per sottolineare e far emergere forme di violenza online.

Secondo L’UNESCO, inoltre, ci si deve preoccupare del rapporto tra Intelligenza Artificiale e uguaglianza di genere non solo nella prospettiva di correggere gli errori presenti nello sviluppo di algoritmi o dei dataset che vengono utilizzati per la loro creazione. L’uguaglianza di genere è una preoccupazione più ampia che include, l’emancipazione delle donne collegata alla loro rappresentazione tra gli sviluppatori, i ricercatori e i leader delle aziende.

Per risolvere i bias degli algoritmi che replicano stereotipi e discriminazioni legate al genere si deve attuare un approccio circolare che consideri come parte del problema l’accesso all’educazione e alle opportunità di formazione delle donne in ambito tecnologico. Secondo il World Economic Forum, infatti, mediamente nel mondo meno del 30% delle ragazze intraprende un percorso universitario nelle discipline STEM (Science, Technology, Engineering and Mathematics).

È per questo che l’UNESCO suggerisce di puntare anche sull’aumento della consapevolezza delle industrie tecnologiche sulla mancanza di rappresentanza e per questo aumentare l’uso e la e la raccolta di dati intersezionali specialmente quelli derivanti da gruppi sottorappresentati. Cercare di correggere i bias, dove possibile utilizzare dei dataset che sono stati sviluppati sulla base di una prospettiva e una visione di uguaglianza di genere per garantire che i dati rappresentino la popolazione.

Garantire maggiore consapevolezza, rispettare i Feminist Internet Principles e sostenere un maggiore accesso all’istruzione e alla formazione delle donne in ambito tecnologico, potrebbe aiutare a sviluppare e creare degli algoritmi che non replichino la medesima visione del mondo. L’uguaglianza di genere passa anche attraverso l’accesso delle donne alle professioni tecnologiche e, in generale, al mondo della ricerca, dello sviluppo e dell’analisi dati, perché se gli algoritmi riflettono il mondo in cui viviamo, è ora che questo mondo cambi.

Sabrina Carnemolla