Intelligenza Artificiale: La Nuova Guida alle Discriminazioni di Genere

Non c’è niente di più moderno di una macchina che ci parla come un’amica. Eppure, quando ascolti bene, senti l’eco di voci antiche. Lì dentro, tra risposte veloci e toni rassicuranti, scivolano abitudini vecchie. E un sospetto si fa strada: se ci fidiamo troppo, chi guida davvero le nostre scelte?

Una sera ho chiesto a un chatbot idee per “cambiare lavoro dopo i 40”. Le proposte per un profilo femminile erano “risorse umane”, “assistente”, “social media”. Per il profilo maschile comparivano “data analyst”, “vendite B2B”, “tecnico specializzato”. Piccole sfumature, certo. Ma è così che gli stereotipi si fanno casa: un suggerimento alla volta.

Quando l’algoritmo fa da specchio

L’intelligenza artificiale non ha cattive intenzioni. Impara. E impara da noi. I suoi dati di addestramento arrivano dal web, dai CV, dagli annunci, dalle immagini. Se online le donne compaiono più spesso come “assistenti” e gli uomini come “manager”, gli algoritmi registrano quel segnale. Poi lo ripetono. Non per malizia: per statistica.

Il problema esplode quando lo specchio diventa bussola. Nel 2018 un sistema interno di selezione usato in una grande azienda tecnologica bocciava i CV con parole come “women’s”. Nello stesso anno, test indipendenti mostrarono che alcuni software di riconoscimento facciale sbagliavano molto di più con i volti femminili, soprattutto con pelle scura, rispetto agli uomini con pelle chiara. C’è poi la pubblicità online: ricerche sperimentali hanno visto comparire più spesso annunci di lavori ben pagati a utenti identificati come uomini. Non abbiamo sempre tutti i dettagli tecnici, ma la tendenza è chiara e documentata.

Anche i piccoli gesti contano. Gli assistenti vocali per anni hanno impostato una voce “femminile” di default, paziente, servizievole. I sistemi di traduzione automatica hanno a lungo trasformato “il medico” al maschile e “l’infermiera” al femminile, pure quando il testo originale non lo diceva. Gli strumenti che generano immagini mostrano “l’ingegnere” uomo e “l’insegnante” donna con imbarazzante costanza. È così che il passato rimette radici nel presente.

E qui sta il punto: senza correttivi, la tecnologia non è neutrale. La discriminazione di genere non nasce dentro la macchina. Ma la macchina la amplifica, la rende operativa, la traveste da efficienza.

Cosa possiamo fare adesso

Servono scelte chiare. Prima: pulire i dati. Non basta toglierne un po’. Occorre capire da dove arrivano, chi manca, chi parla troppo. Secondo: test pubblici e periodici. Se un modello sbaglia di più con certe persone, va dichiarato. Terzo: team diversi. Se progetta sempre lo stesso profilo, lo stesso profilo non vedrà l’errore. Quarto: trasparenza utile, non fumo. Dire che un modello usa “milioni di parametri” non serve. Dire come prende le decisioni, sì. Quinto: regole per l’uso ad alto rischio, come credito, lavoro e sanità. Qui l’equità non è un optional.

Anche noi possiamo fare qualcosa. Chiedere all’IA di mostrare alternative. Segnalare risposte distorte. Scegliere prodotti che offrono controlli chiari e trasparenza. E insegnare a scuola che un output non è un oracolo: è una previsione, con pregiudizi possibili.

La verità è semplice e scomoda. Le macchine apprendono da noi. Se vogliamo parità, dobbiamo darle materia nuova. Altrimenti continueremo a seguire un navigatore preciso, elegante, eppure tarato su una mappa vecchia. La domanda è: abbiamo il coraggio di aggiornarla insieme, prima di perderci di nuovo?