Non c’è niente di più moderno di una macchina che ci parla come un’amica. Eppure, quando ascolti bene, senti l’eco di voci antiche. Lì dentro, tra risposte veloci e toni rassicuranti, scivolano abitudini vecchie. E un sospetto si fa strada: se ci fidiamo troppo, chi guida davvero le nostre scelte?
Una sera ho chiesto a un chatbot idee per “cambiare lavoro dopo i 40”. Le proposte per un profilo femminile erano “risorse umane”, “assistente”, “social media”. Per il profilo maschile comparivano “data analyst”, “vendite B2B”, “tecnico specializzato”. Piccole sfumature, certo. Ma è così che gli stereotipi si fanno casa: un suggerimento alla volta.
Quando l’algoritmo fa da specchio
L’intelligenza artificiale non ha cattive intenzioni. Impara. E impara da noi. I suoi dati di addestramento arrivano dal web, dai CV, dagli annunci, dalle immagini. Se online le donne compaiono più spesso come “assistenti” e gli uomini come “manager”, gli algoritmi registrano quel segnale. Poi lo ripetono. Non per malizia: per statistica.
Il problema esplode quando lo specchio diventa bussola. Nel 2018 un sistema interno di selezione usato in una grande azienda tecnologica bocciava i CV con parole come “women’s”. Nello stesso anno, test indipendenti mostrarono che alcuni software di riconoscimento facciale sbagliavano molto di più con i volti femminili, soprattutto con pelle scura, rispetto agli uomini con pelle chiara. C’è poi la pubblicità online: ricerche sperimentali hanno visto comparire più spesso annunci di lavori ben pagati a utenti identificati come uomini. Non abbiamo sempre tutti i dettagli tecnici, ma la tendenza è chiara e documentata.
Anche i piccoli gesti contano. Gli assistenti vocali per anni hanno impostato una voce “femminile” di default, paziente, servizievole. I sistemi di traduzione automatica hanno a lungo trasformato “il medico” al maschile e “l’infermiera” al femminile, pure quando il testo originale non lo diceva. Gli strumenti che generano immagini mostrano “l’ingegnere” uomo e “l’insegnante” donna con imbarazzante costanza. È così che il passato rimette radici nel presente.
E qui sta il punto: senza correttivi, la tecnologia non è neutrale. La discriminazione di genere non nasce dentro la macchina. Ma la macchina la amplifica, la rende operativa, la traveste da efficienza.
Cosa possiamo fare adesso
Servono scelte chiare. Prima: pulire i dati. Non basta toglierne un po’. Occorre capire da dove arrivano, chi manca, chi parla troppo. Secondo: test pubblici e periodici. Se un modello sbaglia di più con certe persone, va dichiarato. Terzo: team diversi. Se progetta sempre lo stesso profilo, lo stesso profilo non vedrà l’errore. Quarto: trasparenza utile, non fumo. Dire che un modello usa “milioni di parametri” non serve. Dire come prende le decisioni, sì. Quinto: regole per l’uso ad alto rischio, come credito, lavoro e sanità. Qui l’equità non è un optional.
Anche noi possiamo fare qualcosa. Chiedere all’IA di mostrare alternative. Segnalare risposte distorte. Scegliere prodotti che offrono controlli chiari e trasparenza. E insegnare a scuola che un output non è un oracolo: è una previsione, con pregiudizi possibili.
La verità è semplice e scomoda. Le macchine apprendono da noi. Se vogliamo parità, dobbiamo darle materia nuova. Altrimenti continueremo a seguire un navigatore preciso, elegante, eppure tarato su una mappa vecchia. La domanda è: abbiamo il coraggio di aggiornarla insieme, prima di perderci di nuovo?
