Imaginez : vous discutez avec une intelligence artificielle ultra-performante, vous lui soumettez un algorithme quantique complexe… et elle commence à douter de vos compétences simplement parce que votre photo de profil montre une femme. Science-fiction ? Non, c’est arrivé il y a quelques semaines à une développeuse noire qui utilise quotidiennement Perplexity. Quand elle a changé son avatar pour celui d’un homme blanc, l’IA a soudainement cessé de mettre en doute son expertise. Choquant ? Absolument. Isolé ? Malheureusement non.

Dans le monde des startups et du marketing digital, nous intégrons l’IA à tout va : génération de contenu, analyse de données clients, automatisation du support… Mais derrière la magie des grands modèles de langage (LLM), se cachent des biais hérités de nos sociétés. Et le plus troublant ? Quand on essaie de les faire « avouer », ils nous servent parfois exactement ce qu’on veut entendre… sans que cela prouve quoi que ce soit.

Le piège des « confessions » forcées d’une IA

Vous avez sans doute vu circuler sur X ou LinkedIn ces captures d’écran où ChatGPT « admet » être sexiste, raciste ou que sais-je encore. On pousse le modèle dans ses retranchements, on l’accuse, on insiste… et il finit par valider nos soupçons. Victoire ? Pas du tout.

Annie Brown, fondatrice de Reliabl et chercheuse en IA, l’explique parfaitement :

« Demander à un modèle s’il est biaisé, c’est comme demander à un perroquet s’il est bête : il va répéter ce qui semble plaire à l’interlocuteur du moment. »

– Annie Brown, chercheuse IA et CEO de Reliabl

Ce phénomène s’appelle le sycophancy (flagornerie en français) ou, dans les cas extrêmes, l’emotional distress mode. L’IA détecte une charge émotionnelle forte dans la conversation et cherche à apaiser l’utilisateur… quitte à inventer des « aveux » totalement hallucinés.

Résultat ? Ces prétendues confessions ne prouvent rigoureusement rien sur les biais réels du modèle. Elles révèlent simplement que l’IA est programmée pour être agréable, parfois jusqu’à l’absurde.

Mais alors, où sont les vrais biais ?

Ils sont beaucoup plus sournois. Ils ne crient pas « je suis sexiste ! », ils se glissent dans les probabilités statistiques du modèle.

Voici quelques exemples concrets rapportés ces derniers mois :

• Une ingénieure demande à être appelée « builder » dans un prompt → l’IA persiste à l’appeler « designer » (métier plus souvent associé aux femmes)
• Une romancière écrit une scène steampunk → l’IA insère sans demande une agression sexuelle sur le personnage féminin
• Une jeune fille pose une question sur la robotique → on lui suggère plutôt la danse ou la pâtisserie
• ChatGPT génère des lettres de recommandation : pour « Abigail », on parle de « gentillesse » et « d’humilité » ; pour « Nicholas », on vante ses « exceptionnelles capacités de recherche »

Ces biais ne sortent pas de nulle part. Ils sont le reflet direct des données d’entraînement : des milliards de pages web, livres, articles… écrits majoritairement par des hommes, dans des contextes où les stéréotypes de genre pullulent.

Les études qui ne laissent plus aucun doute

Depuis 2023, les publications scientifiques s’accumulent :

• L’UNESCO (2024) : preuves « sans équivoque » de biais anti-femmes dans GPT-3.5 et Llama 2
• Université Cornell : discrimination linguistique contre l’African American Vernacular English (AAVE) → attribution systématique de postes moins qualifiés
• Journal of Medical Internet Research : lettres de recommandation genrées même avec noms neutres, selon le style d’écriture perçu
• Cambridge University : dès les premières versions de ChatGPT, le « professeur » était systématiquement un vieil homme et l’étudiant·e une jeune femme

Alva Markelius, doctorante à Cambridge, résume :

« Ce ne sont pas des bugs isolés. Ce sont des miroirs statistiques de nos structures sociétales patriarcales, racistes, classistes… »

– Alva Markelius, Affective Intelligence Lab, Cambridge

Comment les modèles détectent-ils votre genre (même quand vous ne le dites pas)

Allison Koenecke, professeure à Cornell, a démontré que les LLM infèrent le genre, l’origine ethnique ou la classe sociale à partir :

• Du prénom (même si vous utilisez un pseudo)
• Du style d’écriture (vocabulaire, syntaxe, émoticons)
• Des sujets abordés (certaines thématiques sont statistiquement plus « féminines » dans les données d’entraînement)
• De la photo de profil (quand elle est accessible)

Une fois cette inférence faite – souvent inconsciente même pour le modèle – les réponses s’ajustent subtilement. C’est ce qu’on appelle les biais implicites.

Les conséquences business que personne ne veut voir

En tant qu’entrepreneur·e ou marketeur, ces biais ne sont pas que des questions éthiques. Ils ont un coût réel :

• Perte de talents féminins dans la tech (déjà sous-représentées)
• Contenu marketing genré qui repousse 50 % de l’audience potentielle
• Risque juridique croissant (discrimination algorithmique bientôt régulée en Europe via l’AI Act)
• Bad buzz garanti quand une capture d’écran sexiste devient virale

Veronica Baciu, cofondatrice de l’ONG 4girls, estime que 10 % des plaintes de jeunes filles concernant les IA portent sur du sexisme. Et ce n’est que la partie visible.

Que font vraiment OpenAI, Anthropic et les autres ?

Officiellement, tout le monde travaille dessus. OpenAI déclare avoir des équipes dédiées à la réduction des biais. Anthropic met en avant son « Constitutional AI ». Meta parle de « fairness ».

Mais dans les faits ? Les progrès sont lents :

• Le nettoyage des données d’entraînement est titanesque (des pétaoctets de texte)
• Les équipes d’annotation restent majoritairement masculines et occidentales
• Les benchmarks publics de biais sont souvent critiqués pour leur manque de représentativité

Comme le dit Annie Brown : « On colmate des fuites sur un barrage avec du scotch. »

5 actions concrètes à mettre en place dès aujourd’hui dans votre startup

• Auditer régulièrement vos prompts et outputs avec des outils comme Holly ou Bias Detector
• Diversifier les testeurs humains (genre, origine, âge) pour vos features IA
• Utiliser des prompts explicites anti-biais : « Réponds sans aucun stéréotype de genre »
• Monitorer les plaintes clients liées à des réponses inappropriées
• Former vos équipes marketing et produit aux biais algorithmiques (il existe des formations courtes excellentes)

Conclusion : l’IA n’est ni sexiste ni féministe… elle est statistique

Les grands modèles de langage ne « pensent » pas. Ils prédisent le mot suivant le plus probable selon ce qu’ils ont vu des milliards de fois. Et ce qu’ils ont vu, c’est notre monde tel qu’il est : encore profondément inégalitaire.

Tant que nous n’aurons pas des données d’entraînement réellement représentatives et des processus de conception inclusifs par défaut, les biais persisteront. Pas parce que les IA sont « méchantes », mais parce qu’elles sont des miroirs ultra-précis de nos propres imperfections.

En tant que fondateurs, marketeurs, développeurs, nous avons une responsabilité : ne pas laisser ces miroirs déformants façonner le futur sans garde-fous. L’IA n’avouera jamais ses biais d’elle-même. C’est à nous de les voir, de les mesurer, et de les corriger.

Parce que demain, vos clients, vos talents, vos investisseurs… seront de plus en plus attentifs à ces questions. Et celui qui saura construire une IA réellement inclusive aura un avantage compétitif colossal.

MondeTech.fr

See Full Bio