Dans une annonce choquante mais malheureusement peu surprenante, Meta vient de dévoiler son nouveau conseil consultatif sur l’intelligence artificielle – et il est entièrement composé d’hommes blancs. Cette nouvelle soulève de sérieuses inquiétudes quant à l’exclusion persistante des femmes et des personnes de couleur dans le domaine de l’IA, malgré leurs qualifications et contributions clés à l’évolution de cette technologie.
Les Voix Ignorées De L’IA
Depuis des décennies, les femmes et les minorités ethniques dénoncent leur mise à l’écart du monde de l’intelligence artificielle. Pourtant, force est de constater que leurs voix peinent toujours à se faire entendre, comme en témoigne ce nouveau conseil IA de Meta. Bien que différent du conseil d’administration et du conseil de surveillance de l’entreprise, qui présentent une plus grande diversité, ce groupe consultatif joue néanmoins un rôle clé dans le développement des produits IA de Meta.
Le choix de n’y inclure que des entrepreneurs et dirigeants d’entreprise, sans aucun éthicien ni chercheur, soulève aussi des questions. Si leur expertise business est indéniable, l’IA n’est pas un produit comme les autres. Ses dérives potentielles peuvent avoir des conséquences désastreuses, en particulier pour les groupes marginalisés.
L’IA, Une Menace Pour Les Femmes
Les femmes sont particulièrement exposées aux risques de l’IA. Selon une étude de Sensity AI en 2019, 96% des deepfakes pornographiques en ligne ciblaient des femmes, sans leur consentement. Avec l’essor de l’IA générative, ce phénomène ne fait que s’amplifier.
Nous devrions placer la barre beaucoup, beaucoup plus haut. C’est une technologie sujette aux erreurs, et nous savons que ces erreurs ne sont pas réparties de manière égale, elles nuisent de manière disproportionnée aux communautés qui ont longtemps subi les effets de la discrimination.
– Sarah Myers West, directrice de l’AI Now Institute
Des deepfakes de stars comme Taylor Swift ont récemment fait le buzz, mais les femmes lambda sont bien plus démunies face à ces abus. Des applications ouvertement misogynes prolifèrent, permettant de « déshabiller » des photos de femmes ou d’y incruster leurs visages dans du contenu pornographique. Meta a même laissé passer des pubs pour « Perky AI », une app de ce type utilisant l’image d’une célébrité mineure.
L’Impératif D’inclure Des Voix Diverses
L’exclusion historique des femmes et des minorités du développement technologique a eu des conséquences néfastes bien documentées. Des études cliniques non mixtes aux algorithmes discriminatoires dans des domaines critiques comme l’emploi, le logement ou la justice, la liste est longue. Les assistants vocaux peinent à comprendre les accents non standard, les systèmes de reconnaissance faciale ciblent davantage les personnes noires…
L’IA actuelle incarne les mêmes structures de pouvoir inégalitaires que l’on retrouve ailleurs dans la société. Mais plutôt que d’y remédier, de nombreux leaders tech semblent les renforcer dans leur course effrénée au progrès. Selon McKinsey, l’IA pourrait automatiser environ la moitié des emplois sans diplôme universitaire et payés plus de 42 000 $ par an – des postes où les travailleurs issus des minorités sont surreprésentés.
Il y a lieu de s’inquiéter de la capacité d’une équipe d’hommes blancs, aussi brillants soient-ils, à superviser le développement de produits IA destinés à tous. Construire une technologie véritablement inclusive nécessitera un effort colossal et une compréhension fine des enjeux intersectionnels. Un défi que ce conseil IA mono-ethnique et mono-genre ne semble pas en mesure de relever.
- L’IA actuelle perpétue les biais et discriminations existants
- Les femmes et les minorités sont particulièrement vulnérables à ses dérives
- Inclure des voix diverses est essentiel pour développer une IA éthique et inclusive
Meta rate clairement une occasion de montrer l’exemple en termes de diversité et d’inclusion dans le secteur de l’IA. Espérons que d’autres acteurs sauront relever le défi et bâtir une intelligence artificielle réellement au service de tous.
