Dans le domaine en constante évolution de l’intelligence artificielle, les voix des femmes sont essentielles pour façonner un avenir technologique plus éthique et équitable. Sarah Myers West, directrice de l’institut de recherche AI Now, est l’une de ces voix influentes qui nous invitent à réfléchir de manière critique sur les implications sociales de l’IA.
Un parcours axé sur l’impact de la technologie
Depuis plus de 15 ans, Sarah Myers West explore le rôle des entreprises technologiques en tant qu’acteurs politiques puissants. Son livre plonge dans la façon dont le lobbying de l’industrie et la réglementation ont façonné les origines du modèle commercial de surveillance pour Internet, malgré l’existence de technologies offrant des alternatives en théorie.
À de nombreux moments de ma carrière, je me suis demandé : « Pourquoi sommes-nous en train de nous enfermer dans cette vision très dystopique du futur ? » La réponse a peu à voir avec la technologie elle-même et beaucoup à voir avec les politiques publiques et la commercialisation.
– Sarah Myers West
En tant que codirectrice de l’institut AI Now, Sarah Myers West s’efforce de s’assurer que les besoins du public soient servis par l’IA, et non ceux des entreprises technologiques.
Tenir les géants de la tech responsables
Lors de son passage à la Federal Trade Commission (FTC) des États-Unis, Sarah Myers West a travaillé sur des cas visant à responsabiliser les entreprises sur leur utilisation de l’IA, notamment lorsque celle-ci dévalorise les travailleurs, fait grimper les prix ou encourage des comportements anticoncurrentiels.
Elle souligne l’importance d’une équipe de technologues compétents travaillant sous l’égide du Bureau de la politique scientifique et technologique de la Maison Blanche, afin de relever les défis posés par l’émergence de l’IA générative et des infrastructures cloud.
Les enjeux pressants de l’IA
Malgré leur utilisation répandue dans des contextes sensibles tels que les hôpitaux, les écoles et les frontières, les technologies d’IA restent insuffisamment testées et validées. Les erreurs de ces systèmes touchent de manière disproportionnée les communautés historiquement discriminées.
- L’IA est utilisée par des institutions puissantes pour justifier leurs actions, de l’utilisation d’armes contre des civils à la privation des droits des travailleurs.
- Un problème réside dans le discours autour de l’IA, qui la présente comme rendant les choix plus « objectifs » et donc acceptables.
Construire une IA responsable
Avant de développer une IA, Sarah Myers West insiste sur la nécessité de se demander pourquoi la construire et si la technologie est adaptée à cet usage. Les développeurs doivent assurer la conformité juridique, documenter et valider de manière robuste leurs systèmes, et être transparents pour permettre une recherche indépendante.
Parfois, la réponse est de ne pas construire du tout : nous n’avons pas besoin d’armes ou de technologies de surveillance « construites de manière responsable ». L’utilisation finale est importante pour cette question, et c’est par là que nous devons commencer.
– Sarah Myers West
En mettant en lumière les enjeux cruciaux de l’IA et en plaidant pour une approche plus responsable et centrée sur l’humain, Sarah Myers West trace la voie vers un avenir où la technologie profite à tous. Son travail souligne l’importance vitale des voix diverses, en particulier celles des femmes, pour façonner l’évolution de l’IA de manière éthique et équitable.
