Dans un monde où l’intelligence artificielle (IA) devient omniprésente, il est crucial de s’interroger sur qui façonne cette technologie et comment elle impacte notre société. Anika Collier Navaroli, chercheuse et militante de renom dans le domaine de la technologie, se consacre à rééquilibrer les pouvoirs au sein de l’industrie de l’IA et à mettre en lumière les expériences des communautés marginalisées.
Un parcours ancré dans la justice technologique
Anika Collier Navaroli a débuté sa carrière il y a 20 ans, en étudiant comment les lois sur la presse écrite allaient évoluer avec l’émergence des nouvelles technologies. Son master sur la transformation des flux d’information et de la liberté d’expression par la technologie a posé les bases de son engagement. Elle a ensuite travaillé sur les questions de biais algorithmiques et de conséquences inattendues des systèmes d’IA sur les communautés marginalisées.
Je suis fière d’avoir utilisé les politiques au sein des entreprises technologiques pour rééquilibrer concrètement les pouvoirs et corriger les biais dans les systèmes algorithmiques qui produisent de la culture et des connaissances.
– Anika Collier Navaroli
Changements systémiques chez Twitter
Chez Twitter en 2020, Anika a mené des campagnes pour vérifier des personnes auparavant exclues du processus, comme des femmes noires, des personnes de couleur et des personnes queer. Cela a permis d’intégrer de nouvelles perspectives dans les algorithmes de recommandation. Elle a également réalisé une étude pionnière, « Black in Moderation », sur les expériences des travailleurs noirs dans le secteur de la technologie.
Les dangers des données synthétiques
Selon Anika, l’un des enjeux éthiques les plus pressants du développement de l’IA est l’utilisation de données synthétiques comme données d’entraînement. Cela pourrait créer une boucle de rétroaction infernale où les biais et inexactitudes seraient constamment réinjectés dans le système. Mark Zuckerberg a récemment vanté le chatbot Llama 3 de Meta, partiellement alimenté par des données synthétiques, comme l’IA générative « la plus intelligente » du marché.
Appel à une « pause IA pour le peuple »
Face à une société devenue cobaye des expériences de cette nouvelle technologie non testée, Anika appelle les défenseurs de la technologie à s’unir et à organiser les utilisateurs d’IA pour réclamer une pause IA pour le peuple. Elle estime que si nous marquons une pause maintenant pour fixer les erreurs du passé et créer de nouvelles directives éthiques et réglementations, l’IA n’a pas à devenir une menace existentielle pour notre avenir.
Former la prochaine génération
De retour à l’École de journalisme de Columbia, Anika veut former la prochaine génération de personnes qui feront le travail de responsabilisation technologique et développeront l’IA de manière responsable, tant au sein des entreprises technologiques qu’en tant que chiens de garde externes. Elle pense que les compétences journalistiques comme l’interrogation de l’information, la recherche de la vérité, la prise en compte de multiples points de vue et la distinction entre faits et opinions sont essentielles pour ceux qui écriront les règles de la prochaine itération de l’IA.
Besoin urgent de réglementation externe
Au-delà de travailleurs qualifiés dans les équipes de confiance et sécurité, Anika est convaincue que l’industrie de l’IA a besoin d’une réglementation externe. Aux États-Unis, elle préconise la création d’une nouvelle agence pour réguler les entreprises technologiques américaines, avec le pouvoir d’établir et de faire respecter des normes de base en matière de sécurité et de confidentialité. Elle souhaite également continuer à mettre en relation les régulateurs actuels et futurs avec d’anciens travailleurs technologiques qui peuvent les aider à poser les bonnes questions et à créer de nouvelles solutions nuancées et pratiques.
À une époque charnière pour l’IA, le travail d’Anika Collier Navaroli pour rééquilibrer les pouvoirs, exposer les biais et plaider pour une réglementation responsable est plus crucial que jamais. Son parcours inspire ceux qui aspirent à façonner un avenir technologique plus équitable et éthique pour tous.
