L’intelligence artificielle (IA) est en train de transformer rapidement notre monde, mais avance-t-elle trop vite ? C’est ce que pense Sophia Velastegui, membre du comité consultatif national sur l’IA de la National Science Foundation (NSF) et ex-directrice de l’IA chez Microsoft. Dans une interview exclusive, elle partage ses réflexions sur les défis éthiques posés par le rythme effréné de l’évolution de l’IA.

Un parcours tourné vers l’IA

Diplômée en génie mécanique, Sophia Velastegui ne se destinait pas initialement à une carrière dans l’IA. C’est en travaillant chez Apple à partir de 2009 qu’elle a commencé à s’intéresser aux applications, en particulier celles utilisant l’IA. Elle a vite perçu le potentiel immense de cette technologie pour améliorer nos vies, à petite comme à grande échelle.

Son parcours l’a ensuite menée chez Google, où elle a dirigé l’architecture des puces et les produits Nest, puis chez Microsoft en tant que directrice générale des produits d’IA. Là, elle a piloté l’intégration de l’IA dans de nombreux produits phares comme LinkedIn, Bing ou Azure. Une expérience marquante, à une période charnière où Microsoft faisait de grands progrès en IA sous l’impulsion de son CEO Satya Nadella.

Naviguer dans un secteur très masculin

Le secteur de la tech reste encore aujourd’hui largement dominé par les hommes. Pour y faire sa place en tant que femme, Sophia Velastegui souligne l’importance du soutien entre femmes, mais aussi celui des hommes envers leurs collègues féminines. Son conseil : ne pas hésiter à prendre sa place à la table et saisir toutes les opportunités de travailler sur des projets d’IA.

« J’encourage fortement plus de femmes à s’impliquer dans l’IA pour que nos voix, nos expériences et nos points de vue soient inclus à ce moment critique où les technologies d’IA fondamentales sont définies pour le présent et l’avenir. »

Sophia Velastegui

Un manque de diversité dans les équipes peut mener à un phénomène de « pensée de groupe ». C’est pourquoi il est essentiel que les femmes fassent entendre leur voix, en partageant leurs retours le plus souvent possible. Leur présence est indispensable pour façonner le secteur et rééquilibrer les rapports de force.

Les dangers d’une IA qui avance trop vite

L’IA évolue actuellement à une vitesse vertigineuse, jamais vue pour aucune autre technologie. Un rythme très difficile à suivre pour les individus, les régulations, les systèmes existants. Dans ce contexte, le grand défi est de rester informé, à jour, tourné vers l’avenir, tout en ayant conscience des dangers si on va trop vite.

Sophia Velastegui pointe notamment du doigt le manque de représentation dans les données utilisées pour entraîner l’IA. Celles-ci proviennent principalement des développeurs, en grande majorité des hommes avec des perspectives spécifiques. Si les femmes ne sont pas incluses, en tant que développeuses comme utilisatrices, alors l’IA ne les représentera pas du tout.

Un cadre éthique commun indispensable

Pour permettre aux développeurs de créer rapidement des systèmes d’IA sans freiner l’innovation ni compromettre la sécurité, un cadre éthique commun est indispensable. Sophia Velastegui n’y croit cependant pas trop, au vu du rythme actuel.

À défaut, elle prône une approche de l’IA « centrée sur l’humain », qui tire les leçons des erreurs passées et place le bien-être des utilisateurs au cœur des priorités. Les entreprises devraient notamment :

• Mettre en place un conseil d’IA diversifié et transversal, chargé d’examiner les problèmes et formuler des recommandations
• Créer des canaux pour des retours et une supervision réguliers, qui s’adapteront à mesure que le système d’IA évolue

L’avenir de l’IA en question

Les mises en garde de Sophia Velastegui résonnent à une époque où les avancées de l’IA s’accélèrent de façon exponentielle. Des avancées porteuses d’immenses promesses, mais aussi de risques pour nos sociétés si elles ne s’accompagnent pas d’un cadre éthique solide.

La diversité dans les équipes développant ces technologies d’avenir apparaît plus que jamais comme un enjeu fondamental. Car une IA conçue uniquement par une partie de la population ne pourra refléter et servir les intérêts de tous. Faute de réglementation, il revient pour l’instant aux entreprises de s’autoréguler, en plaçant l’éthique et l’humain au centre de leur approche.

L’IA façonnera sans aucun doute notre futur. Mais à nous de choisir dans quelle direction nous voulons l’orienter. Les réflexions de Sophia Velastegui nous invitent à faire une pause dans cette course effrénée vers le progrès technologique, afin de nous demander quel avenir nous voulons réellement construire avec l’intelligence artificielle.