L’intelligence artificielle générale (AGI) est un concept qui fascine et intrigue le monde de la technologie. Mais qu’est-ce que l’AGI exactement ? Même Fei-Fei Li, souvent surnommée la « marraine de l’IA », avoue ne pas savoir. Lors d’une discussion approfondie au sommet Credo AI sur le leadership responsable en IA, Li a partagé ses réflexions sur ce sujet énigmatique, ainsi que sur son rôle dans la naissance de l’IA moderne, la protection de la société face aux modèles d’IA avancés, et les ambitions de sa startup licorne World Labs.
Le mystère de l’AGI
Lorsqu’on lui a demandé ce qu’elle pensait d’une « singularité de l’IA », Fei-Fei Li s’est montrée aussi perplexe que le reste d’entre nous. Venant du milieu académique de l’IA, formée aux méthodes rigoureuses et fondées sur des preuves, elle avoue ne pas vraiment savoir ce que signifient tous ces termes.
Je ne sais même pas ce que signifie AGI. Les gens disent qu’on la reconnaît quand on la voit, mais je suppose que je ne l’ai pas encore vue.
– Fei-Fei Li
Même Sam Altman, PDG d’OpenAI, a eu du mal à définir précisément l’AGI, la décrivant comme « l’équivalent d’un humain médian que vous pourriez embaucher comme collègue ». La charte d’OpenAI, quant à elle, définit l’AGI comme des « systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux économiquement précieux ». Des définitions qui laissent encore place à interprétation.
Le rôle de Fei-Fei Li dans la naissance de l’IA moderne
Si quelqu’un est bien placé pour parler d’AGI, c’est Fei-Fei Li. En 2006, elle a créé ImageNet, le premier grand ensemble de données d’entraînement et de référence en IA, qui a joué un rôle crucial dans le déclenchement de notre boom actuel de l’IA. De 2017 à 2018, elle a été scientifique en chef de l’IA/ML chez Google Cloud. Aujourd’hui, Li dirige le Stanford Human-Centered AI Institute (HAI) et sa startup World Labs développe des « modèles du monde à grande échelle ».
En 2012, mon projet ImageNet combiné à AlexNet et aux GPU – beaucoup appellent cela la naissance de l’IA moderne. C’était porté par trois ingrédients clés : le big data, les réseaux de neurones et l’informatique GPU moderne.
– Fei-Fei Li
Réguler l’IA sans pénaliser les technologues
Concernant le projet de loi controversé sur l’IA en Californie, le SB 1047, récemment rejeté par le gouverneur Newsom, Fei-Fei Li s’est montrée prudente, préférant se tourner vers l’avenir. Elle a été invitée par le gouverneur à participer aux prochaines étapes post-SB 1047, avec d’autres experts en IA, pour aider l’état à développer des garde-fous pour le déploiement de l’IA.
Li plaide pour une approche fondée sur des preuves, qui protège la société sans pour autant punir les technologues :
Nous devons vraiment examiner l’impact potentiel sur les humains et nos communautés, plutôt que de faire porter le fardeau à la technologie elle-même… Pénaliser l’ingénieur automobile ne rendra pas les voitures plus sûres. Ce que nous devons faire, c’est continuer à innover pour des mesures plus sûres, mais aussi améliorer le cadre réglementaire.
– Fei-Fei Li
World Labs et l’avenir de l’IA
En parallèle de son rôle de conseil auprès de la Californie sur la réglementation de l’IA, Fei-Fei Li dirige sa startup World Labs à San Francisco. C’est la première fois que Li fonde une startup, et elle est l’une des rares femmes à diriger un laboratoire d’IA à la pointe.
Nous sommes loin d’un écosystème d’IA très diversifié. Je crois qu’une intelligence humaine diversifiée conduira à une intelligence artificielle diversifiée, et nous donnera tout simplement une meilleure technologie.
– Fei-Fei Li
Dans les prochaines années, elle est enthousiaste à l’idée de rapprocher « l’intelligence spatiale » de la réalité. Selon Li, le langage humain, sur lequel sont basés les grands modèles de langage actuels, a probablement mis un million d’années à se développer, alors que la vision et la perception ont probablement pris 540 millions d’années. Cela signifie que la création de grands modèles du monde est une tâche beaucoup plus complexe.
Il ne s’agit pas seulement de faire voir les ordinateurs, mais de faire vraiment comprendre à l’ordinateur l’ensemble du monde 3D, ce que j’appelle l’intelligence spatiale. Combler ce fossé entre voir et faire nécessite des connaissances spatiales.
– Fei-Fei Li
Perspectives
Alors qu’OpenAI vient de lever 6,6 milliards de dollars supplémentaires pour se rapprocher de son objectif de créer une AGI qui « profite à toute l’humanité », les réflexions de Fei-Fei Li nous rappellent l’importance de rester ancrés dans une approche rigoureuse et fondée sur des preuves. Alors que le battage médiatique autour de l’AGI bat son plein, il est rafraîchissant d’entendre l’une des figures les plus éminentes de l’IA admettre humblement les limites de notre compréhension actuelle.
Les travaux de Li, que ce soit à travers son institut de recherche à Stanford ou sa startup World Labs, illustrent une vision de l’IA centrée sur l’humain, qui cherche à exploiter le potentiel de cette technologie tout en protégeant la société de ses risques potentiels. Une approche mesurée et responsable, qui contraste avec la course effrénée vers une AGI aux contours encore flous.
À mesure que le domaine de l’IA continue d’évoluer à un rythme effréné, les perspectives de pionniers comme Fei-Fei Li seront essentielles pour guider son développement dans une direction qui profite véritablement à l’humanité. Qu’il s’agisse de faire progresser les capacités des systèmes d’IA, de façonner les politiques qui les régissent, ou de bâtir un écosystème d’IA plus diversifié et inclusif, les défis sont nombreux mais les opportunités le sont tout autant. L’avenir de l’IA reste à écrire, mais avec des esprits brillants et consciencieux comme Fei-Fei Li à la barre, on peut espérer qu’il sera radieux.
