Dans une annonce qui soulève des interrogations, OpenAI, le créateur du célèbre chatbot ChatGPT, vient de former une nouvelle équipe de « veille sécuritaire » pour l’intelligence artificielle. Cette équipe sera dirigée par nul autre que le CEO actuel Sam Altman et des membres du conseil d’administration. Une décision qui intervient peu après la dissolution de l’ancienne équipe de sécurité et le départ de plusieurs cadres importants d’OpenAI, particulièrement sceptiques sur les réels objectifs de la société.
Un comité pour répondre aux critiques
Ce nouveau comité aura pour mission d’émettre des recommandations sur les projets d’OpenAI, répondant ainsi à sa façon aux nombreuses critiques formulées par d’anciens employés. Sa première tâche sera d’évaluer et d’améliorer les processus et mesures de sécurité actuels, puis de présenter ses conclusions au conseil d’administration qui décidera de leur mise en œuvre.
La création de cette équipe de sécurité fait suite au départ du co-fondateur et scientifique en chef Ilya Sutskever, qui avait soutenu le départ d’Altman avant de co-diriger l’équipe Superalignment chargée du contrôle et de l’analyse des systèmes d’IA les plus sophistiqués.
Des départs et dissolutions qui suscitent des doutes
L’équipe Superalignment a depuis été dissoute suite aux démissions de Sutskever et de son co-directeur Jan Leike, exprimant tous deux de très fortes préoccupations sur la façon dont OpenAI aborde les problématiques sociétales des IA « super-intelligentes ».
La participation directe d’Altman et des membres du conseil d’administration à cette nouvelle équipe de sécurité soulève évidemment de nombreux doutes quant à l’engagement réel d’OpenAI à répondre aux préoccupations de sécurité et d’éthique qui ont motivé les récents départs de chercheurs clés.
Les enjeux cruciaux de la sécurité et du contrôle des IA
Alors que les avancées dans le domaine de l’intelligence artificielle s’accélèrent de façon exponentielle, la question de la surveillance et du contrôle de ces systèmes ultra-sophistiqués devient un enjeu absolument crucial. Les risques potentiels d’une IA incontrôlée ou mal orientée sont immenses, tant sur le plan économique que sociétal.
Il est donc primordial que les entreprises leaders dans ce domaine, comme OpenAI, mettent en place de solides garde-fous éthiques et sécuritaires, au-delà des simples effets d’annonce. La confiance du public et des autorités de régulation en dépend.
OpenAI saura-t-elle rassurer sur ses intentions ?
La création de ce nouveau comité de veille sécuritaire par OpenAI est un pas dans la bonne direction, mais il faudra juger sur pièce de son efficacité et de son indépendance réelle vis-à-vis de la direction. Les récents remous internes et les doutes exprimés par d’anciens cadres ne sont pas de nature à inspirer une confiance absolue pour le moment.
OpenAI devra faire preuve de davantage de transparence et d’ouverture sur ses travaux et ses objectifs pour espérer rassurer le public, les chercheurs et les régulateurs sur sa capacité et sa volonté d’encadrer efficacement le développement d’intelligences artificielles toujours plus puissantes et autonomes. L’avenir nous dira si Sam Altman et son équipe sont à la hauteur de cet immense défi.
- L’IA soulève des questions éthiques et sécuritaires majeures
- La confiance du public est cruciale pour le développement de l’IA
- OpenAI doit faire preuve de plus de transparence sur ses objectifs et méthodes
