Le monde de l’intelligence artificielle est en ébullition avec la récente annonce du recrutement par Anthropic d’un chercheur de renom en provenance d’OpenAI. Jan Leike, jusqu’alors co-responsable de l’équipe Superalignment chez OpenAI, a en effet décidé de rejoindre le rival Anthropic pour y diriger une nouvelle équipe dédiée à la sécurité et à l’alignement de l’IA.
Jan Leike : d’OpenAI à Anthropic
Chercheur de premier plan dans le domaine de la sécurité de l’IA, Jan Leike a démissionné plus tôt ce mois-ci d’OpenAI, où il co-dirigeait la prestigieuse équipe Superalignment. Avant son départ, il avait publiquement critiqué l’approche de son ex-employeur en matière de sécurité de l’IA. Son arrivée chez Anthropic marque un tournant dans la rivalité qui oppose les deux entreprises.
Selon un post de Leike sur X (anciennement Twitter), sa nouvelle équipe chez Anthropic se concentrera sur divers aspects de la sécurité et de la sûreté de l’IA, notamment la « scalable oversight », la généralisation faible-à-forte et la recherche automatisée sur l’alignement.
Je suis ravi de rejoindre @AnthropicAI pour poursuivre la mission de superalignement ! Ma nouvelle équipe travaillera sur la scalable oversight, la généralisation faible-à-forte et la recherche automatisée sur l’alignement.
– Jan Leike
La rivalité Anthropic-OpenAI s’intensifie
Le recrutement de Jan Leike par Anthropic intervient dans un contexte de rivalité croissante avec OpenAI. Fondé par d’anciens employés d’OpenAI, dont Dario Amodei (CEO) et Jack Clark (ex-responsable politique), Anthropic cherche à se positionner comme une alternative plus éthique et soucieuse de la sécurité.
Amodei aurait quitté OpenAI suite à un désaccord sur l’orientation de plus en plus commerciale de l’entreprise, emmenant avec lui plusieurs collègues pour lancer Anthropic. Cette start-up met l’accent sur le développement d’une IA sûre et alignée avec les valeurs humaines.
L’enjeu crucial de la sécurité de l’IA
Avec l’essor fulgurant des technologies d’IA, la question de leur sécurité et de leur alignement avec les intérêts humains devient cruciale. Les défis sont nombreux :
- Garantir un comportement prévisible et désirable des IA à grande échelle
- Permettre une généralisation saine des capacités de l’IA
- Automatiser la recherche sur l’alignement pour accélérer les progrès
C’est précisément sur ces enjeux que se concentrera la nouvelle équipe de Jan Leike chez Anthropic. Son expertise et son leadership seront des atouts précieux pour relever ces défis cruciaux pour l’avenir de l’IA.
Vers une IA plus sûre et éthique ?
Le transfert de Jan Leike d’OpenAI vers Anthropic illustre la volonté de cette dernière de se démarquer par une approche plus responsable du développement de l’IA. En mettant l’accent sur la sécurité, l’alignement et l’éthique, Anthropic espère ouvrir la voie à une nouvelle génération d’IA, au service de l’humanité.
Reste à voir si cette stratégie portera ses fruits face à des concurrents comme OpenAI, qui misent davantage sur la performance et les applications commerciales. Une chose est sûre : la course à l’IA sûre et bénéfique ne fait que commencer, et des talents comme Jan Leike auront un rôle clé à jouer.
