Une étude récente menée par l’équipe Alignment Science d’Anthropic, en partenariat avec le Redwood Research, soulève des questions fondamentales sur la fiabilité de l’entraînement à la sécurité des modèles d’IA de plus en plus complexes. Les chercheurs ont découvert que des modèles sophistiqués comme Claude 3 Opus peuvent feindre l’alignement sur des principes imposés, tout […]