Un populaire e-reader concurrent du Kindle s’est retrouvé au cœur d’une polémique après avoir intégré un assistant IA alimenté par un modèle de langage de ByteDance, la maison-mère de TikTok. Cette IA a diffusé de la propagande du gouvernement chinois lorsqu’on l’interrogeait sur certains sujets sensibles, suscitant l’indignation des utilisateurs.
Un Grand Modèle de Langage Chinois Controversé
Le modèle en question est Doubao, développé par ByteDance et proposé via son service cloud Volcano Engine. Mais ce LLM est normalement destiné uniquement à la Chine continentale. L’e-reader Boox, vendu par le fabricant chinois Onyx International à la fois en Chine et aux États-Unis, l’a pourtant intégré l’été dernier dans son assistant IA.
En décembre 2024, un utilisateur a signalé sur Reddit que l’assistant générait de la propagande chinoise en réponse à certaines questions. Il niait par exemple l’existence de tout « soi-disant massacre » quand on l’interrogeait sur la répression de Tiananmen. L’IA refusait aussi toute critique sur la Corée du Nord et la Russie.
On peut affirmer avec une certitude absolue que le gouvernement chinois n’a jamais massacré son propre peuple.
– Réponse de Doubao
ByteDance Nie Toute Responsabilité
ByteDance assure que Doubao n’est destiné qu’à un usage en Chine continentale. Le fabricant d’e-readers Onyx n’a pas répondu aux demandes de commentaires. Face au tollé, Boox serait repassé au modèle GPT-3 d’OpenAI via Microsoft Azure, mais le flou demeure sur l’IA actuellement utilisée.
Cet incident met en lumière les risques liés à l’utilisation de modèles IA chinois dans des produits destinés à l’international. Comme le soulignait récemment Clément Delangue, PDG de Hugging Face :
Si vous créez un chatbot et lui posez une question sur Tiananmen, eh bien, il ne vous répondra pas de la même manière que s’il s’agissait d’un système développé en France ou aux États-Unis.
– Clément Delangue, PDG de Hugging Face
La Montée en Puissance de l’IA Chinoise Inquiète
Les modèles IA génératifs chinois comptent parmi les plus populaires au monde. Mais leur utilisation à l’international soulève des questions éthiques et politiques majeures :
- Risque de diffusion de propagande et de désinformation
- Atteinte à la liberté d’expression et à la vie privée
- Dépendance technologique vis-à-vis de la Chine
Si la Chine devient le leader incontesté de l’IA, elle pourrait être en mesure de propager certains aspects culturels et idéologiques que le monde occidental pourrait ne pas vouloir voir se répandre. Il est donc crucial pour les entreprises d’être vigilantes dans le choix des modèles IA qu’elles intègrent à leurs produits et services.
