Dans un contexte où les contenus préjudiciables prolifèrent en ligne, la plateforme de streaming Twitch vient de prendre une décision qui interroge : le licenciement de l’intégralité de son conseil consultatif de sécurité. Composé depuis 2020 d’utilisateurs expérimentés, d’experts en cybersécurité et de militants anti-harcèlement, ce conseil avait pour mission de guider Twitch dans l’élaboration de ses politiques de modération et la protection des communautés marginalisées. Mais voilà qu’il se voit remplacé par un groupe d’environ 180 streamers ambassadeurs, une annonce faite abruptement aux membres lors d’une réunion le 6 mai dernier.
Twitch suit la tendance des licenciements dans la tech
Ce changement de cap s’inscrit dans une vague de licenciements touchant le secteur technologique ces dernières années, où les équipes dédiées à la sécurité et l’éthique sont souvent les premières visées par les efforts de rationalisation budgétaire. En 2023 déjà, Twitch se séparait d’une cinquantaine d’employés chargés de la surveillance des comportements abusifs. Et en début d’année, c’est 35% de ses effectifs qui étaient remerciés, alors que la plateforme peine encore à atteindre la rentabilité malgré sa position dominante dans le streaming.
Après avoir travaillé avec le même personnel pendant plusieurs années, nous avons recruté de nouveaux membres du conseil pour offrir des perspectives nouvelles et diversifiées.
– Elizabeth Busby, responsable communication confiance et sécurité chez Twitch
Un timing contestable face à la hausse des contenus toxiques
Mais cette décision de Twitch intervient à un moment où les contenus problématiques en ligne atteignent des sommets. Cyberharcèlement, discours violents et fausses informations sont dopés par l’essor des technologies d’intelligence artificielle générative, capable de produire ce type de contenus à grande échelle. Un défi de modération immense pour les plateformes, qui nécessiterait au contraire de renforcer l’expertise et les ressources dédiées.
Twitch assure cependant que son nouveau format de conseil, composé de créateurs et créatrices actifs, permettra « d’attirer encore plus de voix et de points de vue ». Mais remplacer des spécialistes indépendants par des streamers, aussi populaires soient-ils, suffira-t-il à endiguer la déferlante toxique ? Certains y voient plutôt une manœuvre visant à réduire les coûts et avoir un organe consultatif plus conciliant envers les pratiques de la plateforme.
Les plateformes doivent investir dans la sécurité des utilisateurs
Face aux enjeux complexes de la modération de contenus, les décideurs de la tech ne peuvent faire l’impasse sur l’expertise pointue et l’indépendance. Chasser les coûts à court terme en sacrifiant ses équipes de sûreté ne peut mener qu’à une détérioration de l’expérience et de la sécurité des utilisateurs. Sur le long terme, c’est la réputation et l’utilité même des plateformes qui sont en jeu.
À l’heure où les interactions sociales se digitalisent massivement, où l’IA repousse les limites de la création de contenus, le besoin de garde-fous éthiques n’a jamais été aussi criant. La responsabilité des acteurs technologiques est immense. Espérons que l’exemple de Twitch serve de piqûre de rappel au secteur : faire de la sécurité et de l’inclusion en ligne une priorité absolue, en y consacrant toutes les ressources humaines et financières nécessaires. L’avenir du web social en dépend.
- Le besoin d’expertise et d’indépendance des conseils de sûreté est crucial
- Les contenus toxiques explosent, nourris par l’IA générative
- Sacrifier la sécurité pour les coûts dégrade l’expérience utilisateur et la valeur des plateformes
