La Commission européenne a récemment demandé à Snapchat, TikTok et YouTube de fournir plus d’informations sur leurs algorithmes de recommandation de contenu, dans le cadre de l’application du règlement sur les services numériques de l’UE, le Digital Services Act (DSA). Cette démarche vise à mieux comprendre le fonctionnement de ces systèmes basés sur l’IA et leurs impacts potentiels.
Le DSA : Un cadre réglementaire ambitieux pour l’IA
Le DSA est entré en vigueur l’été dernier et impose des obligations renforcées aux très grandes plateformes en ligne (VLOP), comme Snapchat, TikTok et YouTube. Elles doivent notamment identifier et atténuer les risques liés à l’utilisation de l’IA pour la recommandation de contenus, dans des domaines tels que :
- La santé mentale des utilisateurs (comportements addictifs, « rabbit holes » de contenus)
- Le discours civique et le processus électoral
- La protection des mineurs
La Commission européenne s’inquiète du fait que les algorithmes conçus pour augmenter l’engagement puissent favoriser la diffusion de contenus préjudiciables, comme la promotion de drogues illégales ou les discours de haine.
Des questions ciblées pour chaque plateforme
Dans ses demandes d’information, la Commission a adapté ses questions aux spécificités de chaque plateforme :
- Pour Snapchat et YouTube, elle veut comprendre en détail les paramètres algorithmiques utilisés et leur rôle dans l’amplification de certains risques systémiques.
- Concernant TikTok, la Commission s’intéresse particulièrement aux mesures anti-manipulation déployées pour empêcher les acteurs malveillants d’exploiter la plateforme afin de propager des contenus néfastes.
Les plateformes ont jusqu’au 15 novembre pour fournir les données demandées, qui éclaireront les prochaines étapes, comme l’ouverture éventuelle d’enquêtes formelles.
La Commission européenne
TikTok déjà dans le viseur du DSA
Parmi les trois plateformes, seul TikTok fait actuellement l’objet d’une enquête formelle dans le cadre du DSA. Ouverte en février, cette investigation se concentre sur plusieurs points, dont l’approche de la plateforme en matière de protection des mineurs et la gestion des risques liés au design addictif et aux contenus préjudiciables.
La Commission avait aussi interrogé TikTok l’an dernier sur sa réponse aux risques de contenus liés à la guerre Israël-Hamas. Un signe que la réglementation européenne intensifie sa pression sur les géants de la tech et leur utilisation de l’IA.
Nous allons coopérer avec la Commission tout au long du processus de demande d’information.
Paolo Ganino, porte-parole de TikTok
Des sanctions lourdes en cas de violation
Le DSA prévoit des amendes sévères pour les plateformes qui enfreindraient ses règles, pouvant aller jusqu’à 6% de leur chiffre d’affaires annuel mondial. Bien que la Commission n’ait pas encore conclu d’enquête, elle a publié en juillet des conclusions préliminaires concernant X (ex-Twitter), soupçonné notamment d’enfreindre les règles du DSA sur la transparence publicitaire et l’accès aux données pour les chercheurs.
La pression réglementaire s’accentue donc sur les réseaux sociaux et leur utilisation de l’IA. Reste à voir comment Snapchat, TikTok, YouTube et les autres plateformes s’adapteront à ce nouveau cadre européen ambitieux et quelles conséquences cela aura sur l’évolution de leurs algorithmes de recommandation dans les mois à venir.
