Imaginez un monde où les vidéos que vous regardez en ligne ne sont plus forcément la réalité. C’est ce que les récentes vidéos deepfake mettant en scène le sélectionneur anglais Gareth Southgate nous montrent. Générées par l’intelligence artificielle, ces vidéos ont suscité un vif débat en Angleterre et au-delà, soulevant des questions sur l’impact des deepfakes et la nécessité de réglementer ces contenus.
Des vidéos deepfake bluffantes devenues virales
Les vidéos deepfake de Southgate, qui ont circulé massivement sur des plateformes comme TikTok et Instagram, le montrent en train de faire des commentaires désobligeants sur certains de ses joueurs phares comme Phil Foden ou Marcus Rashford. Si certains y ont vu une forme d’humour satirique à la britannique, d’autres ont pris ces propos au premier degré, montrant le pouvoir de désinformation de ces contenus ultra-réalistes générés par l’IA.
Les deepfakes sont des armes de manipulation cognitive massive
Hany Farid, expert en criminalistique numérique
La FA condamne des vidéos « offensantes »
Face à l’ampleur prise par ces vidéos deepfake, la Fédération anglaise de football (FA) est montée au créneau. Elle a fermement condamné ces contenus, les qualifiant d’« offensants » et appelant les réseaux sociaux à les supprimer. Certains supporters y voient une atteinte à la liberté d’expression mais pour la FA, ces vidéos sont nuisibles et potentiellement déstabilisantes en plein Euro 2024.
Les réseaux sociaux en première ligne
TikTok et Instagram, les principales plateformes ayant vu circuler ces deepfakes, ont dû réagir en urgence. Si les politiques sont en place pour gérer les contenus préjudiciables, leur application n’est pas toujours évidente, comme le montre la viralité initiale de ces vidéos. Trouver le juste équilibre entre créativité et prévention des dérives est un défi majeur pour ces réseaux.
- TikTok a supprimé les vidéos signalées pour violations répétées
- Meta (Instagram) a également passé en revue les contenus
- Les réseaux renforcent la détection des deepfakes
Vers une nécessaire régulation des deepfakes ?
Au-delà du cas Southgate, c’est toute la question de la régulation des contenus IA qui se pose. Avec des deepfakes de plus en plus difficiles à débusquer, le risque de désinformation et de manipulation est réel. Les plateformes ne peuvent agir seules et des cadres législatifs et éthiques devront être définis pour encadrer cette technologie à haut potentiel de nuisance.
Les deepfakes représentent un nouveau défi pour notre société. Il est urgent de développer des outils de détection performants et d’éduquer le public à ces contenus trompeurs.
Mathieu Michel, chercheur en IA
Les vidéos deepfake de Gareth Southgate sont un cas d’école des enjeux soulevés par les contenus IA ultra-réalistes. Entre liberté d’expression, désinformation et éthique, la société doit apprendre à apprivoiser cette technologie fascinante mais potentiellement dangereuse. La sensibilisation du public et l’action conjointe des plateformes et des régulateurs seront clés pour ne pas se laisser berner par ces deepfakes de plus en plus bluffants.
