Le TechCrunch Disrupt 2024 a démarré sur les chapeaux de roue avec un panel animé sur la lutte contre la désinformation générée par l’intelligence artificielle. Dans un échange passionné mais constructif, les trois panélistes ont eu des mots durs à l’égard des réseaux sociaux et de l’IA générative, tout en exprimant un respect mutuel.

Une « Machine à Conneries Perpétuelle »

Imran Ahmed, PDG du Center for Countering Digital Hate, s’est montré particulièrement virulent. Selon lui, la désinformation politique a toujours existé, mais l’avènement de l’IA générative a changé la donne de manière quantitative, la comparant à une course aux armements nucléaires.

Les coûts marginaux de production et de distribution de la désinformation ont été réduits à zéro. Vous avez théoriquement un système en boucle parfait dans lequel l’IA générative produit, distribue et évalue les performances. C’est une machine à conneries perpétuelle. C’est assez inquiétant !

– Imran Ahmed, Center for Countering Digital Hate

L’Illusion de la Transparence

Brandie Nonnecke, directrice du CITRIS Policy Lab de l’UC Berkeley, a souligné que l’autorégulation sous forme de limites volontaires et de rapports de transparence est totalement insuffisante. Selon elle, ces rapports donnent un faux sentiment de diligence, alors qu’en réalité, les plateformes tentent tant bien que mal de gérer un énorme volume de contenu problématique.

Trouver le Juste Équilibre

Pamela San Martin, co-présidente du Facebook Oversight Board, s’est montrée plus nuancée. Tout en reconnaissant qu’aucun réseau social ne fait tout ce qu’il devrait, surtout pas Meta, elle a mis en garde contre le risque de « jeter le bébé avec l’eau du bain » en prenant des mesures excessives par peur.

Nous pensions que cette année avec 80 élections serait l’année de l’IA et des élections, que tous les scrutins seraient inondés de deepfakes. On a vu une augmentation, mais pas d’élections complètement noyées sous le contenu généré par l’IA. Il ne faut pas perdre de vue les aspects positifs de l’IA en réagissant par la peur.

– Pamela San Martin, Facebook Oversight Board

Vers une Régulation Intelligente de l’IA

Au final, les panélistes semblent s’accorder sur la nécessité d’une régulation de l’IA qui soit à la fois efficace pour lutter contre la désinformation et équilibrée pour ne pas étouffer l’innovation. Cela passera sans doute par :

• Une collaboration renforcée entre les secteurs public et privé
• Des obligations de transparence et d’audit pour les systèmes d’IA
• L’implication de la société civile et des experts dans l’élaboration des politiques

La lutte contre la désinformation à l’ère de l’IA générative ne fait que commencer. Il faudra de la vigilance, de la nuance et de la coopération pour relever ce défi majeur pour nos démocraties et notre avenir numérique.