L’intelligence artificielle continue de repousser les limites de la créativité, comme en témoigne le lancement par OpenAI de Sora, son nouvel outil de génération de vidéos. Cependant, la startup fait preuve de prudence en limitant l’accès à l’une des fonctionnalités les plus puissantes de Sora : la possibilité de générer des vidéos à partir de photos ou de séquences de personnes réelles.

OpenAI adopte une approche progressive

Seul un sous-ensemble d’utilisateurs de Sora aura accès dans un premier temps à cette fonctionnalité sensible. OpenAI souhaite affiner son approche en matière de sécurité avant un déploiement plus large, conscient des risques potentiels liés aux deepfakes et à la désinformation :

La capacité à générer une vidéo en utilisant une photo ou une vidéo uploadée d’une personne réelle comme « graine » est un vecteur d’abus potentiel envers lequel nous adoptons une approche particulièrement progressive afin d’apprendre des premiers schémas d’utilisation.

– OpenAI

Les utilisateurs ne pourront pas non plus partager des vidéos générées contenant des images de personnes réelles sur le fil de découverte de la page d’accueil de Sora.

Des garde-fous pour prévenir les dérives

Parmi les mesures mises en place par OpenAI pour empêcher toute utilisation malveillante, Sora intègre notamment :

• Un filtre pour détecter si une vidéo générée représente une personne de moins de 18 ans, avec des seuils de modération plus stricts
• Des métadonnées respectant la norme C2PA pour identifier facilement l’origine des vidéos créées par l’outil
• Une réécriture des prompts pour éviter de générer des vidéos imitant le style d’artistes vivants, afin de se prémunir contre d’éventuelles plaintes pour violation de copyright

Un outil créatif puissant malgré tout

Même avec ces restrictions, Sora offre de nombreuses possibilités excitantes aux utilisateurs selon les premiers retours :

• Création de vidéos à partir d’un texte ou d’une image
• Édition de vidéos existantes via l’outil « Re-mix »
• Création de séquences vidéo avec l’interface « Storyboard »
• Fusion de deux vidéos en une nouvelle avec l’outil « Blend »

Dans un premier temps, seuls les abonnés ChatGPT Pro et Plus d’OpenAI dans certains pays pourront accéder à Sora. Malgré une approche mesurée, dictée par des impératifs de sécurité et d’éthique, ce lancement marque une nouvelle avancée impressionnante des capacités créatives de l’intelligence artificielle.

La génération de vidéos par IA ouvre un immense champ des possibles, soulève aussi de nombreuses questions sur la détection des deepfakes, le respect de la propriété intellectuelle, et l’utilisation responsable de ces technologies. OpenAI semble déterminé à avancer prudemment sur ce terrain glissant, pour libérer le potentiel créatif de Sora tout en minimisant les risques. Une approche sage qui pourrait inspirer d’autres acteurs dans le domaine de l’IA générative.