L’IA générative a ouvert une nouvelle ère dans le domaine de l’édition d’images, permettant de modifier et de retoucher des photos avec une facilité et une rapidité sans précédent. Parmi les acteurs majeurs de ce secteur, Midjourney se démarque en annonçant le lancement prochain d’un outil web révolutionnaire qui permettra à n’importe qui de transformer des images grâce à sa puissante IA.
Midjourney repousse les limites de l’édition d’images par IA
Selon David Holz, PDG de Midjourney, cette nouvelle fonctionnalité sera déployée « au début de la semaine prochaine » et offrira aux utilisateurs des capacités d’édition d’images inédites. Non seulement ils pourront modifier n’importe quelle image téléchargée depuis le web, mais ils auront également la possibilité de retexturer des objets pour en « repeindre » les couleurs et les détails selon des légendes spécifiques.
Cette avancée technologique soulève cependant des questions sur la manière dont les images éditées par IA seront étiquetées et identifiées, un enjeu crucial à l’heure où la désinformation visuelle se répand à grande vitesse sur les réseaux sociaux.
Les défis de la modération et de la réglementation des outils d’édition d’images par IA
Si Midjourney s’est engagé l’année dernière à utiliser une propriété de métadonnées indiquant qu’une image a été générée par IA, la plateforme reste l’une des rares à ne pas avoir adopté la technologie C2PA qui retrace l’ensemble de la provenance d’une image, y compris les équipements et logiciels utilisés pour la créer.
David Holz reconnaît lui-même la difficulté de restreindre précisément le déploiement de cette fonctionnalité et les risques potentiels d’abus, allant de la violation massive des droits d’auteur à la propagation de deepfakes trompeurs. Pour tenter d’y remédier, Midjourney prévoit de limiter initialement l’accès à un « sous-ensemble de la communauté actuelle », de renforcer la modération humaine et d’implémenter de nouveaux modérateurs IA « plus avancés ».
Honnêtement, nous ne savons pas exactement comment restreindre précisément le déploiement de cette fonctionnalité.
– David Holz, PDG de Midjourney
Malgré ces précautions, la menace des deepfakes reste préoccupante. Selon les données de Clarity, une entreprise spécialisée dans la détection des deepfakes, leur création et publication a bondi de 900% cette année par rapport à la même période l’an dernier. Un sondage YouGov révèle que 85% des Américains sont inquiets de la propagation de deepfakes trompeurs en ligne.
Vers une utilisation responsable de l’IA dans l’édition d’images
En l’absence d’une loi fédérale criminalisant les deepfakes aux États-Unis, plus de 10 États ont promulgué des lois contre l’usurpation d’identité assistée par IA. La Californie pourrait être le premier État à permettre aux juges d’ordonner le retrait des deepfakes sous peine de sanctions financières.
Si le parcours de Midjourney en matière de déploiement responsable de l’IA n’est pas exempt de reproches (l’entreprise est poursuivie pour son utilisation présumée de contenu protégé par le droit d’auteur pour entraîner ses modèles), la plateforme a récemment pris des mesures pour limiter la propagation des deepfakes, notamment en instaurant des filtres pour les personnalités politiques en amont de l’élection présidentielle américaine.
L’édition d’images par IA offre des possibilités immenses de créativité et d’innovation, mais soulève également des questions éthiques et réglementaires complexes. Il est crucial que les acteurs du secteur, comme Midjourney, s’engagent dans une démarche responsable, en collaborant avec les législateurs, les experts et la société civile pour établir des garde-fous efficaces et promouvoir une utilisation éthique de ces technologies.
Seule une approche concertée et proactive permettra de libérer tout le potentiel de l’IA générative dans l’édition d’images, tout en protégeant les utilisateurs et la société des dérives potentielles. C’est un défi de taille, mais aussi une opportunité historique de façonner l’avenir de cette technologie transformatrice.
En résumé
- Midjourney va lancer un outil web permettant d’éditer n’importe quelle image avec son IA générative
- Cela soulève des questions sur l’étiquetage des images éditées par IA et les risques d’abus (deepfakes, violation du droit d’auteur)
- Midjourney prévoit une approche progressive et une modération renforcée pour limiter ces risques
- Les deepfakes représentent une menace croissante, avec une hausse de 900% de leur création et publication cette année
- En l’absence de loi fédérale aux États-Unis, certains États légifèrent contre l’usurpation d’identité par IA
- Un déploiement responsable de l’IA dans l’édition d’images nécessite une collaboration entre entreprises, législateurs et société civile
