« Wall-E avec une arme » : Midjourney publie des vidéos de personnages Disney au milieu d'un procès massif pour violation de droits d'auteur

Le nouvel outil vidéo généré par l'IA de Midjourney produira des clips animés mettant en vedette des personnages protégés par le droit d'auteur de Disney et Universal, a découvert WIRED, y compris une vidéo du personnage bien-aimé de Pixar, Wall-E, tenant une arme à feu.

Ce mois-ci a été chargé pour Midjourney. Cette semaine, la startup d'IA générative a lancé son nouvel outil vidéo sophistiqué, la V1, qui permet aux utilisateurs de créer de courts clips animés à partir d'images générées ou téléchargées. La version actuelle de l'outil vidéo IA de Midjourney nécessite une image comme point de départ ; la génération de vidéos à partir d'invites textuelles n'est pas prise en charge.

La sortie de V1 fait suite à une annonce d'un genre très différent faite plus tôt en juin : les géants hollywoodiens Disney et Universal ont intenté un procès contre Midjourney, alléguant qu'il viole la loi sur le droit d'auteur en générant des images avec la propriété intellectuelle des studios.

Midjourney n'a pas immédiatement répondu aux demandes de commentaires. Disney et Universal ont réitéré les déclarations de leurs dirigeants concernant le procès, notamment celles du directeur juridique de Disney, Horacio Gutierrez, qui a affirmé que les productions de Midjourney constituaient du « piratage ».

Il semble que Midjourney ait tenté de mettre en place des garde-fous spécifiques aux vidéos pour la V1. Lors de nos tests, l'application a bloqué les animations des invites basées sur Elsa, Baby Boss, Dingo et Mickey Mouse de La Reine des Neiges , bien qu'elle générait toujours des images de ces personnages. Lorsque WIRED a demandé à la V1 d'animer des images d'Elsa, un modérateur IA a bloqué la génération de vidéos. « La modération IA est prudente avec les vidéos réalistes, en particulier celles représentant des personnes », pouvait-on lire dans le message contextuel.

Ces limitations, qui semblent être des garde-fous, sont incomplètes. Les tests de WIRED montrent que la V1 génère des clips animés d'une grande variété de personnages Universal et Disney, dont Homer Simpson, Shrek, les Minions, Deadpool, ainsi que C-3PO et Dark Vador de Star Wars . Par exemple, lorsqu'on lui a demandé une image des Minions mangeant une banane, Midjourney a généré quatre sorties avec des versions reconnaissables de ces adorables personnages jaunes. Ensuite, lorsque WIRED a cliqué sur le bouton « Animer » sur l'une des sorties, Midjourney a généré une vidéo suivante avec les personnages mangeant une banane, avec la peau.

Bien que Midjourney semble avoir bloqué certaines invites liées à Disney et Universal pour les vidéos, WIRED a parfois réussi à contourner ces barrières potentielles lors des tests en utilisant des variantes orthographiques ou en répétant l'invite. Midjourney permet également aux utilisateurs de fournir une invite pour guider l'animation ; grâce à cette fonctionnalité, WIRED a pu générer des extraits de personnages protégés par le droit d'auteur se comportant de manière adulte, comme Wall-E brandissant une arme à feu et Yoda fumant un joint.

Le procès intenté par Disney et Universal représente une menace majeure pour Midjourney, qui doit également faire face à des contestations judiciaires supplémentaires de la part d' artistes visuels qui allèguent également une violation de leurs droits d'auteur. Bien qu'elle se concentre principalement sur des exemples tirés des outils de génération d'images de Midjourney, la plainte allègue que la vidéo « ne ferait qu'améliorer la capacité de Midjourney à distribuer des copies, reproductions et produits dérivés contrefaisants des œuvres protégées par les droits d'auteur des plaignants ».

La plainte comprend des dizaines d'images présumées de Midjourney montrant des personnages d'Universal et de Disney. L'ensemble a été initialement produit dans le cadre d'un rapport sur le prétendu « problème de plagiat visuel » de Midjourney, rédigé par Gary Marcus, critique en intelligence artificielle et spécialiste des sciences cognitives, et par l'artiste visuel Reid Southen.

« Reid et moi avons signalé ce problème il y a 18 mois, et il n'y a eu que très peu de progrès et de changements », explique Marcus. « Nous sommes toujours confrontés à la même situation : utilisation de matériel sans licence et des garde-fous qui fonctionnent un peu, mais pas très bien. Malgré tous les discours sur les progrès exponentiels de l'IA, nous obtenons de meilleurs graphismes, et non une solution fondamentale à ce problème. »