Midjourney, la société à l’origine du populaire générateur d’images de texte à image, a fermé l’accès à sa version d’essai gratuite à la suite d’une augmentation des deep fakes viraux générés par sa technologie.
« En raison d’une demande extraordinaire et d’un abus de la version d’essai, nous désactivons temporairement les versions d’essai gratuites jusqu’à ce que nous ayons déployé nos prochaines améliorations du système », a écrit le fondateur de Midjourney, David Holz, sur le serveur Discord de l’entreprise en début de semaine.
Un « deep fake » est un média d’apparence réaliste créé par l’IA en modifiant des images, des vidéos ou des sons pour montrer des personnes réelles faisant ou disant des choses qu’elles n’ont jamais faites. Si les deep fakes peuvent être utilisés pour le plaisir et le divertissement, la technologie peut également diffuser de fausses informations, influencer des opinions ou nuire à des réputations.
Il se passe des choses extraordinaires sur le subreddit Midjourney.
Les internautes racontent des histoires et partagent des photos d’événements historiques, comme le tremblement de terre « Great Cascadia » qui a dévasté l’Oregon en 2001.
Le comble ? Il n’a jamais eu lieu. Les images sont générées par l’IA. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 mars 2023
En début de semaine, des photos du Pape François portant une veste blanche super élégante et un collier incrusté de diamants ont fait le tour du web. La semaine dernière, alors que les sites d’information grand public annonçaient que l’ancien président américain Donald Trump était sur le point d’être arrêté à New York, une série de photos a fait le tour du web, montrant l’ex-président poursuivi par la police. Dans les deux cas, les images semblaient même plus crédibles que des faux du même type créés par des experts à l’aide de Photoshop.
Faire des photos de Trump se faisant arrêter en attendant l’arrestation de Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) Le 20 mars 2023
De nombreux sites d’IA générative, dont Midjourney et Playground AI, ont déjà instauré des restrictions sur les messages-guides à caractère sexuel. Toutefois, la question de savoir ce qui constitue une utilisation acceptable en ce qui concerne les deep fakes est toujours débattue, car tous ces sites fabriquent des photographies qui ne sont pas réelles.
Les abonnements à Midjourney varient de 10 à 60 dollars par mois, en fonction de la puissance de traitement et des fonctionnalités requises par l’utilisateur, notamment la possibilité d’exécuter des tâches simultanées. La plateforme propose également des abonnements annuels.
Il n’est pas certain que la fermeture de son volet gratuit résoudra le problème. Les conditions d’utilisation de Midjourney interdisent déjà les images offensantes de célébrités ou de personnalités publiques.
Le sujet du pape moderne généré par l’IA (midjourney) nous échappe .
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) March 28, 2023
TCN a contacté Midjourney et Stability AI, les créateurs de Stable Diffusion, pour obtenir des commentaires mais n’a pas encore eu de réponse.
