L’IA générative a permis au commun des mortels de créer plus facilement des œuvres d’art et d’autres contenus. Elle a également facilité la création d’œuvres vraiment délirantes et controversées, telles que des images générées par l’IA de Bob l’éponge ou de Kirby de Nintendo pilotant des avions de ligne vers le World Trade Center.
Si les générateurs d’images par IA ont été utilisés pour créer de faux contenus sexuels, ces outils sont également employés pour créer des scènes de violence ou des scènes osées, impliquant même des politiciens, des figures historiques et des personnages de fiction bien-aimés.
Les plateformes de médias sociaux regorgent d’images d’autocollants prétendument créés à l’aide du générateur d’autocollants AI de Facebook. On y voit notamment Elmo brandissant un couteau, Mickey Mouse dans des toilettes, Wario et Luigi de la franchise Super Mario tenant des fusils, et même une représentation du Premier ministre canadien Justin Trudeau légèrement vêtu.
« Nous vivons vraiment dans le futur le plus stupide que l’on puisse imaginer », a écrit l’artiste de jeux vidéo Pier-Olivier Desbiens dans un tweet viral contenant certains des prétendus autocollants de l’IA.
Je n’attendrais pas un signal clair indiquant que le marché haussier est de retour pour prendre position sur le Bitcoin ou l’Ethereum.
Lorsque l’on compare la distribution des rendements mensuels dans les marchés haussiers et baissiers, la différence n’est pas flagrante.
Il est possible d’obtenir d’excellents mois pendant les marchés baissiers.
Vous pouvez obtenir… pic.twitter.com/7qCCPM3PYa
– ecoinometrics (@ecoinometrics) Le 5 octobre 2023
Lorsque TCN a contacté Meta pour s’informer sur les autocollants d’IA, un porte-parole a renvoyé à un article de blog de l’entreprise qui disait en partie : « Comme pour tous les systèmes d’IA générative, les modèles peuvent renvoyer des résultats inexacts ou inappropriés. Nous continuerons à améliorer ces fonctionnalités au fur et à mesure qu’elles évolueront et que d’autres personnes nous feront part de leurs commentaires. »
Meta, la société mère de Facebook, a plongé tête baissée dans les outils d’IA générative en 2023, investissant jusqu’à 39 milliards de dollars rien que cette année. En juillet, Meta a rejoint OpenAI, Google, Microsoft et d’autres en s’engageant à développer l’IA de manière responsable. Cet engagement a été pris à la suite de réunions avec l’administration Biden concernant l’IA générative.
En plus des autocollants d’IA qui utilisent Llama 2 et Emu de Meta, Meta a annoncé lors de son événement Meta Connect le mois dernier le lancement d’une foule d’outils générés par l’IA, y compris des assistants d’IA conversationnels pour WhatsApp, Messenger et Instagram, en recrutant plusieurs célébrités de haut niveau, y compris Snoop Dogg, Tom Brady, Kendall Jenner et Naomi Osaka, pour prêter leurs voix et leurs ressemblances à la gamme d’IA de Meta.
Meta explique qu’elle utilise l’intelligence artificielle pour identifier plus rapidement et plus précisément les contenus préjudiciables en entraînant ses grands modèles de langage sur les « normes communautaires » de l’entreprise, ajoutant que l’entreprise est optimiste quant à la capacité de l’IA générative à l’aider à faire respecter ses politiques à l’avenir.
Les autocollants Facebook ne sont pas les seules œuvres d’art surréalistes générées par l’IA à faire parler d’elles cette semaine. Outre Bob l’éponge et Kirby qui « font le 11 septembre », comme le souligne un rapport de 404 Media, d’autres utilisateurs de Twitter auraient utilisé le générateur d’images Bing AI de Microsoft pour créer leurs propres riffs controversés de la culture pop, comme une image des personnages de l’anime « Neon Genesis Evangelion » pilotant un avion de ligne en direction du World Trade Center.
Merci, Microsoft Bing pic.twitter.com/6XWxpum655
– Rachel (@tolstoybb) Le 3 octobre 2023
Alors que le génie de l’IA est sans doute déjà sorti de la bouteille, les entreprises tentent de freiner l’utilisation abusive de leurs plateformes, notamment en instituant des politiques KYC pour les utilisateurs, comme l’a suggéré Brad Smith, président de Microsoft, en septembre.
Au début de l’année, Midjourney a mis fin à sa version d’essai gratuite après avoir été utilisée pour créer des deepfakes générés par l’IA. Le mois dernier, le créateur de ChatGPT, OpenAI, a publié la dernière version de son générateur d’images par IA, Dall-E 3, qui comprend de nouveaux garde-fous et de nouvelles fonctionnalités afin de lutter contre les contenus violents, adultes ou haineux. Le même mois, Getty Images a lancé un outil de génération d’images par l’IA formé à partir de sa vaste bibliothèque d’images.
Mercredi, la société de création de contenu Canva a lancé sa suite d’outils d’IA générative Magic Studio, qui comprend des garde-fous permettant à l’outil de générer des images de célébrités ou de tout ce qui est lié à la médecine ou à la politique.
« Dans le cadre de nos politiques de confiance et de sécurité, nous ne permettons pas à notre IA de générer des images de personnalités populaires ou publiques ou de personnes connues, ainsi que de la propriété intellectuelle de tiers », a déclaré Danny Wu, responsable des produits d’IA chez Canva, à TCN.
