Les cybercriminels ont intensifié l’utilisation d’outils d’intelligence artificielle pour créer des deepfakes de célébrités, réquisitionnant leur image pour duper leurs fans et leur soutirer de l’argent et des crypto-monnaies – un rapport affirme que ce type de contenu a augmenté de 87 % au cours de l’année dernière.
Lundi, le géant de YouTube, M. Beast, a informé ses 24 millions d’abonnés sur Twitter qu’il avait été victime d’un tel stratagème et s’est demandé si les entreprises technologiques étaient capables de les arrêter.
« Beaucoup de gens reçoivent cette fausse publicité de moi », a écrit M. Beast. « Les plateformes de médias sociaux sont-elles prêtes à faire face à l’essor des deepfakes par l’IA ?
Les plateformes de médias sociaux sont-elles prêtes à faire face à l’essor des deepfakes de l’IA ? C’est un problème sérieux pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) October 3, 2023
« Ils ne le sont pas, et la démocratie non plus », a répondu Liv Boeree, animatrice de podcast, communicatrice scientifique et championne de poker.
Un deepfake est un contenu vidéo ou audio créé à l’aide d’une intelligence artificielle générative qui dépeint de faux événements mais qui est fait de manière à être facilement confondu avec un contenu légitime et authentique.
Les inquiétudes suscitées par les « deepfakes » générés par l’intelligence artificielle ont amené des dirigeants mondiaux, des responsables politiques et des forces de l’ordre à se faire l’écho des propos de Liv Boeree et à tirer la sonnette d’alarme.
M. Beast, de son vrai nom James Donaldson, n’est que la dernière célébrité dont l’image a été utilisée dans une escroquerie ou une campagne en ligne sans son autorisation. Dimanche, l’acteur légendaire Tom Hanks s’est rendu sur Instagram pour mettre en garde ses fans contre une campagne de publicité pour un plan dentaire qui utilisait une version générée par l’IA de l’acteur lauréat d’un Oscar. Dans le même temps, la fille de feu Robin Williams a publié sur Instagram un message dénonçant les campagnes utilisant une réplique de la voix de son père dans des contenus publicitaires.
Plusieurs personnalités de l’information télévisée ont également fait leur apparition dans des contenus deepfake viraux, notamment Gayle King, de CBS, Tucker Carlson, de Fox News, et Bill Maher, de HBO.
Selon un rapport publié dimanche par le Daily Mail, les visages d’actrices telles que Taylor Swift, Natalie Portman et Emma Watson sont de plus en plus souvent exploités dans de faux contenus pornographiques. Citant la société de sécurité ActiveFence, le rapport affirme que le nombre de faux pornos de célébrités a augmenté de 87 % par rapport à l’année dernière, et que les particuliers sont exploités 400 % plus souvent.
M. Beast n’a pas encore répondu à la demande de commentaire de TCN.
AI est l’une des questions clés des négociations en cours entre SAG-AFTRA et l’AMPTP (Alliance of Motion Picture and Television Producers). Certains acteurs ont porté le problème des « deepfakes » d’IA devant les tribunaux et ont obtenu gain de cause.
Le mois dernier, le célèbre acteur indien Anil Kapoor a obtenu gain de cause auprès de la Haute Cour de Delhi contre l’utilisation non autorisée de son nom, de son image et de sa voix. Et bien que Tom Cruise n’en ait pas parlé publiquement, une imitation profonde de lui par une IA est devenue virale l’année dernière après avoir été téléchargée sur les médias sociaux.
L’équipe à l’origine des vidéos « Deep Tom Cruise » a ensuite fondé la société de développement d’IA Metaphysic AI.
Lancée en 2021 par Chris Ume, Kevin Ume, Miles Fisher, Tom Graham et Martin Adams, Metaphysic, dont le siège est à Londres, a participé à l’émission « America’s Got Talent » en septembre de l’année dernière, lorsque sa technologie a permis de présenter un Elvis Presley généré par l’IA lors d’une représentation d’un soir.
Metaphysic affirme qu’outre Tom Hanks, d’autres artistes, dont Anne Hathaway et Octavia Spencer, ont utilisé sa technologie pour créer et stocker les caractéristiques nécessaires à la création d’un avatar numérique légal à leur effigie.
Les représentants de Hanks, Spencer et Hathaway ont refusé ou n’ont pas répondu à la demande de commentaires de TCN.
Les acteurs ne sont pas les seuls à bénéficier du traitement de l’IA : en août, la chanteuse Selena Gomez a fait l’objet d’un deepfake audio IA posté sur Instagram, qui présentait une fausse version de l’artiste chantant une version remixée de « Starboy » de The Weeknd.
The Weeknd a également fait l’objet d’une collaboration deepfake générée par l’IA avec une fausse réplique de Drake pour la chanson « Heart on My Sleeve », dont la Recording Academy a décidé qu’elle n’était pas éligible pour un Grammy Award après qu’elle soit devenue virale plus tôt cette année.
