Le monteur vidéo et satiriste politique Justin T. Brown, basé à Los Angeles, s’est retrouvé au centre d’un débat controversé grâce à ses images générées par l’IA qui représentent des politiciens de premier plan tels que Donald Trump, Barack Obama et Joe Biden engagés dans des infidélités fictives.
Sa série provocante, baptisée « L’IA va révolutionner l’industrie du chantage », a rapidement fait l’objet de critiques, ce qui a conduit M. Brown à être banni de la plateforme artistique Midjourney AI, qu’il a utilisée pour générer les images.
M. Brown a expliqué que ces images avaient été conçues comme un avertissement brutal sur l’utilisation potentiellement abusive de l’intelligence artificielle.
Ce n’est pas la première fois que des images générées par l’IA suscitent la controverse. TCN avait déjà créé des images humoristiques de Joe Biden avec une précision remarquable, mais l’équipe de Midjourney n’avait pas pris de mesures punitives. Cependant, d’autres utilisateurs générant des images de personnalités importantes telles que le pape et le président chinois n’ont pas eu cette chance et se sont rapidement fait bannir.
J’ai été banni de Midjourney AI pour avoir généré des images réalistes d’hommes politiques trompant leur femme dans le cadre d’une série intitulée « L’IA va révolutionner l’industrie du chantage ».
Quelques réflexions sur les images d’IA de la part de quelqu’un qui est doué pour fabriquer des trucs bidons
Trump trompe sa femme : pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) 26 mai 2023
Le projet de Brown a été conçu dans un seul but : catapulter les menaces potentielles d’une mauvaise utilisation de l’IA dans le discours dominant.
« J’ai créé cette série dans le but d’entraîner certaines des personnes les plus influentes d’Amérique dans la conversation sur les dangers de l’IA et d’atteindre le plus large public possible », a expliqué M. Brown dans un message sur Twitter.
Les retombées de la série controversée de M. Brown sur l’IA n’ont pas tardé. Après la publication des images sur Reddit, Midjourney a banni Brown, une action qu’il met en corrélation directe avec la publication sur Reddit.
« Après avoir gagné du terrain sur Reddit, la série a été supprimée par les modérateurs et le bannissement de Midjourney a suivi presque immédiatement », a-t-il fait remarquer.
L’interdiction a incité Brown à exprimer des émotions mitigées. D’une part, il a estimé que la sanction était un indicateur d’un certain niveau de responsabilité appliqué aux utilisateurs générant du contenu préjudiciable. D’autre part, il a soulevé une question poignante : « J’ai été banni des mois après avoir créé les images, alors quand un contenu préjudiciable est généré, n’est-il pas déjà trop tard ? »
Cette question est particulièrement importante en politique, comme l’a souligné M. Brown.
« Une campagne de désinformation par l’IA juste avant le jour de l’élection pourrait certainement faire basculer une élection. Les bonnes images ou vidéos de l’IA au bon moment pourraient faire chuter le marché, provoquer une émeute ou envoyer quelqu’un dans une pizzeria avec une arme à feu ».
Le potentiel de désinformation de l’intelligence artificielle est la principale préoccupation de M. Brown. « Ce type de désinformation continuera à se produire, la prochaine fois par des personnes mal intentionnées, et nous ferions mieux de commencer à nous en occuper dès maintenant », a-t-il souligné, reconnaissant la nécessité d’une conversation internationale sur cette technologie.
Le New York Times a également mis l’accent sur cette question, en révélant que les règlements de campagne permettaient aux politiciens d’utiliser des images générées par l’IA avant l’élection présidentielle de 2024. Il a également indiqué que les défenses et les services existants qui prétendent identifier le contenu de l’IA ont été largement inefficaces.
L’un des followers de Brown a répondu à ses préoccupations, exprimant son appréhension quant à l’utilisation abusive potentielle de l’IA.
« Je pense que vous avez raison en ce qui concerne les dangers. Le GOP a déjà utilisé l’IA dans une publicité. Ce n’est pas un chantage, mais cela montre que l’IA peut être utilisée pour des opérations rapides. Le mieux serait que les médias sociaux disposent d’une modération universelle contre la désinformation et de comptes vérifiés pour toute la presse réputée, les organisations gouvernementales, les politiciens. «
Bernie, noo
Je pense que vous avez raison en ce qui concerne les dangers. Le GOP a déjà utilisé l’IA dans une publicité. Ce n’est pas un chantage, mais cela montre que l’IA peut être utilisée pour des opérations rapides. Le mieux serait que les médias sociaux aient une modération universelle contre la désinformation & ; des comptes vérifiés pour toute la presse réputée, les organisations gouvernementales, les politiciens.
– Patrick Scott Bruck Voir pour aider notre famille ! (@PatrickSBruck) 26 mai 2023
Il faisait référence à une série de publicités politiques dans lesquelles le parti républicain américain utilisait MidJourney pour « imaginer » un avenir où Biden serait réélu à la présidence. Des rumeurs ont également circulé sur l’utilisation de l’IA pour peaufiner une publicité de Ron de Santis, mais sa campagne a révélé que ce n’était pas le cas.
Pour sa part, Donald Trump a également créé une fausse conversation entre Elon Musk, Adolf Hitler et Ron de Santis pour se moquer de l’annonce par ce dernier qu’il aspirait à devenir le candidat du GOP à l’élection présidentielle.
À une époque numérique marquée par la désinformation et l’utilisation abusive de la technologie, les mots de M. Brown sonnent terriblement juste,
« Je pense qu’il faut se préparer à l’impact. Peut-être en faire quelque chose d’utile », a-t-il déclaré.
Dans ce tourbillon d’IA, d’art et d’éthique, il y a une certitude : la frontière entre la réalité et les images générées par l’IA s’estompe plus vite qu’on ne peut dire « Photoshop ».
