Ce lundi a marqué un nouveau sommet – ou sans doute un nouveau creux – dans la démonstration de la puissance de l’intelligence artificielle (IA). Une photo représentant une fausse explosion au Pentagone, rapidement signalée comme étant générée par l’IA, s’est répandue comme une traînée de poudre sur les médias sociaux. Elle semble également avoir provoqué une baisse momentanée du marché boursier américain.
L’image alarmante, représentant de la fumée s’échappant du bâtiment emblématique, a été diffusée par de nombreux comptes, y compris par une chaîne de médias appartenant à l’État russe.
RT, avec plus de 3 millions de followers, a posté (depuis supprimé) ce qui semble être une photo générée par l’IA d’une explosion près du Pentagone pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) May 22, 2023
Il est intéressant de noter que les rapports sur la fausse explosion du Pentagone ont également fait leur chemin sur des comptes Twitter non officiels avec des coches de vérification bleues, amplifiant encore la confusion et l’impact de la fausseté – soulignant à la fois l’importance d’une vérification rigoureuse des sources ainsi que le résultat sans surprise des nouveaux critères d’Elon Musk pour la vérification des comptes.
Ce matin, les comptes de vérification bleus ont revendiqué de grosses explosions au Pentagone.
… puis à la Maison Blanche.
Les médias d’État russes ont amplifié l’image truquée du Pentagone à partir de leur compte en or.
Les images ont l’air d’être générées par l’IA, comme l’ont identifié les gens. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) Le 22 mai 2023
Lorsque la photo est devenue virale, les indices boursiers américains ont été légèrement touchés, mais les marchés se sont rapidement redressés après que la photo a été révélée comme étant un canular. Le bitcoin, la principale crypto-monnaie, a également connu un bref « flash crash » à la suite de la diffusion de la fausse nouvelle, tombant à 26500 dollars. Cependant, le bitcoin se rétablit lentement mais sûrement et il est actuellement échangé à 26 882 $, selon CoinGecko.
Image : Yahoo ! Finance
L’impact du canular a été suffisamment important pour inciter les pompiers du comté d’Arlington à intervenir. « Il n’y a PAS d’explosion ou d’incident dans ou près de la réserve du Pentagone », ont-ils tweeté, « et il n’y a pas de danger immédiat pour le public ».
@PFPAOfficial et l’ACFD sont au courant d’une information circulant sur les médias sociaux à propos d’une explosion près du Pentagone. Il n’y a PAS d’explosion ou d’incident dans ou près de la réserve du Pentagone, et il n’y a pas de danger immédiat pour le public. pic.twitter.com/uznY0s7deL
– Arlington Fire & ; EMS (@ArlingtonVaFD) May 22, 2023
Pour une meilleure réglementation de l’IA
Ce type de tromperie en ligne a suscité de vives inquiétudes parmi les détracteurs d’un développement sans limites de l’IA. De nombreux experts dans ce domaine ont mis en garde contre le fait que les systèmes d’IA avancés pourraient devenir des outils pour des acteurs malveillants dans le monde entier, diffusant des informations erronées et provoquant un pandémonium en ligne.
Ce n’est pas la première fois qu’une telle supercherie apparaît. Des images virales générées par l’IA ont déjà trompé le public, comme celles du pape François portant une veste Balenciaga, une fausse arrestation du président Donald Trump et des « deepfakes » de célébrités comme Elon Musk ou SBF promouvant des escroqueries à la crypto-monnaie.
Des personnalités de renom ont également tiré la sonnette d’alarme sur la propagation de la désinformation.
Des centaines d’experts en technologie ont déjà appelé à un arrêt de six mois du développement de l’IA avancée jusqu’à ce que des directives de sécurité appropriées soient établies. Geoffrey Hinton, largement connu comme le « parrain de l’IA », a même démissionné de son poste chez Google pour exprimer ses inquiétudes quant aux risques potentiels de l’IA sans nuire à la réputation de son ancien employeur.
Des épisodes de désinformation comme celui-ci alimentent le débat en cours sur la nécessité d’un cadre réglementaire et éthique pour l’IA. L’IA devenant un outil de plus en plus puissant entre les mains d’agents de désinformation, les conséquences peuvent être chaotiques.
À la lumière des événements d’aujourd’hui, une question se pose : Que se passerait-il si une IA était l’agent qui utilisait le pouvoir des médias sociaux pour semer le chaos et contrôler les marchés financiers ? Nous l’avons en quelque sorte vu venir.
