Avec la saison électorale américaine bien entamée, la Chine augmente son utilisation de l’intelligence artificielle dans le cadre d’efforts plus larges pour interférer avec la politique américaine, selon Microsoft – tout en apprenant ce qui divise les citoyens afin d’en tirer parti pour fomenter la discorde.
« Des acteurs affiliés au PCC ont commencé à poser des questions litigieuses sur des sujets domestiques américains controversés afin de mieux comprendre les questions clés qui divisent les électeurs américains », prévient Microsoft. Le rapport suggère que la Chine utilise également les médias sociaux pour présenter les États-Unis sous un « jour défavorable ».
Le rapport comprend plusieurs captures d’écran de comptes de médias sociaux demandant des opinions sur des sujets controversés, y compris des images générées ou manipulées par l’IA et employant des tactiques pour obtenir de la portée et de l’engagement sur diverses plateformes.
Source : Microsoft
« Ces derniers mois, les contenus générés par l’IA chinoise ont été de plus en plus utilisés pour tenter d’influencer et de semer la discorde aux États-Unis et ailleurs sur toute une série de sujets », indique le rapport. Ces tactiques comprennent des contenus écrits ainsi que des images et des vidéos truquées (deepfakes).
La Chine s’immisce également dans la politique locale. Microsoft cite des messages concernant un déraillement de train dans le Kentucky, les incendies de Maui et les problèmes d’immigration à la frontière sud des États-Unis. Ces comptes, qui encouragent les internautes à donner leur avis sur les grands événements d’actualité, sont des « sockpuppets chinois », explique le rapport.
Tout en reconnaissant que « rien ne prouve que ces efforts aient réussi à influencer l’opinion », Microsoft prévient que la Chine est probablement en train d’améliorer ses opérations de propagande utilisant l’IA au fil du temps.
« L’expérimentation croissante de la Chine en matière d’augmentation des mèmes, des vidéos et des sons se poursuivra probablement et pourrait s’avérer plus efficace à l’avenir », conclut le rapport.
Au-delà de la Chine, Microsoft a également attiré l’attention sur les actions en ligne de la Corée du Nord.
« La Corée du Nord a continué à donner la priorité au vol de fonds en crypto-monnaies, en menant des attaques sur la chaîne d’approvisionnement des logiciels et en ciblant les adversaires qu’elle perçoit en matière de sécurité nationale », indique le rapport.
L’IA comme arme géopolitique
Le rôle croissant du big data et de l’IA dans les élections a suscité des inquiétudes concernant la vie privée des électeurs, l’intégrité électorale et le potentiel d’influence indue par le biais de messages ciblés et personnalisés – alors que les campagnes politiques elles-mêmes ont de plus en plus recours à l’analyse de données pour microcibler les électeurs avec des publicités et des actions de proximité sur mesure basées sur des profils d’électeurs détaillés.
Par exemple, la campagne d’Obama en 2012 a été saluée pour ses opérations de données sophistiquées permettant d’identifier et de mobiliser les partisans. De même, la campagne de Trump en 2016 a exploité des données sur 1,6 million de bénévoles pour organiser des actions de terrain.
Il y a également eu des controverses autour de l’utilisation abusive des données des électeurs pour la recherche politique alimentée par l’IA, comme la brèche de 2015 qui a permis à la campagne du sénateur Bernie Sanders d’accéder aux données de la campagne d’Hillary Clinton et la récolte non autorisée par Cambridge Analytica des données des utilisateurs de Facebook pour des publicités politiques ciblées.
Les régulateurs se hâtent désormais d’établir des règles et une surveillance pour l’utilisation de l’IA dans les élections. Plusieurs États américains ont présenté des projets de loi visant à réglementer les deepfakes et les contenus d’IA trompeurs, y compris des efforts visant à exiger la divulgation et l’étiquetage, parallèlement à une initiative du président Biden pour s’attaquer à ce problème. L’Union européenne met également en œuvre sa loi sur l’intelligence artificielle, qu’elle décrit comme la première loi globale sur l’IA au monde, qui comprendra des réglementations sur l’utilisation de l’IA dans les élections.
Toutefois, l’initiative la plus remarquable et la plus controversée est probablement la loi « Protecting Americans from Foreign Adversary Controlled Applications Act », qui vise à interdire TikTok aux États-Unis.
« La raison du succès et de l’attrait de TikTok est qu’il vous connaît mieux que vous ne vous connaissez vous-même et que plus vous l’utilisez, plus il apprend », a déclaré le sénateur Marco Rubio lors d’une audition annuelle sur l’évaluation des menaces dans le monde. « Il se trouve qu’ils contrôlent une entreprise qui possède l’un des meilleurs algorithmes d’intelligence artificielle au monde. C’est celui qui est utilisé dans ce pays par TikTok et qui utilise les données des Américains pour lire leur esprit et prédire les vidéos qu’ils veulent voir.
Toutefois, certains affirment que les menaces les plus pressantes proviennent de la diffusion de contenus faux et nuisibles sur les plateformes de médias sociaux, plutôt que de la création pure de contenus par l’IA. Les entreprises technologiques ont signé un accord pour adopter des mesures contre l’utilisation abusive de l’IA, mais lorsqu’il s’agit de contenir la désinformation et de déterminer qui est responsable de sa diffusion, la réglementation des médias sociaux semble moins claire, même par rapport à l’espace de l’IA.
