マイクロソフトによると、米国の選挙シーズンが本格化する中、中国は米国の政治に干渉するための幅広い取り組みの一環として、人工知能の利用を増やしている。
「中国共産党系のアクターは、米国の有権者を分断している重要な問題をよりよく理解するために、論争の的になっている米国の国内問題について論争的な質問を投げかけ始めている」とマイクロソフトは警告している。報告書は、中国がソーシャルメディアを使って米国を “不利なイメージ “で描いていることも示唆している。
報告書には、物議を醸すようなトピックについて意見を求めるソーシャルメディアアカウントのスクリーンショットがいくつか掲載されており、これにはAIが生成または操作した画像や、さまざまなプラットフォームでリーチとエンゲージメントを集めるための戦術が用いられている。
Source： マイクロソフト
「ここ数カ月、中国のAIが生成したコンテンツの利用が増加しており、さまざまなトピックについて米国やその他の国に影響を与え、分断の種をまこうと試みている」と報告書は述べている。こうした手口には、文章だけでなく、画像や動画のディープフェイクも含まれる。
中国は地方政治にも干渉している。マイクロソフトは、ケンタッキー州の列車脱線事故、マウイ島の山火事、米国南部の国境沿いの移民問題に関する投稿を挙げている。これらのアカウントは、主要なニュースに対して自分の意見をコメントするよう促しているが、「中国の偽装工作」であると報告書は説明している。
これらの取り組みが世論を動かすのに成功したという証拠はほとんどない」と認める一方で、マイクロソフトは、中国はAIを使ったプロパガンダ活動を時間をかけて改善している可能性が高いと警告している。
「中国は、ミーム、ビデオ、音声を増強する実験を増やしており、今後も続くだろう。
中国以外にも、マイクロソフトは北朝鮮によるオンライン上の行動にも注意を喚起している。
「北朝鮮は引き続き暗号通貨資金の窃盗を優先し、ソフトウェアのサプライチェーン攻撃を行い、国家安全保障上の敵対者を標的にした。
地政学的武器としてのAI
選挙におけるビッグデータとAIの役割の増大は、有権者のプライバシー、選挙の完全性、ターゲットを絞ったパーソナライズされたメッセージングによる不当な影響力の可能性についての懸念を引き起こしている。
例えば、2012年のオバマ陣営は、支持者を特定し動員するための高度なデータ運用で称賛された。同様に、2016年のトランプ陣営は、草の根活動を組織するために160万人のボランティアのデータを活用した。
また、2015年にバーニー・サンダース上院議員陣営がヒラリー・クリントン陣営のデータにアクセスできた情報漏洩事件や、ケンブリッジ・アナリティカがターゲットを絞った政治広告のためにフェイスブックのユーザーデータを不正に採取した事件など、AIを活用した政治調査のための有権者データの悪用をめぐる論争も起きている。
規制当局は現在、選挙におけるAIの使用に関するルールと監視の確立を急いでいる。米国のいくつかの州は、ディープフェイクや欺瞞的なAIコンテンツを規制する法案を提出しており、バイデン大統領がこの問題に取り組むことを推進するのと並んで、情報開示や表示を義務付ける取り組みも行っている。欧州連合（EU）もまた、選挙におけるAI利用に関する規制を含む世界初の包括的なAI法として、人工知能法を実施している。
しかし、最も注目され、賛否両論が分かれる取り組みは、米国でのTikTokの禁止を求める「外国敵対勢力管理アプリケーションから米国人を保護する法律」だろう。
「TikTokがこれほど成功している理由、これほど魅力的な理由は、TikTokがあなた自身よりもあなたのことをよく知っているからであり、あなたが使えば使うほど、TikTokはより多くのことを学ぶのです」とマルコ・ルビオ上院議員は毎年恒例の世界的脅威評価公聴会で述べた。「彼らはたまたま、世界最高の人工知能アルゴリズムを所有する会社を支配している。この国でTikTokが使っているもので、アメリカ人のデータを使って、基本的にあなたの心を読み、あなたが見たい動画を予測するのです」。
しかし、最も差し迫った脅威は、純粋なAIによるコンテンツ作成よりも、ソーシャルメディア・プラットフォームにおける虚偽の有害コンテンツの流通にあると主張する者もいる。テック企業は、AIの悪用に対する対策を採用する協定に署名したが、誤報を封じ込め、誰が投稿した責任を負うかを判断することに関しては、ソーシャルメディア規制は、AIの分野と比べても、あまり明確ではないようだ。
