今週月曜日は、人工知能（AI）の威力を示す上で、新たな高み、あるいは低みを示すものとなりました。ペンタゴンの爆発を捏造した画像は、すぐにAIが作成したものであると判定され、ソーシャルメディア上で大々的に拡散されました。また、米国株式市場の一時的な売りに拍車をかけたようです。
この驚くべき画像は、象徴的な建物から煙が立ちのぼる様子を描いたもので、ロシアの国営メディアチャンネルを含む多数のアカウントによって拡散されました
。
（ユーブイエックスダブリューエル
300万人以上のフォロワーを持つRTが、ペンタゴン付近の爆発をAIで生成したような写真を投稿（削除済み） pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) May22, 2023
（ユーブイエックスダブリュージェイ）
（ユーブイエックスダブリューケー
興味深いことに、ペンタゴンの爆発事故の誤報は、青い検証チェックマークが付いた公式ではないTwitterアカウントにも入り、混乱と誤報の影響をさらに拡大させました。これは、厳格なソース検証の重要性と、イーロン・マスクのアカウント検証に関する新しい基準の意外な結果を示しています。
（ユーブイエックスダブリューエル
This morning blue check accounts accounts claimed large explosions at the Pentagon.
…その後、ホワイトハウスでも発生した。
ロシアの国営メディアは、ゴールドチェックのアカウントから、偽のペンタゴンの画像を増幅させました。
画像はAIで生成されたように見えますが、人々はそれを確認しています。1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) May 22, 2023
（ユーブイエックスダブリュージェイ）
（ユーブイエックスダブリューケー
写真が拡散したことで、米国の株価指数は小さな打撃を受けましたが、写真がデマであることが明らかになった後、市場はすぐに回復しました。暗号通貨の代表格であるビットコインも、フェイクニュースの拡散を受けて一時「フラッシュクラッシュ」を起こし、24500ドルまで下落した。しかし、ビットコインはゆっくりと、しかし確実に回復しており、CoinGecko.
によると、現在26,882ドルで取引されている。
Image： ヤフーファイナンス
このデマの影響は大きく、アーリントン郡消防署が介入するほどでした。”ペンタゴン予約地やその付近で爆発や事件は起きていない “とツイートしており、”一般市民への直接的な危険や危害はない “
。
（ユーブイエックスダブリューエル
@PFPAOfficialおよびACFDは、ペンタゴン付近で爆発があったというソーシャルメディア上の報告がネット上に出回っていることを認識しています。ペンタゴンの予約場所やその付近では爆発や事件は起きておらず、一般市民に対する直接的な危険や危害はありません。pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
AI規制強化への道筋をつける
」。
このようなネット上での欺瞞は、無制限のAI開発に対する批判者の間で深刻な懸念を呼んでいる。この分野の多くの専門家は、高度なAIシステムが世界中の悪意ある行為者の道具となり、誤った情報を拡散してオンラインを大混乱に陥れる可能性があると警告しています。
このような策略が浮上するのは、今回が初めてではありません。バレンシアガのジャケットを着たフランシス法王の画像、ドナルド・トランプ大統領の偽の逮捕、イーロン・マスクやSBFなどの有名人が暗号詐欺を宣伝するディープフェイクなど、AIが生成したバイラル画像は以前にも世間を欺いたことがあった。
著名な人物も偽情報の拡散に警鐘を鳴らしています。
すでに数百人の技術専門家が、適切な安全ガイドラインが確立されるまで、高度なAI開発を6カ月間停止するよう求めています。また、「AIのゴッドファーザー」として広く知られているジェフリー・ヒントン博士でさえ、元雇用主の評判を落とすことなく、AIの潜在的なリスクについて懸念を表明するために、Googleでの職務を辞職したほどです。
このような誤報のエピソードは、AIの規制と倫理的枠組みの必要性をめぐる継続的な議論に拍車をかけている。AIが偽情報の発信者の手によってますます強力なツールとなるにつれ、その結果は混沌としたものになる可能性があります。
今日の出来事を踏まえて、一つの疑問が浮かびました： もしAIがソーシャルメディアの力を使って混乱を広げ、金融市場をコントロールするエージェントであったとしたら？私たちはそれを予見していたのです
。
