ロサンゼルスを拠点とするビデオ編集者で政治風刺家のジャスティン・T・ブラウンは、ドナルド・トランプ、バラク・オバマ、ジョー・バイデンといった著名政治家が架空の不倫をしている様子をAIが生成した画像のおかげで、論争的な議論の中心にいることを発見した。
AIは脅迫産業に革命を起こす」と命名された彼の挑発的なシリーズはたちまち炎上し、ブラウンは画像の生成に使用したAIアートプラットフォーム「Midjourney」から追放されることになった。
ブラウンは、この画像は人工知能が悪用される可能性についての厳しい警告として構想されたものだと語った。
AIが生成した画像が論争を巻き起こしたのは今回が初めてではない。TCNは以前、ジョー・バイデンのユーモラスな画像を驚くほど正確に作成したが、Midjourneyチームによる処罰は免れた。しかし、ローマ法王や中国国家主席のような知名度の高い人物の画像を生成した他のユーザーはそれほど幸運ではなく、即座に使用禁止処分を受けた
。
「AIは恐喝産業に革命を起こす」というシリーズで、政治家が妻を裏切っているリアルな画像を生成したため、Midjourney AIから追放された。
フェイクを作るのが得意な人からのAI画像についての考察。
トランプの浮気 pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) 2023年5月26日
ブラウンのプロジェクトは、AIの悪用がもたらす潜在的な脅威を主流の言説に押し上げるという、ただひとつの目標を念頭に置いて構想された。
「私は、アメリカで最も影響力のある人々をAIの危険性についての会話に引きずり込み、可能な限り多くの聴衆に届けることを目標に、このシリーズを作りました」と、ブラウンはTwitterのスレッドで詳しく説明した。
物議を醸したブラウンのAIシリーズからの反撃は早かった。画像がRedditに投稿された後、Midjourneyはブラウンに禁止令を出した。
“Redditで人気を集めた後、このシリーズはモデレーターによって削除され、MidjourneyのBANはほとんどすぐに続きました。
BANはブラウンに複雑な感情を抱かせた。一方では、この制裁は、有害なコンテンツを生成するユーザーに対して、ある程度のアカウンタビリティが施行されたことを示すものだと感じている。逆に、彼は痛烈な疑問を投げかけた： “私がBANされたのは、最初に画像を作成してから数カ月後であり、有害なコンテンツが生成されたときには、すでに手遅れではないか？”
これは、ブラウンがさらに警告したように、政治においては特に重要である。
「選挙投票日直前のAIによる偽情報キャンペーンは、間違いなく選挙を揺るがす可能性がある。適切なタイミングで適切なAIの画像や動画があれば、市場を暴落させたり、暴動を引き起こしたり、誰かが銃を持ってピザ屋に乗り込んだりする可能性がある。”
人工知能が偽情報を広める可能性は、ブラウンの最大の懸念だった。「この種の偽情報は、悪意を持った悪人たちによって、これからも起こり続けるだろう。
ニューヨーク・タイムズ』紙もこの問題にスポットライトを当て、2024年の大統領選挙を前に、選挙運動規制によって政治家がAIが生成した画像を使用することが許可されたことを明らかにした。同紙はまた、AIのコンテンツを識別すると主張する既存の防御策やサービスは、ほとんど効果がないとも報じている。
ブラウンのフォロワーの一人は、AIの悪用の可能性について懸念を表明し、返信した。
“危険性についてはその通りだと思います。GOPはすでに広告でAIを使っている。恐喝としてではなく、AIが迅速な作戦に使えることを示している。ソーシャルメディアが誤報に対して普遍的な節度を持ち、評判の良い報道機関、政府機関、政治家のアカウントがすべて認証されていれば最高だ。
バーニー、ダメだ。
危険性についてはその通りだと思う。GOPはすでに広告でAIを使っている。恐喝ではないが、AIが迅速な作戦に使えることを示している。ソーシャルメディアが誤報に対する普遍的なモデレーションを持ち、信頼できる報道機関、政府機関、政治家の認証済みアカウントがあれば最高だ。
– Patrick Scott Bruck 私たち家族を助けるためにを見てください！(@PatrickSBruck)2023年5月26日
彼は、米共和党がMidJourneyを使ってバイデンが大統領に再選された未来を「想像」させる一連の政治広告について言及していた。また、ロン・デ・サンティスの選挙広告にAIが使われているという噂もあったが、彼の陣営はそうではないことを明らかにした。
ドナルド・トランプはまた、イーロン・マスク、アドルフ・ヒトラー、ロン・デ・サンティスの偽の会話をすべて作り上げ、ロン・デ・サンティスが共和党の大統領候補を目指すと発表したことをあざ笑った。
偽情報とテクノロジーの悪用が横行するデジタル時代において、ブラウンの言葉は不気味なほど真実味を帯びている、
「衝撃に備えることだね。それで何か役に立つことができるかもしれない」と彼は言った。
AI、芸術、倫理の渦の中で、確かなことがひとつある。現実とAIが生成した画像の境界線は、「フォトショップ」と言うよりも早く曖昧になっているのだ。
