インターネット上の情報を鵜呑みにすると、バイデン大統領が国民徴兵制を呼びかけ、男女ともにウクライナでの戦争に参加することになると思うかもしれない。しかし、実際は悪意のあるディープフェイク動画作成者がついた嘘なのだ。
悪意のある俳優が人工知能を使って、政治家、有名人、著名人になりすました動画を作成するのだ。最も害が少ないのは、マインクラフトで遊んでいるアメリカ大統領らしき人物の、おふざけで明らかなフェイク映像だが、最悪の場合、この技術は国家安全保障に対する真の脅威となりうる。
AIは、もしバイデンが選択兵役法を宣言・発動し、20歳を戦争に徴兵し始めたらどうなるかを想像しているpic.twitter.com/896Htrtteu
– The Post Millennial (@TPostMillennial) 2023年2月27日
2018年、コメディアンからオスカー受賞監督に転身したジョーダン・ピールは、最初に流行したディープフェイクの1つという形で世間に警告を発した。その動画は、バラク・オバマが、”Stay woke, bitches!”という予期せぬ言葉を含む、彼の典型的な言説をはるかに超えたフレーズを口にする様子を映したものだった。
イェール大学を卒業したリジュル・グプタは、この動画に出会い、AIの力に瞬時に衝撃を受けた。肯定的なものも否定的なものも含めて、無限の可能性が頭の中を駆け巡り始めたと、彼はTCNとの最近のインタビューで振り返り、この分野に注目する「倫理的なバックボーン」を持つ企業を世界が必要としていることに気づいた。
その結果、彼はイェール大学の卒業生で言語学の専門家であるエマ・ブラウンと共同で、ディープフェイク・テクノロジーのマスキングを解除することに特化したDeepMedia社を設立した。
DeepMediaには2つの製品がある： AI翻訳・ダビングサービスのDubSyncと、ディープフェイク検出サービスのDeepIdentify.AIだ。後者は同社の主要製品で、最近の米国防総省（DoD）との2500万ドルの3年契約や、その他の同盟軍との非公開契約につながった。
「グプタ氏はTCNに対し、「私たちは初日から、国内外の政府、そして現在パートナーである国連のような信頼できる大きな機関と協力したいと考えました。「私たちは、トップダウンとボトムアップの両面から、AIのバックボーンに倫理が組み込まれていることを確認する手助けをしたかったのです」とグプタはTCNに語った。
当初、ディープメディアは国防総省によって、テクノロジーが詐欺行為や政治的誤報の作成にどのように利用されうるかを教育するために引き抜かれた、とグプタは語った。それ以来、ディープメディアは「アメリカ市民と国際市民の安全を守る」ためにその技術を取り入れるため、アメリカ空軍などとの契約を増やしてきた。
どのように機能するのか？
DeepIdentity.AIは、写真やビデオを見て、画像や映像がディープフェイクであることを示す矛盾や不正確さを検索する。一般的な兆候としては、不自然に震える口元や、物理的に不可能な影などがある。
「ディープメディアのCOOであるエマ・ブラウンはTCNに対し、「私たちは、顔が実際にどのように見え、どのように動くべきかを追跡し、それをマッピングすることができます。「顔の正常な動きを特定することができるのです」。
写真は5秒で処理でき、2分のビデオは5分以内に「顔、声、アクセントの詳細な分析により、エンド・ツー・エンドで完全に処理される」と彼女は説明した。エンドユーザーには、どの程度の操作が検出され、それが動画や画像のどこにあるかが知らされる。
“ウイルスに感染した偽のローマ法王を覚えていますか？どの部分が本物のローマ法王で、どの部分が偽物かをチェックすることができました」とブラウンは語った。「現実にはありえないことがありました。それが、影や角度の点で、私たちの検出器にフラグを立てたのです」。
このモデルは、その大規模なトレーニングデータにより、”95％以上 “の精度で検出することができると彼女は主張した。もちろん、DeepMediaはオンラインで発見されたAIディープフェイクを調査しているが、そのデータセットが本当に優れているのは、翻訳・吹き替えサービスであるDubSyncとの相乗効果にある。
「私たちのDubSyncプラットフォームは、基本的にディープフェイクジェネレーターです。優れたディープフェイクを知るためには、ジェネレーターを構築する必要があります」とブラウンは説明する。「そして、それが我々のディープフェイク検出の糧となっている」
ブラウンは、DubSyncのディープフェイク生成は「他の誰よりも6〜12ヶ月先」を進んでいると主張している。これは、AIが検知できないほど高度なディープフェイクを悪質業者が作成するのを防ぐ目的で行われている。しかし、そのリードを維持するのは絶え間ない戦いだ。
「猫とネズミのゲームです。そうでないふりをするものは、本当の意味でこの分野にはいない」とブラウンは言う。「我々は、特に継続的な研究と生成の側面から、検出し続けることができると確信している」。
DeepIdentifyはDeepMediaのAPIやその他のパッケージを通じて利用できるが、政府や金融機関が同社と契約する際には、より高度な機能が求められる。
「当社には既存の欠陥検出ツールがありますが、米国政府や国防総省は、その分野で世界最高の人材を求めています。彼らは世界最高のものを要求するだけでなく、世界最高を超えるものを要求するのです」とグプタ氏は説明する。「私たちは実際に新しい研究を行い、新しいツールや新しい解決策を考え出している。
なぜ我々は気にしなければならないのか？
現状では、ディープフェイク技術は、愚かなパロディビデオ、非現実的な大統領のモノマネ、有害なフェイクポルノでよく知られている。しかし、このテクノロジーは、国家間の真の緊張を引き起こすために使用される可能性もあり、死傷者、テロ攻撃、その他の有害で破壊的な反応を引き起こす可能性がある。
「例えば、2022年3月にウクライナのゼレンスキー大統領が軍隊に降伏するよう指示したように見えるディープフェイクが公開された事件がそうだ」と、米国の国家安全保障弁護士で地政学アナリストのイリーナ・ツカーマンはTCNに語った。「彼はそのビデオの信憑性を否定し、証拠を提出した。
2024年の米国選挙を目前に控え、ディープフェイク技術は、2018年のケンブリッジ・アナリティカ疑惑と同様に、投票を揺るがしかねない最新の懸念事項となっている。
「国家的敵対者や政治的動機のある個人が、選挙で選ばれた高官やその他の公人が扇動的な発言をしたり、不適切な行動をとったりする様子を撮影した偽造ビデオを公開する可能性がある」とツカーマンは説明する。「このような事件は国民の信頼を損ない、言論に悪影響を与え、分裂を生み、選挙やその他の重要な意思決定プロセスを揺さぶるために利用される可能性がある。
妨害もそれほど単純ではないかもしれない。実際、ディープフェイクは現実を否定し、事実に基づいた情報や出来事に対して反撃を試みるために使われる可能性がある。
また、”嘘つきの配当 “の可能性という問題もある。ディープフェイクは、オリジナルのコンテンツの信憑性を否定するために使用される可能性があり、安全保障上の懸念を害するためにさらなる難読化を生み出し、友好的な米国の情報源や資産、アナリスト、同盟国政府、あるいは政府高官の信用を失墜させるような偽情報の一形態である」とツカーマンは言う。
このような国家安全保障への脅威があるため、同社は米国国防総省のエコシステム、ヨーロッパとアジアの同盟国や提携国、そして無名の「超大手ソーシャルメディア企業」と協力し、流通するディープフェイクの検出を支援しているという。
昨年だけでも、ジェネレーティブ人工知能技術とツールの急速な進化があった。ディープフェイク技術が進化するにつれ、詐欺的なクリップを肉眼で識別することがさらに難しくなることは確実だ。それこそが、DeepMediaのような検知企業が人々の安全と情報提供を支援する狙いなのだ。
