あるニュースメディアの記事で、ウラジーミル・プーチンが公の場に姿を現すためにボディ・ダブルを使っているという噂が再燃した。
DailyMailの報道によると、この根強く根拠のない主張は数カ月にわたって流布され、日本で再浮上した。日本の研究者は、さまざまなイベントでのプーチンのビデオ映像や写真を分析し、彼を演じている人物が少なくとも3人いることを示唆したという。このような主張はクレムリンによって即座に否定されるが、この話はAIの急速な進歩の副作用、つまりAIディープフェイクの進歩を示している。
AIディープフェイクとは、動画や画像、その他のデジタルコンテンツの顔を入れ替えるアルゴリズムを使って、偽物を本物に見せる技術だ。ディープフェイクは、政治的操作のための危険な新手段として認識されている。そして、ディープフェイクの検出は急成長している産業となっており、ジェネレーティブAIのリーダーであるOpenAIは、99％の精度でディープフェイクを識別できると主張している。
しかし、研究者によれば、これを行うのは容易ではなく、今後も難しくなるとのことだ
。
日本のテレビ局TBSは、ロシアのプーチン大統領が様々なイベントに出席するためにボディダブルを雇っていることを示唆するAIベースの研究を報道した。画像はこちら： Daily Mail
デジマークのライリー・マコーマック社長兼最高経営責任者（CEO）はTCNに対し、「確率的技術では、AIかどうかを判断する方法が試みられています。”これらの方法の多くを見てみるとわかると思うが、最も優れたものはかなり精度が低い”
1994年に設立されたDigimarcは、デジタル資産と著作権の所有者を特定し保護するのに役立つデジタル透かしを提供している。電子透かしは、ディープフェイクを識別するための一般的に提案されている方法のひとつであり、Googleのような企業はこのアプローチを模索している。
サンフランシスコで開催されたGoogle Cloud Nextで、AlphabetとGoogleのCEOであるSundar Pichaiは、Google Vertix AIプラットフォームの透かし機能を発表した。
「Google Deepmindが提供するテクノロジーを使って、Vertex AIが生成した画像には、画質を損なうことなく、人間の目には見えない方法で透かしを入れることができる」とピチャイは語った。
しかし、戦略として、電子透かしには多くの弱点がある。マコーマック氏は、電子透かしでAIのディープフェイクを阻止するには、AIが生成したものか本物かを示すために、誰もが同じ方法を採用する必要があると述べた。
「電子透かしを使ったジェネレーティブAIだけの問題点は、すべてのジェネレーティブAIエンジンがそれを採用するわけではないということです。「どのような真正性のシステムでも、ユビキタスでない限り、ただ一方的に印をつけるだけでは何の役にも立たない。
AI画像ジェネレータは、インターネットやソーシャルメディアから自由に利用できる画像を引っ張ってくるため、他の専門家は、ジェネレータに画像を劣化させるコードを含めるか、データをミスラベルすることで毒薬を利用することを提唱している。
AIディープフェイクは、ジョー・バイデン米大統領、フランシスコ・ローマ法王、ドナルド・トランプ前大統領になりすまして作成されている。ディープフェイクの技術は日進月歩で向上しており、AI探知機は追いつくための競争でモグラたたきをしているようなものだ。
AIのディープフェイクの危険性をさらに高めているのが、AIが生成する児童性的アダルト素材（CSAM）の増加だ。英国のインターネット監視団体「インターネット・ウォッチ・ファンデーション」が10月に発表した報告書によると、児童ポルノは、無料で使用・配布できるオープンソースのAIモデルを使用して、急速にオンライン上に広まっているという。
IWFは、ディープフェイクポルノは、AIが生成した子どもの画像と実際の子どもの画像の違いを見分けることがますます難しくなっており、法執行機関が実際の虐待被害者ではなくオンライン上のファントムを追求するようになっていることを示唆した。
「インターネット・ウォッチ・ファンデーションのダン・セクストンCTOは、TCNにこう語った。「本物かどうかを教えてくれるものは100％ではない。
マコーマックが提起したもうひとつの問題は、市場に出回っているAIモデルの多くがオープンソースであり、制限なく使用、修正、共有が可能であることだ。
「オープンソースのシステムにセキュリティ技術を導入する場合、そこにロックをかけることになる。「錠前をそこに置き、そのすぐ隣に錠前を開ける方法の青写真を置くわけですから、あまり大きな価値はありません」。
安定拡散、ミッドジャーニー、Dall-Eのような大型のモデルがより良くなり、強力なガードレールを保持するようになれば、CSAMをローカルに作成できる古いモデルは使われなくなるだろう。また、どのモデルが画像を作成したかを見分けるのも容易になるだろう、と彼は言う。
「このようなことをするのは難しくなり、このようなことをするのはもっとニッチになる。
政府首脳がAIディープフェイクの格好の標的である一方で、AIディープフェイクを使ったオンライン詐欺や広告に自分の肖像が使われるハリウッドセレブがますます増えている。
ハリウッド俳優のスカーレット・ヨハンソンは、自分の肖像の無断使用を阻止するために、アベンジャーズのスターのAI生成画像を広告に使用したAI企業Lisa AIに対して法的措置を追求していると述べた。先月には、ユーチューブの巨人ミスター・ビーストが彼の肖像を使ったオンライン詐欺をフォロワーに警告し、トム・ハンクスまでもが彼の肖像を使ったAIディープフェイク・キャンペーンの被害者となった。
9月には、多くのAIディープフェイクの対象となったローマ法王フランシスコが、世界平和デーの祝日の説教の中心をこのテクノロジーに置いた。この宗教指導者は、AIとそれが人類にとって何を意味するかについて、開かれた対話を呼びかけた。
「人工知能の分野での目覚ましい進歩は、人間の活動、個人生活、社会生活、政治、経済に急速に影響を及ぼしている」とフランシスコは語った。
マコーマック氏は、AI検知ツールが改良されるにつれて、AIディープフェイク生成ツールも改良され、昨年のChatGPTの立ち上げから始まったAI軍拡競争の新たな戦線につながると述べた。
「ジェネレーティブAIがディープフェイク問題や偽情報問題を生み出したわけではありません。「とマコーマックは言う。
