サイバー犯罪者たちは、AIツールを使って有名人のディープフェイクを作成し、彼らの肖像権を徴用してファンから金や暗号通貨をだまし取ろうとしている。
月曜日に、ユーチューブの巨人であるビースト氏は、2400万人以上のツイッターのフォロワーに、自分がそのような詐欺の被害に遭ったことを知らせ、テック企業にそのような詐欺を阻止する能力があるのかどうか疑問を投げかけた。
「多くの人が私のディープフェイク詐欺広告を受け取っている。「ソーシャルメディア・プラットフォームはAIディープフェイクの台頭に対応できているのだろうか？
多くの人々がこの私のディープフェイク詐欺広告を受け取っている…ソーシャルメディアプラットフォームはAIディープフェイクの台頭に対処する準備ができているのだろうか？これは深刻な問題ですpic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 2023年10月3日
ポッドキャストの司会者であり、科学コミュニケーターであり、ポーカーのチャンピオンでもあるリブ・ブーリーが答えた。
ディープフェイクとは、生成人工知能で作成された動画や音声コンテンツのことで、偽の出来事を描いているが、合法的な本物のコンテンツと混同されやすいように作られている。
AIが生成するディープフェイクをめぐる懸念は、世界の指導者、政策立案者、法執行機関もBoeree氏の気持ちに共鳴し、警鐘を鳴らしている。
本名をジェームズ・ドナルドソンと言うビースト氏は、オンライン詐欺やキャンペーンに無断で肖像が使用された最新の有名人に過ぎない。日曜日には、伝説的俳優のトム・ハンクスがインスタグラムで、AIが生成したアカデミー賞受賞エンターテイナーのバージョンを使ったデンタルプランの広告キャンペーンについてファンに警告を発した。一方、故ロビン・ウィリアムズの娘のインスタグラム投稿も、父親の声の複製をコマーシャル・コンテンツに使用したキャンペーンを非難した。
CBSのゲイル・キング、フォックス・ニュースのタッカー・カールソン、HBOのビル・メアなど、テレビのニュース番組のパーソナリティもディープフェイクのバイラルコンテンツに登場している。
デイリー・メール紙が日曜日に報じたところによると、テイラー・スウィフト、ナタリー・ポートマン、エマ・ワトソンといった女性俳優の顔がディープフェイク・ポルノに利用されることが増えている。セキュリティ会社ActiveFenceを引用した同レポートは、有名人のディープフェイクポルノの量は昨年より87％増加し、個人は400％多く悪用されていると主張している。
ビースト氏はTCNのコメント要請にまだ回答していない。
AIは、SAG-AFTRAと映画テレビプロデューサー同盟（AMPTP）の間で進行中の交渉における重要な問題のひとつである。そして、AIディープフェイクの問題を法廷に持ち込み、勝利している俳優もいる。
先月、インドの人気俳優アニル・カプールは、デリー高等裁判所において、彼の名前、画像、声の無断使用に対する判決を勝ち取った。また、トム・クルーズは公には語っていないが、彼のAIディープフェイクがソーシャルメディアにアップロードされた後、昨年大流行した。
ディープ・トム・クルーズ」動画の制作チームは、その後AI開発会社メタフィジックAIを設立した。
クリス・ウメ、ケヴィン・ウメ、マイルズ・フィッシャー、トム・グラハム、マーティン・アダムスによって2021年に設立されたロンドンを拠点とするメタフィジックは、昨年9月に『アメリカズ・ゴット・タレント』で紹介され、その技術によってAIが生成したエルビス・プレスリーが一夜限りのパフォーマンスを披露した。
Metaphysic社によれば、トム・ハンクスのほか、アン・ハサウェイやオクタヴィア・スペンサーなどの芸能人も、彼らの肖像の合法的なデジタルアバターを作成するために必要な特徴を作成・保存するために同社の技術を利用しているという。
ハンクス、スペンサー、ハサウェイの代理人は、TCNからのコメント要請を拒否、あるいは返答していない。
8月には、歌手のセレーナ・ゴメスが、ザ・ウィークエンドの “Starboy “のリミックス・バージョンを歌う偽バージョンをフィーチャーした音声AIディープフェイクをインスタグラムに投稿した。
ザ・ウィークエンドはまた、AIが生成したドレイクの偽レプリカとのコラボ曲 “Heart on My Sleeve “のディープフェイクの対象にもなった。
