Midjourneyは、その名を冠した人気のテキストから画像へのAI画像ジェネレーターの会社ですが、その技術によって生成されたウイルス性の深い偽物が増加したことを受けて、無料トライアル版へのアクセスを停止しました。
Midjourneyの創設者であるDavid Holzは、今週初めに同社のDiscordサーバーに「異常な需要と試用版の乱用が重なったため、システムの次の改良が導入されるまで、一時的に無料試用版を無効にします」と書き込んでいます。
ディープフェイク」とは、AIが画像や動画、音声を加工して、実在の人物がやってもいないことをやったり言ったりするように見せかけることで、リアルに見えるメディアです。ディープフェイクは楽しさや娯楽のために使われるかもしれませんが、この技術は誤った情報を広めたり、意見に影響を与えたり、評判を傷つけたりすることもあります
。
Midjourneyサブレディットで、何かワイルドなことが起こっている。
2001年にオレゴン州を襲った「カスケーディア大地震」のような歴史的な出来事について、人々が物語を語り、写真を共有しています。
キッカーは？実際に起こったことではないのです。画像はAIが生成したものです。pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) March 26, 2023
」。
今週初め、超スタイリッシュな白いパフジャケットとダイヤモンドをちりばめたネックレスを身につけたローマ法王フランシスコの写真がウェブを席巻しました。先週、主要ニュースサイトがドナルド・トランプ元米大統領がニューヨークで逮捕されようとしていると報じていたとき、元大統領が警察に追われているように見える写真が相次いで流れた。いずれの場合も、専門家がPhotoshopを使って作成した類似の種類のフェイクよりも、さらに信憑性の高い画像に見えた。
トランプが逮捕されるのを待ちながら写真を撮る。pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
」。
MidjourneyやPlayground AIなど、多くのジェネレーティブAIサイトでは、すでに性的な内容を含むプロンプトに対する規制が設けられている。しかし、これらのサイトはいずれも本物ではない写真を製造しているため、ディープフェイクに関する限り、何が許容される使用なのかという問題はまだ議論されているところである。
Midjourneyの契約プランは、処理能力やユーザーが必要とする機能（同時実行可能なジョブなど）に応じて、月額10ドルから60ドルとなっています。また、年間契約プランも用意されています。
無料版の閉鎖がどのように問題を解決するかは不明です。Midjourneyの利用規約では、有名人や公人の攻撃的な画像はすでに禁止されている
。
AIが生み出す現代のローマ法王の話題（midjourney）は、私たちの手に負えなくなりそうです。
ALT にプロンプト pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) March 28, 2023
」。
TCNは、Stable Diffusionを開発したMidjourneyとStability AIにコメントを求めていますが、まだ返事はありません。
。
