Kotakuの報道によると、プレイヤーからの反発を受け、Epic Gamesは人気バトルロイヤルゲーム「フォートナイト」にユーザーがアップロードした人種差別的なAI生成画像を削除している。
フォートナイトを今日のような大ヒットオンラインゲームにした特徴のひとつは、ユーザーが独自のマップを作成し、プレイ体験を世界と共有できることだ。しかし、このような創造性の場は、ユーザーが問題のあるコンテンツをアップロードする可能性があることを意味する。
最近、人種差別的なステレオタイプを植え付けるような、AIが生成した粗雑な画像を使用した島マップがユーザーから指摘され始めた。Kotakuが報じたように、マップの例としては、”Arab Zonewars”、”Nigerian Zonewars”、”China Zonewars “といった名前のものがある。
これらのマップでは、中東の男性が爆弾を持っていたり、黒人の男性がフライドチキンを食べていたりと、人種差別的で、明らかにAIがステレオタイプを永続させるような画像を生成していた。これらのマップのほとんどはサーバー人口が少なかったが、マップの1つである “Jamaica Zonewars “では、今月初めに35,000人以上のアクティブプレイヤーがいた。
画像： ユーザーによる禁止島のアートワーク
「言及された島の多くはすでに削除され、クリエイターも対処済みです」とEpic Gamesは声明でKotakuに語っています。「この類似のサムネイル形式を使用しているコンテンツ違反の島は、すでに100以上あり、今後も対処していく予定です」とEpic GamesはKotakuに声明を出しています。
Epic Gamesは、差別的なコンテンツはフォートナイトにふさわしくなく、同社のアイランドクリエイタールールに違反するとし、これらのガイドラインに違反したユーザーはアカウントが永久にBANされる可能性があると付け加えた。
“当社の人間のモデレーションチームは、公開前にすべてのコンテンツを確認し、プレイヤーに届く違反マップの数を最小限に抑えるために、島作成者ルールとモデレーショントレーニングプログラムを積極的に更新しています “とEpic Gamesは述べています。「ルールに違反する可能性のある島を見かけたら、プレイヤーに報告することをお勧めします」とEpic Gamesは述べています。
TCNのGGに提供された声明の中で、Epic Gamesは、すべてのユーザーが作成した島は公開前にモデレーターによって確認されるが、チームは軽いタッチで対応していると述べています。
画像： ユーザーによる禁止島のアートワーク
「コンテンツ違反について確信が持てない場合は、クリエイターに代わって善意であると判断するようモデレーションチームに求めています。「時には、公開すべきでないものが公開されてしまうこともありますが、私たちは迅速に違反コンテンツを削除し、モデレーター向けの新しいトレーニング資料を作成します。当社のクリエイター ルールに違反していることが判明したクリエイターは、恒久的な公開禁止や収益化禁止など、さまざまな強制措置に直面します。
パブリッシャーはさらに、”アイランド・クリエイター・ルールとモデレーター・トレーニング・プログラム “の更新に取り組んでいると付け加えた。
ジェネレーティブAIの流行に乗り、Epic Gamesストアは9月、AIのアートやその他の要素をフィーチャーしたゲームや投稿の許可を開始しました。これは、ライバルのPCゲーム・マーケットプレイスであるSteamが、当初はAIコンテンツに反対する姿勢を示していたものの、そのような投稿が増加する中でルールを緩和したことを受けたものだ。
エピック・ゲームズ創設者兼CEOのティム・スウィーニーは当時、ツイッターに「新しい技術を使ったからといってゲームを禁止することはありません」と書き込み、エピック・ゲームズが同年初めにセルフパブリッシングを全面的に開放したことに言及した。
AIの開発者は、モデルから不快な画像を削除するために多大な投資を行ってきたが、ユーザーは、特別なプロンプトを使用してモデルを「脱獄」する方法を発見した。10月には、AIが生成したスポンジ・ボブや任天堂のカービィがジェット旅客機を飛ばして世界貿易センターに突っ込む画像が流行した。
