AI開発大手のOpenAIが木曜日、新しいモデル仕様を発表し、テック業界や主要メディアを激怒させた。
「OpenAIは、「私たちは、開発者とユーザが、私たちの利用ポリシーを遵守する限り、適切と思われるように私たちのサービスを利用する柔軟性を持つべきだと考えています。「我々は、APIとChatGPTを通じて、年齢相応の文脈でNSFWコンテンツを生成する機能を責任を持って提供できるかどうかを検討しています。
その発表の中で、OpenAIはまた、現在のポリシーがChatGPTがNSFWコンテンツを提供することを妨げていることを再確認した。”エロ、過激なグロ、中傷、未承諾の冒涜のような、専門的な場での会話 “では適切でないコンテンツとして説明されている。
それにもかかわらず、OpenAIがポルノの作成に対する制限を解除しようと考えているという考えは、眉をひそめた。今にして思えば、Open AIのプロダクトリードはTCNに、同社が何を “探求 “しているのか、もっとうまく説明できたはずだと語っている。
AIモデルがどのように振る舞うべきかについての一般的な会話を深めるために、私たちはモデルスペック（モデルの望ましい振る舞いを形成するための私たちのアプローチ）を共有しています。https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 2024年5月8日
OpenAIプロダクトリードのジョアンナ・ジャン（Joanna Jang）氏は、NSFWとは、冒涜的な文章からAIが生成したディープフェイク画像まで、あらゆるものを意味する可能性があると指摘した。
より寛容な姿勢の下で、具体的にどのような素材が許可されるのかについて、Jang氏はNPRに対し、「ポルノの定義による」と語った。
彼女は、ディープフェイクは絶対にNGだと強調した
。
「適用される法律に従い、人々のプライバシーを保護することで、カバーできると考えたが、我々はAIディープフェイクやAIポルノを作るためにそこにいるのではないことを明確にする必要がある」とジャン氏はTCNに語った。「解決すべきもっと重要な問題があるときに、それを優先する時間や帯域幅を私たちが持つべきものではありません」
。
NSFWコンテンツをブロックし、法的コンプライアンスを確保することに加え、OpenAIのモデル仕様には、危険な情報を提供しない、クリエイターとその権利を尊重する、人々のプライバシーを保護するなど、ChatGPTが従うように設計されたルールがいくつか含まれています。
現在、OpenAIのChatGPT Plus（画像はDall-E 3、テキストはGPT-4を含む）では、ユーザーがあからさまに性的な画像やグロテスクなテキストを生成することはできません。そうするように要求されると、ChatGPTはその要求が利用規約に違反していると回答する。その結果、ウェブ上ではOpenAIのユーザーから、同社が検閲しているとの苦情が殺到していると張氏は指摘する。
“検閲や何かに対する多くの批判があり、その議論の多くは、誰のせいでもないのですが、OpenAIのポリシーと、実際には私たちのポリシーではないものを混同しています。「これらのモデルは、ガイドラインに反しているにもかかわらず、そのように振る舞っているのでしょうか？
Jang氏が説明したように、OpenAIは、理想的なモデルの振る舞いを示すために仕様を公開し、透明性を取り入れながら、法令遵守とNSFWコンテンツの回避に重点を置いています。
「私たちは、この議論にもっとニュアンスを持たせたいと思っています。とジャンは言う。「そして、モデル仕様書を通じて、実際にこのような会話ができることを望んでいる。
「そして、モデル仕様を通して、私たちが実際にこのような会話をすることができることを望んでいます。
メンタルヘルス専門家にとって、人気のAIプラットフォームがポルノやアダルトコンテンツの領域に進出することは問題だ。
「セックスとポルノ中毒の分野では、AIが生成するポルノによって、中毒的な行動が増え始めている」と、メンズヘルス財団の行動衛生専門家であるブランドン・シンプソン氏はTCNに語った。「AIが生成するポルノは、ドーパミン反応を満たすために必要な、独特で増え続ける強度を作り出すので、人々は飛び込み、人間的な交流と置き換えることで、社会不安、パフォーマンス不安、その他様々な性的関連機能不全のレベルにつながっている”
OpenAIやGoogleやMetaなどの主要な生成AIプラットフォームによってガードレールが設置されているにもかかわらず、AIが生成したポルノに対する強い需要があり、疑うことを知らない被害者を描いたり、児童性的虐待の素材（CSAM）を生成したりするために技術を利用する無数の方法がある。
「OpenAIの担当者は後にTCNに、「この仕様書は、責任を持ってAIを構築し、展開する方法に関する我々のストーリーの一部に過ぎません。「最終的には、透明性を示し、”どのように変更し、改善することができるかについて公開の会話を開始する “ことを意図しています。
OpenAIは、自社のプラットフォーム上の脆弱性を見つけるためにサイバーセキュリティのレッドチームを雇うなど、自社のAIツール群のプライバシーとセキュリティの改善に多額の投資を行ってきた。2月、OpenAIとマイクロソフトは、中国と北朝鮮のハッカーがChatGPTを使用するのを阻止する共同作戦を発表し、OpenAIは先月、グーグル、メタと共同で、AIモデルの開発において子どもの安全を優先させることを誓約した
。
