В четверг ведущий разработчик ИИ OpenAI взбудоражил мир технологий и прессу, представив новую спецификацию модели, которая, по мнению многих, означает, что его дико популярным инструментам генеративного ИИ будет разрешено генерировать небезопасный для работы контент для взрослых.
«Мы считаем, что разработчики и пользователи должны иметь возможность использовать наши сервисы по своему усмотрению, если они соблюдают наши правила использования», — написала OpenAI. «Мы изучаем, можем ли мы ответственно предоставить возможность генерировать NSFW-контент в соответствующих возрасту контекстах через API и ChatGPT».
В своем заявлении OpenAI также подтвердила, что ее текущая политика не позволяет ChatGPT генерировать NSFW-контент, который описывается как контент, не уместный в «разговоре в профессиональной среде, например, эротика, экстремальная жестокость, оскорбления и ненормативная лексика».
Тем не менее, идея о том, что OpenAI собирается снять ограничения на создание порнографии, вызвала недоумение. Оглядываясь назад, руководитель отдела продуктов Open AI говорит TCN, что компания могла бы лучше объяснить, что именно она «изучает».
Чтобы углубить общественный разговор о том, как должны вести себя модели ИИ, мы выкладываем в открытый доступ Model Spec — наш подход к формированию желаемого поведения модели. https://t.co/RJBRwrcTtQ
— OpenAI (@OpenAI) May 8, 2024
«Я думаю, что в следующей версии, которую мы представим, я бы хотел сделать, основываясь на отзывах и реакции, более точное определение NSFW-контента и таксономии», — сказала Джоанна Джанг, руководитель проекта OpenAI по моделированию поведения, отметив, что NSFW может означать что угодно — от письменных ругательств до сгенерированных ИИ изображений deepfake.
Что касается того, какие именно материалы будут разрешены в рамках более свободной позиции, Джанг сказала NPR, что это «зависит от вашего определения порнографии».
Она подчеркнула, что глубокие подделки абсолютно не рассматриваются.
«Следуя действующему законодательству и защищая частную жизнь людей, мы думали, что это покроет проблему, но мы должны четко понимать, что мы не занимаемся созданием искусственных подделок или искусственного порно», — сказала Джанг в интервью TCN. «Это не то, на что у нас есть время и возможности, когда есть более важные проблемы, требующие решения. «
Помимо блокировки NSFW-контента и обеспечения соответствия законодательству, спецификация модели OpenAI включает в себя несколько других правил, которым ChatGPT должен следовать, в том числе не предоставлять опасную информацию, уважать создателей и их права, а также защищать частную жизнь людей.
В настоящее время ChatGPT Plus от OpenAI, который включает Dall-E 3 для изображений и GPT-4 для текста, не позволяет пользователям генерировать откровенно сексуальные или страшные изображения или текст. На просьбу сделать это ChatGPT ответит, что запрос нарушает условия предоставления услуг. В результате, как отмечает Джанг, в сети появилось множество жалоб от пользователей OpenAI на то, что компания подвергает их цензуре.
«Существует много критики цензуры и тому подобного, и многие из этих обсуждений путают — и никто в этом не виноват — политику OpenAI с тем, что на самом деле не является нашей политикой», — говорит Джанг. «Неужели эти модели ведут себя именно так, хотя это противоречит правилам?»
Как объяснил Джанг, OpenAI опубликовал спецификацию, чтобы описать идеальное поведение моделей, сосредоточившись на соблюдении законов и избегании NSFW-контента, а также на обеспечении прозрачности.
«Мы хотим привнести больше нюансов в эту дискуссию, потому что сейчас, до появления спецификации модели, вопрос звучал так: «Должен ли ИИ коверкать порно или нет?». сказал Джанг. «Я надеюсь, что с помощью спецификации модели мы сможем вести такие разговоры».
«И опять же, именно поэтому я жалею, что не заложила [рамки], чтобы мы могли начать этот разговор хотя бы на день раньше», — добавила она.
Экспертов по психическому здоровью беспокоит перспектива того, что популярные платформы искусственного интеллекта перейдут в сферу порнографии и контента для взрослых.
«В области секса и порнозависимости с порнографией, созданной искусственным интеллектом, мы начинаем наблюдать рост аддиктивного поведения», — сказал TCN Брэндон Симпсон, специалист по поведенческому здоровью из Фонда мужского здоровья. «Поскольку порнография, сгенерированная искусственным интеллектом, создает уникальную и постоянно растущую интенсивность, необходимую для удовлетворения дофаминовой реакции, люди погружаются в нее и заменяют ею человеческое общение, что приводит к социальному беспокойству, тревоге при исполнении и ряду других сексуальных дисфункций».
Даже несмотря на ограничения, установленные OpenAI и другими крупными платформами генеративного ИИ от Google и Meta, существует большой спрос на порно, созданное ИИ, и огромное количество способов использовать эту технологию для изображения ничего не подозревающей жертвы или создания материалов о сексуальном насилии над детьми (CSAM).
«Спецификация — это только часть нашей истории о том, как создавать и внедрять ИИ ответственно», — сказал позже TCN представитель OpenAI. «Она дополняется нашими правилами использования, тем, как мы ожидаем, что люди будут использовать API и ChatGPT» — в конечном счете, с целью продемонстрировать прозрачность и «начать общественный разговор о том, как это можно изменить и улучшить».
OpenAI вкладывает значительные средства в повышение уровня конфиденциальности и безопасности своего набора инструментов искусственного интеллекта, в том числе нанимает команды кибербезопасности для поиска уязвимостей на своих платформах. В феврале OpenAI и Microsoft объявили о совместной операции по блокированию китайских и северокорейских хакеров от использования ChatGPT, а в прошлом месяце OpenAI вместе с Google и Meta обязались уделять приоритетное внимание безопасности детей при разработке своих моделей ИИ.
