OpenAI находится на подъеме, объявив о нескольких обновлениях, которые позволяют пользователям настраивать две самые популярные модели ИИ.
В прошлом месяце компания сообщила, что пользователи ChatGPT теперь могут предоставлять «пользовательские инструкции» для персонализации ответов чатбота. Теперь OpenAI объявила о том, что тонкая настройка доступна для GPT-3.5 Turbo, что позволяет разработчикам ИИ добиваться более высокой производительности при решении специализированных задач с помощью специализированных данных.
Эти усовершенствования могут позволить компании сохранить лидерство над такими хорошо финансируемыми конкурентами, как Google’s Bard или Anthropic’s Claude.
«Мы только что запустили тонкую настройку для GPT-3.5 Turbo», — объявил OpenAI в Twitter. «Тонкая настройка позволяет обучать модель на данных вашей компании и запускать ее в масштабе».
«Ранние тесты показали, что GPT-3.5 Turbo с тонкой настройкой может сравниться или превзойти GPT-4 в узких задачах», — добавили в компании.
Мы только что запустили тонкую настройку GPT-3.5 Turbo! Тонкая настройка позволяет обучить модель на данных вашей компании и запустить ее в масштабе. Первые тесты показали, что GPT-3.5 Turbo с тонкой настройкой может сравниться или превзойти GPT-4 в узких задачах: https://t.co/VaageW9Kaw pic.twitter.com/nndOyxS2xs
— OpenAI (@OpenAI) August 22, 2023
OpenAI пояснила, что с помощью тонкой настройки разработчики могут непосредственно формировать навыки GPT-3.5 Turbo в соответствии со своими потребностями. Например, разработчик может настроить GPT-3.5 Turbo на генерацию кода на заказ или на составление краткого изложения юридических документов на безупречном немецком языке, предоставив ему корпус существующих данных со всего предприятия клиента.
Эта возможность особенно ценна для компаний и разработчиков, создающих индивидуальный пользовательский опыт. Например, компании могут точно настроить модель в соответствии со своим фирменным стилем, чтобы чат-бот обладал индивидуальностью и интонацией.
Возможности настройки также можно наблюдать в сообществе разработчиков Stable Diffusion. Модели SD v1.5, прошедшие тонкую настройку, достигли уровня качества, превосходящего базовую модель, более мощную модель v2.1 и даже сравнимого с топовой моделью SDXL, которая была выпущена совсем недавно.
Кроме того, по словам представителей OpenAI, преимущества тонкой настройки распространяются на улучшение управляемости, согласованное форматирование вывода и уменьшение размеров подсказок, что позволяет ускорить реакцию API и снизить затраты. Например, размер подсказок может сократиться до 90%, что ускорит рабочие процессы и снизит затраты.
Стоимость базовой модели GPT-3.5 Turbo составляет 0,0004 долл. за 1000 лексем (основная единица информации, обрабатываемая большой языковой моделью), а более тонкие версии стоят дороже — 0,012 долл. за 1000 входных лексем и 0,016 долл. за 1000 выходных лексем. Процесс начального обучения также оплачивается в зависимости от объема данных. Тем не менее, премиум-цена может оказаться оправданной из-за возможности настройки.
Это, опять же, в дополнение к «пользовательским инструкциям» для пользователей ChatGPT Plus, о которых было объявлено в июле. Например, пользователи могут указать язык кодирования, чтобы ChatGPT всегда предлагал решения на Python. Среди других вариантов персонализации, рекомендуемых OpenAI, — местоположение, увлечения, цели и предпочитаемый тон.
Пользовательские инструкции позволяют превратить ChatGPT в персонализированного цифрового помощника, отвечающего их уникальным потребностям. В каждом разговоре пользователь будет следовать этим инструкциям, что избавит его от необходимости повторять свои предпочтения. Обновление не столько новой модели, сколько модели с другим «мышлением».
Компания приняла меры для обеспечения ответственного использования функции тонкой настройки.
«Чтобы сохранить функции безопасности модели по умолчанию в процессе тонкой настройки, данные обучения тонкой настройке передаются через наш Moderation API и систему модерации на базе GPT-4, — поясняют в OpenAI. Эта система пытается выявить и аннулировать небезопасные данные обучения, гарантируя, что даже настроенные данные будут соответствовать стандартам безопасности OpenAI.
Это также означает, что OpenAI имеет определенный уровень контроля над данными, которые пользователи вводят в свои модели.
Благодаря тонкой настройке и пользовательским инструкциям OpenAI предоставляет пользователям больше возможностей для создания моделей в соответствии с их требованиями. Пока идет борьба за первенство в области генеративного ИИ, настройка может стать следующим рубежом, который даст OpenAI преимущество. Пока, однако, эти возможности остаются в некоторой степени эксклюзивными для платных клиентов.
