Технологичният гигант Microsoft представи нов метод за обучение на изкуствен интелект, наречен „Алгоритъм на мислите“ (AoT), предназначен да направи големите езикови модели като ChatGPT по-ефективни и с по-човешки способности за разсъждение.
Новият подход е естествена следваща стъпка за компанията, която е инвестирала много в изкуствен интелект, и по-специално в OpenAI – създателите на DALL-E, ChatGPT и мощния езиков модел GPT.
Microsoft твърди, че техниката AoT е потенциална промяна в играта, тъй като „насочва езиковия модел по по-рационален път за решаване на проблеми“, според публикуван изследователски документ. Този нов подход използва „учене в контекста“, което позволява на модела да изследва систематично различни решения по организиран начин.
Резултатът? По-бързо решаване на проблеми с по-малко ресурси.
„Нашата техника превъзхожда предишни методи с едно запитване и е на едно ниво с неотдавнашен подход с много запитвания, използващ обширно търсене в дърво“, се казва в статията. „Интригуващо е, че нашите резултати показват, че инструктирането на модел с алгоритъм може да доведе до производителност, надвишаваща самия алгоритъм.“
Изследователите твърдят, че моделът придобива подобрена „интуиция“, когато тази техника оптимизира процеса му на търсене.
Човешко-алгоритмичен хибрид?
Методът AoT е насочен към ограниченията на настоящите техники за учене в контекста, като например подхода „верига на мисълта“ (CoT). CoT понякога предоставя некоректни междинни стъпки, докато AoT насочва модела с помощта на алгоритмични примери за по-надеждни резултати.
AoT черпи вдъхновение както от хората, така и от машините, за да подобри работата на генеративния модел на ИИ. Докато хората се отличават с интуитивно познание, алгоритмите са известни с организираното си, изчерпателно изследване. В изследователския документ се казва, че Алгоритъмът на мислите се стреми да „слее тези двойни аспекти, за да увеличи възможностите за разсъждение в рамките на LLM“.
Microsoft казва, че тази хибридна техника позволява на модела да преодолее ограниченията на човешката работна памет, което позволява по-всеобхватен анализ на идеи.
За разлика от линейното разсъждение на CoT или техниката „Дърво на мислите“ (ToT), AoT позволява гъвкаво обмисляне на различни варианти за подпроблеми, като поддържа ефикасност с минимално подсказване. Той също така съперничи на външните инструменти за търсене в дървета, като ефективно балансира разходите и изчисленията.
Алгоритъм на мислите спрямо други методи за разсъждение с изкуствен интелект. Изображение: Microsoft
Общо, AoT представлява преход от контролирано обучение към интегриране на самия процес на търсене. С усъвършенстването на техниката на подсказване изследователите смятат, че този подход може да даде възможност на моделите да решават ефективно сложни проблеми от реалния свят, като същевременно намаляват въздействието си върху въглеродните емисии.
Като се имат предвид значителните инвестиции в изкуствен интелект, Microsoft изглежда в добра позиция да включи AoT в усъвършенствани системи като GPT-4. Въпреки че е предизвикателство, обучението на езиковите модели да „мислят“ по този по-човешки начин може да бъде трансформиращо.
