Могат ли децентрализираните модели на изкуствен интелект с отворен код да се конкурират с добре финансираните собственически модели като мощния GPT-4 на OpenAI? Често задаваният въпрос разпали оживен дебат в Twitter, след като бивш изследовател на изкуствения интелект в Google избра страна.
Арно Бенар, съосновател на Galileo AI, хвърли ръкавицата, като заяви: „Ако мислите, че моделите с отворен код ще победят GPT-4 тази година, грешите.“ Той се позова на таланта и ресурсите на OpenAI, както и на солидния характер на GPT-4 като продукт, надхвърлящ LLM, и заяви, че проектите с отворен код може да се затруднят да се превърнат от претенденти в шампиони по изкуствен интелект.
Ако мислите, че моделите с отворен код ще победят gpt-4 тази година, грешите.
Работил съм в най-добрите изследователски лаборатории за изкуствен интелект (google ai) и съм създал библиотеки с отворен код с ☻ 5 млн. месечни изтегляния.
gpt-4 е на една година и досега нито един модел не го е достигнал, ето защо:
– Arnaud Benard (@arnaudai) January 1, 2024
Не е изненадващо, че туитът на Бенар предизвика смесени реакции, вариращи от яростна подкрепа до яростно несъгласие.
Райън Кейси, популярен ентусиаст в областта на изкуствения интелект, който пише бюлетина „Beyond The Yellow Woods“, предложи по-оптимистичен поглед върху потенциала на изкуствения интелект с отворен код, заявявайки: „Според неговите изчисления тази година отвореният код ще се изравни или ще победи [частните модели]“. „Ако има търсене за него, ще има и иновации.“
Ех, според мен отвореният код ще съвпадне или ще победи тази година. pic.twitter.com/y99qKJ2iKF
– Ryan Casey (@ryansweb) January 1, 2024
От друга страна, стратегът по изкуствен интелект Джереми Трагуна отбеляза, че „моделите на OpenAI продължават да се движат“, като добави, че „моделите с отворен код трудно ще поддържат скорост, за да ударят движеща се цел в момента, в който целта е в позиция да бъде ударена“. С други думи, макар че моделите с отворен код може да настигат GPT-3.5 в ерата на GPT-4, може да има GPT-5 по времето, когато ще разполагаме с генерализирани LLM, които са сравними с GPT-4.5 Turbo.
Технологичният анализатор Джон Хауелс смята, че ресурсите не са единственият стандарт, който разделя LLM с отворен от LLM със затворен код.
„Mistral разполага с огромно финансиране, страхотен екип и наскоро пусна модел с отворен код, който побеждава GPT-3,5“, пише той. „Те или подобна организация ще пуснат модел с отворен код на ниво GPT-4 до края на тази година.“
Mistral AI, френски стартъп, получи признание, след като пусна своя Mixtral LLM, който предлага по-добра производителност от GPT-3.5 в много случаи на използване.
В дискусия в една от темите съоснователят на Nous Research „Teknium“ направи важен, но философски извод. „Всяко увеличаване на възможностите на ОС (с отворен код) е нещо постоянно, което никога не може да бъде отнето от света, което може да се използва надеждно завинаги“, каза той. По принцип, докато има някакъв напредък в технологията на ИИ с отворен код, никоя компания не може да ограничи достъпа до нея.
Въведох заедно и мистрал, нито една от страните не се сърди за това fwiw. Но в този пост той беше казал, че нито един модел на операционна система няма да победи GPT-4, но GPT-4 ще бъде стара новина – вероятно тази година – не ни отне много време да победим 3.5, а главният изпълнителен директор на Mistral каза, че планира да пусне отворена версия на ниво GPT4…
– Teknium (e/λ) (@Teknium1) January 1, 2024
Открито или закрито? Един безкраен дебат
Дебатът за отворения и затворения код напомня на ранните битки за операционни системи между Windows и Linux. Сантяго Пино от ML School пише, че патентованите модели на изкуствен интелект могат да спечелят сред обикновените потребители, както направи Windows, но софтуерът с отворен код осигурява персонализация и контрол, които могат да бъдат изключително полезни за корпоративните потребители.
Пино подчерта, че много компании започват да експериментират с ChatGPT, но след това преминават към модели с отворен код, които могат да настроят и персонализират за своите специфични нужди и изисквания за съответствие с данните. Решенията с отворен код избягват обвързването с доставчика и осигуряват прозрачност, каза той.
„Затворените, патентовани модели могат да спечелят отделни хора, но повечето компании не искат да изпращат данните си на Microsoft или Google. Те искат контрол. Моделите с отворен код са отговорът“, каза той в туитър дни преди темата на Бернард да стане популярна.
Моделите с отворен код ще унищожат ChatGPT и Gemini.
Историята на големите езикови модели с отворен код е историята на Linux. Windows и Mac спечелиха потребителите, но Linux се превърна в операционната система на интернет.
Същото ще се случи и с ChatGPT, Gemini и моделите с отворен код. Затворени,… pic.twitter.com/fdmS1VNtqf
– Santiago (@svpino) December 22, 2023
Това мнение беше споделено в дебата за туита на Бернард от Sciumo Inc., компания за разработка на софтуер, която подчерта нишовия потенциал на моделите с отворен код: „(Моделите с отворен код) ще се конкурират там, където е важно: специфични за областта проблеми с данни и опит, които (OpenAI) не притежава.“
Фуркан Гьозюкара, компютърен инженер, известен с канала си в YouTube SECourses, също е сред хората с по-нюансирана позиция. В разговор с TCN той се съгласява с Бернар, като казва, че „само при конкретни задачи LLM с отворен код ще изпревари OpenAI“.
Гьозюкара дава пример с компания, която „обучава LLM върху (свои) собствени документи“. Да, OpenAI има възможност за персонализиране на GPT въз основа на конкретни инструкции и документи, но обработката на чувствителни данни на трети страни винаги е проблем. Тази загриженост беше потвърдена наскоро, когато стана ясно, че персонализираните GPT предават чувствителни данни на потребители от трети страни.
Ян Лекун, ръководител на отдела за разработване на изкуствен интелект на Meta и яростен защитник на отворения код, многократно е заявявал, че „моделите на основата на изкуствен интелект с отворен код ще унищожат затворените и патентовани модели на изкуствен интелект“. Google, друг гигант в областта на изкуствения интелект, също признава заплахата, която представлява ИИ с отворен код: „Моделите с отворен код са по-бързи, по-настройваеми, по-частни и килограм за килограм по-способни“, се казва в изтекъл меморандум на Google през 2023 г.
Предстои да видим дали моделите с отворен код ще се равняват или ще надминат GPT-4 и бъдещите итерации през тази година. Въпреки това гледните точки на експертите от двете страни разкриват интригуващо напрежение. Моделите със затворен код може да имат предимство по отношение на ресурсите и бързата итерация, но инструментите с отворен код се развиват бързо, предлагайки постоянни възможности и възможност за персонализация. Засега общността на изкуствения интелект може да наблюдава развоя на състезанието и да се наслаждава на ползите от използването на най-добрите налични технологии.
