Labs Google oznámily významný upgrade svého nástroje Gemini Pro AI – středně velkého modelu AI, který pohání bezplatnou verzi jeho chatbota – a zavádí možnost zpracovat až 1 milion tokenů v náhledu. Poskytuje tak bezprecedentní „velikost kontextu“, která nechává současné přední nástroje a jejich kapacitu 128K v prachu.
Díky upgradu na verzi Gemini Pro v1.5 je teoreticky o 700 % výkonnější než placený model GPT-4 společnosti OpenAI a stanovuje nové měřítko pro počítačovou lingvistiku a strojové učení mezi velkými jazykovými modely (LLM).
Podle společnosti Google jde o „nejdelší kontextové okno jakéhokoli rozsáhlého modelu nadace“.
„Před dnešním dnem bylo největší kontextové okno na světě pro veřejně dostupný velký jazykový model 200 000 tokenů. Podařilo se nám ho výrazně zvýšit – trvale běží až na 1 milion tokenů,“ sdělil tým Google Labs.
Díky této funkci by Gemini Pro byl výkonnější než nejvýkonnější verze současné řady Gemini – a než jakýkoli jiný v současnosti dostupný LLM. Tento kontext však byl uveden do provozu pro účely testování, zatímco nadcházející stabilní verze Gemini Pro bude zvládat až 128 tisíc tokenů.
Zatímco tato verze bude představovat výrazný upgrade oproti 32 000 tokenů, které dokáže zpracovat Gemini 1.0, na to, co dokáže 1 milion tokenů, si uživatelé budou muset počkat.
Tento krok je nejnovější ofenzivou společnosti Google v závodě o dominanci v odvětví umělé inteligence. Minulý týden se Gemini Advanced stala prvním věrohodným konkurentem ChatGPT Plus. Na rozdíl od Clauda od Anthropicu je chatbot společnosti Google multimodální, poskytuje dobré výsledky v různých testech a nabízí sadu funkcí, které OpenAI nemá.
Gemini Advanced však bude dohánět GPT-4.5 Turbo, který již zvládá 128 000 tokenů.
Všestrannost Gemini 1.5 byla názorně předvedena prostřednictvím několika ukázek. Google uvedl, že „dokáže zpracovat obrovské množství informací na jeden zátah – včetně 1 hodiny videa, 11 hodin zvuku, kódových databází s více než 30 000 řádky kódu nebo více než 700 000 slov“.
„V rámci našeho výzkumu jsme také úspěšně otestovali až 10 milionů tokenů.“ Tým dodal
Jeden nedostatek: Na tuto chybu upozornil TCN ve svém srovnání Gemini a ChatGPT.
„Směs expertů“ tu zůstane
Dalším rozdílem mezi Gemini 1.5 a jeho předchozími verzemi je použití Mixture of Experts, stejné technologie, kterou použila společnost Mistral AI k vytvoření svého odlehčeného modelu. Účastník společnosti Mistral byl dostatečně výkonný na to, aby porazil GPT 3.5 a přeskočil do horních pater žebříčku nejlepších open-source LLM.
„(Mixture of Experts) směruje váš požadavek na skupinu menších „expertních“ neuronových sítí, takže odpovědi jsou rychlejší a kvalitnější,“ sdělila společnost Google ve svém oznámení s tím, že tím zajišťuje nejen rychlejší, ale také kvalitnější odpovědi.
Stejně jako u modelu Mistral se společnosti Google podařilo, aby její model zazářil. Gemini 1.5 Pro vykázal v několika benchmarcích lepší výkon než Gemini Ultra 1.0, což naznačuje slibnou budoucnost pro LLM společnosti Google.
„Vykazuje dramatické zlepšení v řadě dimenzí a verze 1.5 Pro dosahuje srovnatelné kvality s verzí 1.0 Ultra, přičemž využívá méně výpočetního výkonu,“ uvedl dnes na blogu generální ředitel společnosti Google Sundar Pichai.
V oznámení nebyl uveden časový plán vydání verze 1.5 Gemini Advanced. Mezitím společnost OpenAI aktivně vyvíjí GPT-5. Rozšířené možnosti Gemini v oblasti práce s tokeny pomohou posílit pozici společnosti Google v závodech ve zbrojení umělou inteligencí.
