Google Labs heeft een belangrijke upgrade aangekondigd van zijn Gemini Pro AI-tool – het middelgrote AI-model dat de gratis versie van zijn chatbot aanstuurt – met de introductie van de mogelijkheid om tot 1 miljoen tokens in preview te verwerken. Het biedt een ongekende “contextgrootte” die de huidige toonaangevende tools en hun 128K capaciteit in het stof laat vallen.
De upgrade naar Gemini Pro v1.5 maakt het in theorie 700% krachtiger dan het betaalde GPT-4-model van OpenAI en zet een nieuwe benchmark voor computationele linguïstiek en machine learning onder grote taalmodellen (LLM’s).
Het cijfer is “het langste contextvenster van alle grootschalige funderingsmodellen”, aldus Google.
“Tot vandaag was het grootste contextvenster ter wereld voor een openbaar beschikbaar groot taalmodel 200.000 tokens. We zijn in staat geweest om dit aanzienlijk te verhogen, tot 1 miljoen tokens consistent,” deelde het Google Labs-team.
Met deze functie zou Gemini Pro krachtiger zijn dan de krachtigste versie van de huidige Gemini-reeks en elke andere LLM die momenteel beschikbaar is. Deze context werd echter online gebracht voor testdoeleinden, terwijl de aankomende stabiele versie van Gemini Pro tot 128K tokens aankan.
Hoewel die versie een grote upgrade zal zijn ten opzichte van de 32.000 tokens die Gemini 1.0 kan verwerken, zullen gebruikers moeten wachten om te zien wat 1 miljoen tokens kunnen doen.
De stap is het nieuwste offensief van Google in de race om de AI-industrie te domineren. Vorige week werd Gemini Advanced de eerste geloofwaardige concurrent van ChatGPT Plus. In tegenstelling tot Anthropic’s Claude is Google’s chatbot multimodaal, levert hij goede resultaten in verschillende tests en biedt hij een aantal functies die OpenAI niet heeft.
Gemini Advanced zal echter GPT-4.5 Turbo, die al 128.000 tokens aankan, moeten inhalen.
De veelzijdigheid van Gemini 1.5 werd aanschouwelijk gemaakt tijdens verschillende demonstraties. Google zei dat het “enorme hoeveelheden informatie in één keer kan verwerken, waaronder 1 uur video, 11 uur audio, codebases met meer dan 30.000 regels code of meer dan 700.000 woorden”.
“In ons onderzoek hebben we ook met succes tot 10 miljoen tokens getest”, voegde het team eraan toe.
Eén tekortkoming: Gemini-modellen kunnen geen PDF-bestanden analyseren, een tekortkoming waar TCN op wees in haar vergelijking tussen Gemini en ChatGPT.
‘Mixture of Experts’ is hier om te blijven
Een ander verschil tussen Gemini 1.5 en de vorige versies is het gebruik van Mixture of Experts, dezelfde technologie die Mistral AI gebruikte om zijn lichtere model te maken. De nieuwkomer van Mistral was krachtig genoeg om GPT 3.5 te verslaan en door te stoten naar de bovenste regionen van de beste open-source LLM’s.
“(Mixture of Experts) routeert je verzoek naar een groep kleinere ‘expert’ neurale netwerken zodat antwoorden sneller en van hogere kwaliteit zijn,” deelde Google in zijn aankondiging, waarin het zei dat dit ervoor zorgt dat antwoorden niet alleen sneller maar ook van hogere kwaliteit zijn.
Net als Mistral was Google in staat om zijn model te laten schitteren. Gemini 1.5 Pro liet in verschillende benchmarks superieure prestaties zien in vergelijking met Gemini Ultra 1.0, wat duidt op een veelbelovende toekomst voor Google’s LLM’s.
“Het laat dramatische verbeteringen zien over een aantal dimensies en 1.5 Pro bereikt vergelijkbare kwaliteit als 1.0 Ultra, terwijl het minder compute gebruikt,” zei Google CEO Sundar Pichai vandaag in een blogpost.
De aankondiging bevatte geen tijdlijn voor de release van Gemini Advanced 1.5. Ondertussen werkt OpenAI actief aan de ontwikkeling van GPT-5. De verbeterde token-handling mogelijkheden van Gemini zullen Google’s positie in de AI-wapenwedloop helpen versterken.
