Google AI, een divisie van de zoekgigant, heeft vandaag Gemma onthuld, een nieuwe familie van open-source taalmodellen die zijn afgeleid van de onlangs uitgebrachte Gemini-suite van AI-tools. Met Gemma daagt Google direct de leidende positie uit van LLM’s gebaseerd op Meta’s LLaMa en Mistral.
“We hebben een lange geschiedenis in het ondersteunen van verantwoorde open source en wetenschap, die snelle onderzoeksvooruitgang kan stimuleren,” schreef Demis Hassabis, medeoprichter van Google DeepMind, in een tweet. “Dus we zijn er trots op Gemma uit te brengen: een set lichtgewicht open modellen, best-in-class voor hun omvang, geïnspireerd door dezelfde tech die gebruikt is voor Gemini.”
Gemini is de closed-source, commerciële, multimodale LLM’s die Google onlangs heeft uitgebracht om PaLM-2 te vervangen in het aandrijven van zijn suite van online diensten, in directe concurrentie met OpenAI’s ChatGPT Plus.
Gemma is beschikbaar in twee versies: Gemma 2B, een lichtgewicht model getraind op twee miljard parameters dat is geoptimaliseerd voor efficiëntie en kan worden uitgevoerd in een breder spectrum van hardware, en Gemma 7B, een robuuster model getraind op 7 miljard parameters, dat betere resultaten levert maar meer rekenkracht vereist.
“Bij Google geloven we in het nuttig maken van AI voor iedereen,” zei Google in een officiële aankondiging, waarin het zijn visie op het democratiseren van AI-technologie benadrukte.
Het uitbrengen van een open source-model heeft misschien directere gevolgen voor AI-ontwikkelaars en software-engineers, maar de voordelen bereiken eindgebruikers nadat ze zijn getest, verfijnd en ingebouwd in producten en diensten.
“Naarmate we de Gemma modelfamilie blijven uitbreiden, kijken we uit naar de introductie van nieuwe varianten voor diverse toepassingen”, voegde het bedrijf eraan toe.
Google’s aankondiging ging over de technische en filosofische fundamenten van Gemma en zei dat het model “is ontworpen met onze AI-principes op de voorgrond.”
“Om het risicoprofiel van Gemma-modellen te begrijpen en te verminderen, hebben we robuuste evaluaties uitgevoerd, waaronder handmatige red-teaming, geautomatiseerde adversarial tests en beoordelingen van modelcapaciteiten voor gevaarlijke activiteiten”, aldus het bedrijf.
Kort na de release klom Gemma al snel op de ranglijst van de vaak genoemde Hugging Face, bereikte de tweede plaats in de trending lijst en versloeg alle andere open source LLM’s en AI-modellen, behalve Open Cascade van Stability AI, een nieuwe tekst-naar-beeld generatieve AI.
Gemma’s beweerde bekwaamheid wordt ondersteund door echte cijfers: het heeft superieure prestaties laten zien ten opzichte van Meta’s LlaMa-2 in verschillende synthetische benchmarks. Gemma presteert bijvoorbeeld beter dan LlaMa-2 in tests zoals MMLU (kennis die 57 wetenschappelijke disciplines omvat), Hellaswag (basisredeneringen in alledaagse taken evalueren), MATH (wiskundige capaciteiten beoordelen) en HumanEval (codeervaardigheid testen).
Afbeelding: Google
Ontwikkelaars die Gemma willen testen, kunnen dat gratis doen via Kaggle, een platform voor datawetenschap en kunstmatige intelligentie dat Google heeft gebouwd. Het bedrijf heeft Gemma ook beschikbaar gemaakt via Google Colab-notebooks en geeft $300 aan credits voor nieuwe Google Cloud-gebruikers.
“Onderzoekers kunnen ook Google Cloud credits aanvragen van maximaal $500.000 om hun projecten te versnellen”, aldus Google.
