Google AI – eine Abteilung des Suchmaschinenriesen – hat heute Gemma vorgestellt, eine neue Familie von Open-Source-Sprachmodellen, die aus der kürzlich veröffentlichten Gemini-Suite von KI-Tools stammen. Mit Gemma fordert Google direkt die führende Position von LLMs an, die auf Metas LLaMa und Mistral basieren.
„Wir haben eine lange Tradition in der Unterstützung von verantwortungsvoller Open Source und Wissenschaft, die einen schnellen Forschungsfortschritt vorantreiben kann“, schrieb Demis Hassabis, Mitbegründer von Google DeepMind, in einem Tweet. „Deshalb sind wir stolz darauf, Gemma zu veröffentlichen: eine Reihe von leichtgewichtigen, offenen Modellen, die für ihre Größe die besten ihrer Klasse sind und von der gleichen Technologie inspiriert sind, die für Gemini verwendet wurde.“
Gemini ist das Closed-Source, kommerzielle, multimodale LLMs, das kürzlich von Google veröffentlicht wurde, um PaLM-2 in seiner Suite von Online-Diensten zu ersetzen und direkt mit ChatGPT Plus von OpenAI zu konkurrieren.
Gemma ist in zwei Versionen erhältlich: Gemma 2B, ein leichtgewichtiges Modell, das mit zwei Milliarden Parametern trainiert wird, auf Effizienz optimiert ist und in einem breiteren Spektrum von Hardware ausgeführt werden kann, und Gemma 7B, ein robusteres Modell, das mit sieben Milliarden Parametern trainiert wird und bessere Ergebnisse liefert, aber mehr Rechenleistung erfordert.
„Wir bei Google glauben daran, dass KI für jeden hilfreich sein kann“, sagte Google in einer offiziellen Ankündigung und unterstrich damit seine Vision, die KI-Technologie zu demokratisieren.
Die Freigabe eines Open-Source-Modells wirkt sich zwar unmittelbarer auf KI-Entwickler und Software-Ingenieure aus, aber die Vorteile erreichen die Endnutzer erst, nachdem sie getestet, feinabgestimmt und in Produkte und Dienste eingebaut wurden.
„Während wir die Gemma-Modellfamilie weiter ausbauen, freuen wir uns darauf, neue Varianten für verschiedene Anwendungen einzuführen“, so das Unternehmen weiter.
In seiner Ankündigung ging Google auf die technischen und philosophischen Grundlagen von Gemma ein und erklärte, dass das Modell „mit unseren KI-Prinzipien an der Spitze entwickelt wurde“.
„Um das Risikoprofil der Gemma-Modelle zu verstehen und zu reduzieren, haben wir robuste Bewertungen durchgeführt, einschließlich manuellem Red-Teaming, automatisierten Tests mit Gegnern und Bewertungen der Modellfähigkeiten für gefährliche Aktivitäten“, hieß es.
Kurz nach seiner Veröffentlichung kletterte Gemma auf der oft zitierten Hugging Face-Rangliste schnell auf den zweiten Platz und schlug alle anderen Open-Source-LLMs und KI-Modelle – mit Ausnahme von Open Cascade von Stability AI, einer neuen generativen Text-zu-Bild-KI.
Reale Zahlen untermauern die behaupteten Fähigkeiten von Gemma: Es hat in mehreren synthetischen Benchmarks eine bessere Leistung als Meta’s LlaMa-2 gezeigt. So übertrifft Gemma beispielsweise LlaMa-2 in Tests wie MMLU (Wissen in 57 wissenschaftlichen Disziplinen), Hellaswag (Bewertung des grundlegenden logischen Denkens bei alltäglichen Aufgaben), MATH (Bewertung mathematischer Fähigkeiten) und HumanEval (Prüfung von Programmierkenntnissen).
Bild: Google
Entwickler, die Gemma testen möchten, können dies kostenlos über Kaggle tun, eine von Google entwickelte Plattform für Datenwissenschaft und künstliche Intelligenz. Das Unternehmen hat Gemma auch über Google Colab-Notebooks verfügbar gemacht und vergibt 300 Dollar an Gutschriften für erstmalige Google Cloud-Nutzer.
„Forscher können auch Google-Cloud-Guthaben von bis zu 500.000 Dollar beantragen, um ihre Projekte zu beschleunigen“, so Google.
