検索大手グーグルの一部門であるグーグルAIは本日、最近リリースされたAIツールのGeminiスイートから派生したオープンソースの新しい言語モデル群であるGemmaを発表した。Gemmaによって、GoogleはMetaのLLaMaとMistralに基づくLLMの主導的地位に直接挑戦することになる。
「グーグル・ディープマインドの共同設立者であるデミス・ハサビスは、ツイートで「私たちは、責任あるオープンソースと科学を支援してきた長い歴史があります。「Geminiに使用されたのと同じ技術にインスパイアされた、そのサイズでクラス最高の軽量オープンモデルのセットだ。
Geminiは、Googleが最近リリースしたクローズドソースの商用マルチモーダルLLMであり、PaLM-2に代わって同社のオンラインサービス群に搭載され、OpenAIのChatGPT Plusと直接競合している。
Gemmaには2つのバージョンがある： Gemma 2Bは、20億のパラメータで訓練された軽量モデルで、効率性を最適化し、より広範なハードウェアで実行できる。Gemma 7Bは、70億のパラメータで訓練されたより堅牢なモデルで、より良い結果を提供するが、より多くの計算能力を必要とする。
「グーグルでは、AIをすべての人の役に立つものにすることを信じています」とグーグルは公式発表で述べ、AI技術を民主化するというビジョンを強調した。
オープンソースモデルをリリースすることで、AI開発者やソフトウェアエンジニアはすぐに影響を受けるかもしれないが、その恩恵はテストされ、微調整され、製品やサービスに組み込まれた後にエンドユーザーに届く。
「Gemmaモデル・ファミリーの拡張を続ける中で、多様なアプリケーションに対応する新しいバリエーションを導入することを楽しみにしています」と同社は付け加えた。
グーグルの発表では、Gemmaの技術的・哲学的基盤が網羅されており、このモデルは “我々のAI原則を最前線に置いて設計されている “と述べている。
「Gemmaモデルのリスクプロファイルを理解し、低減するために、手動レッドチーム、自動敵対テスト、危険な活動に対するモデル能力の評価を含む、強固な評価を実施しました。
リリース直後、Gemmaはよく参照されるHugging Faceのリーダーボードで瞬く間にランクを上げ、トレンドリストで2位となり、Stability AIの新しいテキストから画像への生成AIであるOpen Cascadeを除く、他のすべてのオープンソースのLLMとAIモデルを打ち負かした。
Gemmaは、いくつかの合成ベンチマークにおいて、MetaのLlaMa-2よりも優れた性能を実証している。例えば、MMLU（57の科学分野をカバーする知識）、Hellaswag（日常的なタスクにおける基本的な推論を評価）、MATH（数学的能力を評価）、HumanEval（コーディングの熟練度をテスト）などのテストにおいて、GemmaはLlaMa-2を上回っている。
Image： Google
Gemmaのテストに興味のある開発者は、グーグルが構築したデータサイエンスと人工知能のプラットフォームであるKaggleを使って無料でテストすることができる。同社はまた、Google Colabノートブックを通じてGemmaを利用できるようにし、初めてGoogle Cloudを利用するユーザーには300ドルのクレジットを提供している。
「研究者は、プロジェクトを加速させるために、最大50万ドルのGoogle Cloudクレジットを申請することもできます」とGoogleは述べている
。
