Google「EmbeddingGemma 2」を公開　コード検索を端末内で完結

米Googleは10月6日、文章や画像、音声を意味の近さで比べられる数値の列に置き換える「埋め込みモデル」の新版「EmbeddingGemma 2」を公開した。全体は7億4000万パラメーターで、文章とコードだけなら2億7000万まで絞れる。コード検索の成績は前の版から約14%上がり、ライセンスはApache 2.0だ。開発者は、コードベースの検索やコーディングエージェントの情報探しに使う埋め込みを端末内で作り、データを外に出さずに済むようになる。

文章用なら2億7000万で動く

Google DeepMindの研究エンジニアSahil Dua氏とHenrique Schechter Vera氏が書いたEmbeddingGemma 2の公式発表によると、新版は同社のオープンモデル「Gemma 4」を土台にする。2025年9月に出た初代EmbeddingGemmaの発表では、文章だけを扱う3億800万パラメーターのモデルだった。新版は文章、コード、画像、動画、音声を同じ空間に並べ、種類をまたいで検索できる。

EmbeddingGemma 2のモデルカードによると、7億4000万の内訳は文章の部分が2億7000万、画像が1億7000万、音声が3億だ。使う部分だけを読み込めるため、文章とコードの検索なら2億7000万で済む。一度に読める長さは8192トークンで、初代の4倍に広がった。対応する言語は100を超える。

出力は768次元で、「Matryoshka Representation Learning (MRL)」という学習法により512、256、128次元に縮めて使える。開発者向けガイドの試算では、768次元のベクトル100万件は約1.5GB、128次元なら約250MBになる。ただしモデルカードは、128次元まで縮めると画像や音声の検索の精度が大きく落ちると注意している。

コード検索は前版から14%向上

発表では、コードの検索の成績を測る「MTEB Code」の得点が、初代の68.76から78.68へ9.92ポイント上がった。率にすると約14%の向上だ。一方、Hugging Faceのモデルページの比較表では、多言語の文章検索を測るMTEBの得点は61.15から61.36で、ほぼ横ばいだった。

Googleは、10億パラメーター未満の多モーダルの埋め込みモデルの中で、MTEBや音声の評価「MAEB」で首位級の成績だと説明した。これらの数字は、いずれもGoogle自身が測ったものだ。

発表は用途として、手元のコードベースの索引づけ、意味によるコード検索、コーディングエージェントが関係するコードを探す処理を挙げた。つまり、エージェントに渡す前に関係する箇所を探す段を、小さなモデルで手元に置ける。

データを外に出さず作れる

Google AI Edgeでの使い方の解説によると、量子化した文章用の重みはGoogle Pixel 11 Proで約191MBのメモリで動く。全部入りでも約567MBに収まる。MacBookのM5 ProのGPUでは、画像1枚の処理が37.3ミリ秒だった。

発表によると、埋め込みを手元で作ればデータを外に出さずに済み、処理の待ち時間も縮む。モデルは通信なしでも動く。重みはHugging FaceとKaggleで配られ、sentence-transformers、Ollama、llama.cpp、vLLM、transformers.jsなど、開発者が使い慣れた道具に対応した。

使う時の注意もある。モデルカードは、検索の問いと文書にそれぞれ決まった前置きの文を付けるよう求め、付けないと精度が落ちるとした。float16では値があふれるため、bfloat16かfloat32で動かすよう勧めている。

クラウド版とは置き場所が違う

Googleは3月10日、文章・画像・動画・音声・PDFを扱うGemini Embedding 2の発表を出している。こちらはGemini APIとVertex AIで使うクラウドのモデルで、プレビューの段階にある。出力は標準で3072次元だ。

だがEmbeddingGemma 2は、重みそのものを配り、端末やPCの中で動かす用途を受け持つ。重みは公開され、文章とコードの検索は2億7000万パラメーターで端末内に収まる。

編集部の見方

編集部は、この発表を「コード検索を手元で組む時の、条件の明らかな候補が1つ増えた」と見る。メモリ量、次元ごとの保存量、精度の落ちる条件まで公開されており、試す前に向き不向きを判断しやすい。ただし成績の数字はGoogleが自分で測ったもので、比べた相手も10億パラメーター未満のモデルに限られる。コーディングエージェントの検索に入れるなら、自分のリポジトリで、今使っている検索と同じ問いを並べて当たり具合を比べるとよい。日本語のコメントや文書でどこまで精度が出るかは、発表からはまだ分からない。