手元で動くコーディングモデルFlint　Claude Codeでも使える

Recursiveは日本時間10月21日、ノートパソコンで動かすコーディング用のモデルFlintを公開した。重みはApache 2.0で配り、総パラメーターは約400億、1トークンごとに動かすのは約25億だけという作りだ。Ollamaを通せば、1行のコマンドでClaude Codeから使える。同じ大きさの密なモデルに迫る性能で5倍以上速いという（会社の申告）。

記事の内容を自社でどう進めるか、内容が固まっていない段階でも相談できます。仕事の相談

毎週 1 回、その週の記事から 5 本と実践の 1 本を選んでメールで届けます。ニュースレターを購読する（無料）

400億のうち25億だけ動かす

Recursiveの発表によると、Flintは専門家を混ぜる形のモデルで、総パラメーターは約400億、1トークンを作るたびに動かすのは約25億にとどまる。Hugging Faceのモデルの説明では、総数は398億で、専門家は256のうち6つと、いつも動く1つを使う。動かす部分が小さいので、手元の機械でも速く回せるという理屈だ。

会社によると、自社の推論エンジンを使えば、M4 ProのMacBook Proで1秒に125トークンあまり、64GBのNVIDIA RTX Sparkで150トークンあまりを作れる。短い入力での数字で、同じ大きさの競合の最大2倍の速さだとしている（会社の申告）。

Flintは少人数とエージェントで4か月足らずでゼロから作ったという（会社の申告）。研究の案を出し、試し、次の手を決める自社の仕組みEureka Machineが、データや学習の手順から、量子化や手元の機械向けの計算の部品まで、ほぼすべての段に関わったと説明している（会社の申告）。4ビットに縮めたNVIDIA向けの版も、16ビットの元の版との差は同社の試験の全体で0.7点以内だという（会社の申告）。

性能の数字は会社の申告

性能の数字はすべて会社が測ったものだ。モデルの説明では、Terminal-Bench 2.1が54.9%、SWE-bench Pro v2が89.7%、SWE-bench Verifiedが74.2%である（会社の申告）。総数500億未満の専門家を混ぜる形のモデルの中では、エージェントのコーディングの試験で一番で、250億から400億の密なモデルに並びながら5倍以上速いという（会社の申告）。

比べた相手の点の多くは、それぞれの開発元が出した数字だと、モデルの説明自身が断っている。試験の条件もそろっていない。Ollamaのページも、会社の申告の結果で、試し方や動かす環境で点は変わると書き添えている。自分の手元のリポジトリで試すまでは、数字は目安にとどめたい（編集部の読み）。

会社自身も、大きな非公開のモデルより細かい指示が要ると認めている。複雑な仕事は小さく分け、はっきり指示を書くよう勧めている。モデルの説明は、作ったコードは必ず試し、道具を使わせる側のアプリで権限と実行の範囲を自分で縛るよう求めている。手元で動くからといって、何でも任せてよいわけではない。

Ollamaで試す道

Ollamaでは、ollama launch claude --model flintで、Flintで動くClaude Codeを立ち上げられる。OpenCodeなど、ほかのエージェントの起動のコマンドも並んでいる。Ollamaの版は23GBで、文脈の長さは256Kだ。

文脈の長さは資料で食い違う。発表は最大512kトークンまで扱え、256k以内を勧める。モデルの説明が書く設定は262,144トークンで、256kを二進数で数えた値だ。食い違うのは最大の512kの方である。長い仕事を任せるなら、勧められた範囲に収めるのが無難である。

llama.cpp、LM Studio、vLLM、SGLangでも動き、M4 ProやM5 Pro、M5 Max向けには自社の軽い推論の道具recも出した。16ビットの元の重みは約80GBあり、そのまま動かすにはB300かH200のGPUが1枚要る。ノートパソコンで使うのは、4ビットに縮めた版だ。

編集部の見方

Claude CodeやCodexの利用枠は、使い込むほど早く尽きる。Flintのように手元で動き、そのままClaude Codeにつなげるモデルが増えると、重い設計はクラウドの大きなモデル、単純な直しや試しは手元のモデルと、仕事を分ける選び方が現実味を帯びる。ただ点は会社の数字で、細かい指示が要るとも認めている。まずは捨ててよいリポジトリで、普段の仕事を1つ任せて比べるのがよい（編集部の読み）。