【解説】Codexの軽い作業をGPT-6.1 Terraに替えるといくら浮くか

OpenAIが新しく出したGPT-6.1 Terraは、APIの単価がGPT-6.1 Solのちょうど半分になっている。OpenAIの料金表で、入力・出力・キャッシュされた入力のどれを見ても半額だ。Codexでファイルの整理やテストの下書きのような軽い作業を大量に回している人は、その分だけをTerraに替えると、APIで払う額はほぼ半分になる。ここでは、どのくらい浮くのかを料金表の数字で試算する。

料金表の数字を並べる

料金表の標準の料金（100万トークンあたり、短い文脈の場合）は次のとおりだ。

• GPT-6.1 Sol: 入力2ドル、キャッシュされた入力0.10ドル、出力10ドル
• GPT-6.1 Terra: 入力1ドル、キャッシュされた入力0.05ドル、出力5ドル

キャッシュを書き込む時の料金も、30分の保持でSolが2.50ドル、Terraが1.25ドルと半分になっている。急がない処理をまとめて流すBatchではTerraの入力が0.50ドル、出力が2.50ドルになり、標準のSolの4分の1で済む。逆に、速く返すFastの料金ではTerraでも入力2ドル・出力10ドルと、標準のSolと同じ額になる。

料金表の同じ欄には、上位のGPT-6 Astra（入力10ドル・出力50ドル）と、さらに軽いGPT-6 Luna（入力0.10ドル・出力0.50ドル）も並んでいる。TerraはSolとLunaの間に入り、Solの半分、Lunaの10倍という位置になる。Astraと比べると単価は10分の1だ。

1作業あたりで試算する

Codexのような道具は、作業のたびにリポジトリのファイルや前のやりとりを読み込むので、入力が出力よりずっと多くなりやすい。ここでは例として、1作業で入力20万トークンを読み、そのうち8割がキャッシュに当たり、出力が2万トークンだと置いてみる。この数字は試算のための仮の値で、実際の作業の量は人によって大きく違う。

Solの場合、キャッシュに当たらない入力4万トークンが0.08ドル、キャッシュに当たった16万トークンが0.016ドル、出力2万トークンが0.20ドルで、合わせて約0.30ドルになる。Terraでは同じ量で約0.15ドルだ。1日100回こうした作業を回すなら、1日あたり約15ドル、30日で約440ドルの差になる。

費用の大半は出力が占めている。出力の単価が10ドルから5ドルに下がるのが、いちばん効く部分だ。

同じ作業を、すぐに結果が要らない夜間の一括処理としてBatchで流せるなら、Terraでは約0.074ドルまで下がる。標準のSolの約4分の1だ。テストの下書きをまとめて作る、ログをまとめて要約するといった、待てる作業ほど差が大きくなる。

キャッシュに当たる割合が下がると、入力の費用が増える。たとえば同じ20万トークンの入力で、キャッシュに1割しか当たらなければ、Solでは入力だけで約0.36ドルかかる。この場合もTerraは半分なので、浮く割合は変わらないが、浮く額そのものは大きくなる。

プランで使う人は「枠」が伸びる

ChatGPTのPlusやProのプランでCodexを使っている人は、トークンごとにお金を払っていない。この場合、Terraに替えて変わるのは支払いではなく、同じ利用枠でこなせる作業の数だ。OpenAIの発表では、TerraはGPT-5.6 Terraより多くの作業ができ、GPT-6.1 Solと比べると「かなり多く」こなせるとしている。ただ、枠が何倍になるかの数字は示されていない。

試算どおりにならない場合

単価が半分でも、作業が失敗してやり直しになれば、その分だけ費用は戻ってくる。Terraでの1回目がうまくいかず、2回流すことになれば、Solを1回使った時と同じ額になる。OpenAI自身も、最も複雑なコーディングの作業にはSolかGPT-6 Astraのほうが向くと書いている。

逆に、Terraが少ないトークンで作業を終えるなら、浮く額は試算より大きくなる。OpenAIは、自社の評価で前の版より少ない費用で高い点を出したと説明しているが、第三者の検証はまだ出ていない。

もう1つの注意は、文脈の長さだ。ここで使った単価は短い文脈の場合のもので、料金表には長い文脈の欄が別にある。大きなリポジトリを丸ごと読ませるような作業では、単価が変わる可能性があるので、自分の作業がどちらに当たるかを先に確かめておきたい。

Terraに替える作業の選び方

作業ごとにSolとTerraを振り分ける時は、「失敗した時にすぐ分かるか」と「やり直しが安いか」の2点で見ると決めやすい。試験が通るかどうかで結果がはっきり分かる作業や、出てきたものを人が一目で確かめられる作業は、Terraに回しても困りにくい。反対に、間違いに気づくのが後になる設計の変更や、いくつものファイルにまたがる直しは、単価が高くても上位のモデルに任せたほうが、結局は安く済むことがある。迷う作業は、まずTerraで1回流し、だめならSolに回す順番にしておくと、無駄が小さい。

編集部の見方

替える候補は、名前の置き換え、決まった形の修正、テストの下書き、ログの要約のように、失敗しても手戻りが小さい作業だ。設計の判断や込み入った直しはSolに残しておきたい。まずは自分のリポジトリの軽い作業を数本、SolとTerraの両方で流して、やり直しの回数と使ったトークンの数を比べると、自分の場合にいくら浮くかが分かる。