Codexで推論の強さを途中で変えてもキャッシュが残る　長い作業の入力代と待ち時間が減る

OpenAIのコーディングエージェントCodexで、会話の途中に推論の強さを変えても、それまでのキャッシュが外れなくなった。CodexとChatGPTを担当するTibo氏（@thsottiaux）が10月23日（米国時間）にXで明かした。難しい所だけ推論を強め、簡単な所は弱める使い方をしても、それまでの会話を読み直す分の入力代と待ち時間がかさみにくくなる。

投稿で明かされたこと

Tibo氏の投稿は、小さな更新をまとめて伝えるもので、Codexの部分は次の2つだ。

• Codexなどで推論の強さを会話の途中で変えても、キャッシュが外れなくなった（原文は「changing reasoning in codex & work mid conversation」）
• Codex CLIも更新した

この記事を書いた時点で、キャッシュの扱いが変わったことを書いた公式の変更履歴やお知らせは見当たらない。どのモデル、どの使い方（CLI、アプリ、IDEの拡張など）で効くのかも、投稿には書かれていない。

なお、10月23日（協定世界時）に出たCodex CLIの0.164.0では、/modelのコマンドにモデル、推論の強さ、速さを続けて書き、その場で切り替えられるようになった。

切り替えでキャッシュが外れる理由

OpenAIのプロンプトキャッシュの手引きによると、キャッシュは前回と頭から同じ部分（指示、道具の定義、それまでの会話）の計算を使い回す仕組みで、途中で中身や設定が1か所でも変わると、そこから後は使い回せない。手引きは、推論の強さの設定を変えると、見えない所にある指示が書き換わることがあると説明している。

そのうえで手引きは、GPT-6系のモデルでは、最初の推論の強さの設定はそのままにして、会話の後ろに「設定の更新」を足せば、それまでの部分のキャッシュを残したまま推論の強さを変えられるとしている。Codexが同じ仕組みを使っているかどうかは、投稿では触れていない。

入力代にどれだけ効くか

手引きによると、GPT-5.6以降のモデルでは、キャッシュから読んだ入力は通常の入力の0.1倍の単価で済む（GPT-6.1 Solは0.05倍）。キャッシュへの書き込みは、既定の30分の保持で通常の1.25倍かかる。同じ前置きを1回書き込んで9回使い回すと、10回分の入力は通常の2.15倍で済み、キャッシュが無い時の10倍と比べて大きく下がる。

長い会話の途中で推論の強さを変えるたびにキャッシュが外れると、そこまでの会話をもう一度書き込み直す形になる。今回の変更が投稿どおりなら、この書き込み直しが要らなくなる。ChatGPTのプランでCodexを使う人にとっては、料金ではなく使用量の上限の減り方と、返事が始まるまでの時間に効いてくるとみられるが、どれだけ変わるかの数字は出ていない。

APIで使う人には別の注意もある。手引きによると、キャッシュから読んだ入力も、1分あたりに使える入力の量の上限には数えられる。キャッシュで代金は下がっても、上限に当たりやすさは変わらない。

使い方で気を付けること

推論の強さを変えてもキャッシュが残るなら、計画を立てる所や原因の分からない不具合を追う所だけ推論を強め、決まった書き換えは弱めて進めるやり方を、遠慮なく取りやすくなる。一方で、手引きはモデルそのものを変えるとキャッシュの扱いも変わり得るとしており、モデルを替える時まで同じとは限らない。会話の要約（コンパクション）でもそれまでの部分が置き換わり、キャッシュが効きにくくなる。

効いているかを確かめたい人は、APIなら応答の使用量にあるキャッシュから読んだ入力の数を、切り替えの前後で比べるとよい。Codexの画面で使う人は、推論の強さを変えた直後の返事が、前より早く始まるかどうかが目安になる。

編集部の見方

Claude CodeやCodexで長い作業を回す人にとって、推論の強さは「高くすると賢いが遅くて減りが早い」つまみだった。途中で変えるとキャッシュまで捨てる形だったなら、最初に決めた強さのまま走らせるのが無難だった。今回の変更が投稿どおりなら、場面ごとに強さを上げ下げする使い方が割に合うようになる。ただ公式の変更履歴にはまだ載っておらず、対象のモデルや画面も分からない。使用量の減り方を見て、自分の作業で確かめてから頼るのがよい。