Claude Codeを30万トークンで引き継ぐ前後　1回の費用37%減、週の合計41%増

SAGUSは10月5日、Claude Codeの会話が30万トークンに達したら、引き継ぎのメモを書いて新しいセッションに移る運用を始めた。その前と後の各7日間の会話記録を同じ方法で数えると、メインのAIの1回の応答あたりの費用は約37%下がった。ところが応答の数が2.8倍に増え、週の合計はむしろ約41%増えた。1回ごとの費用は下がったが、週の合計は仕事の量に左右された。

費用は読み直す量で決まる

Claude Codeは、応答のたびにそれまでの会話をまとめてモデルに送り直す。AnthropicのClaude Codeの費用を抑える方法の文書は、トークンの費用は文脈が大きいほど増えると書き、関係のない作業に移る時は会話を消して始め直すよう勧めている。

送り直す部分の多くは「プロンプトキャッシュ」（一度送った会話の前半を保存して再利用する仕組み）から読まれる。Anthropicの料金表によると、Claude Opus 5.5の通常の入力は100万トークンあたり4ドル、キャッシュからの読み込みは0.20ドル、1時間保存するキャッシュの書き込みは8ドルだ。読み込みは安いが、会話が長いと毎回の量が大きくなる。

SAGUSは開発にClaude Codeを使い、メインのセッションはOpus 5.5を100万トークンの文脈の設定で動かしている。運用を変える前の1週間（9月28日〜10月4日）を数えると、メインのセッションの文脈は中央値で27.3万トークン、上位1割は64.5万トークンあった。

30万トークンで次のセッションへ

SAGUSは10月5日、2つの仕組みを入れた。1つは、文脈が30万トークンを超えると、画面の下端の「ステータスライン」を赤くする設定だ。ステータスラインの説明文書のとおり、この表示は自分で書いたスクリプトで作れる。

もう1つは、引き継ぎのメモを書き、新しいセッションを開いてメモを渡すコマンドだ。10月6日からは2段階にした。30万トークンでは今の作業を終えたら引き継ぐよう促し、45万トークンを超えると次の区切りで引き継ぎを始めさせる。新しいセッションは、メモと規約だけを読んだ短い文脈から作業を続ける。

閾値は、導入前の1週間の記録に当てはめて決めた。30万トークンで切れば、メインの費用は約2割減ると見込んだ。20万トークンまで下げても上乗せはメインの費用の約3%にとどまり、引き継ぎの回数が増える割に得るものが少ないため見送った。

1回の応答の費用は37%減

比べたのは、運用を始める前の9月28日〜10月4日と、10月23日〜30日の各7日間だ。SAGUSの開発用のMac 1台の会話記録から、応答ごとのトークン数を数えた。同じ応答が記録に何度も書かれるため、応答のIDごとに1回だけ数え、料金表の単価でドルに換算した。

Claude Codeの会話記録は、1つの応答を書き終えるまでに同じIDの行を何度も残す。途中の行では出力のトークン数がまだ小さいので、IDごとに出力が最大の行を完成形として数える。SAGUSが9月に重複を除かずに30日分を足した時は、約4700ドルと出た。数え直すと約2323ドルで、ほぼ倍の差があった。

メインのセッションのOpus 5.5の1回の応答あたりの費用は、0.119ドルから0.076ドルに下がった。約37%の減少で、導入前に見込んだ約2割を上回る。文脈の中央値は27.3万から11.2万トークンに、上位1割は64.5万から17.2万トークンに縮んだ。導入前はメインの応答の39.5%が30万トークン以上で、メインの費用の6割を占めていた。導入後は、30万トークン以上の応答が0.5%になった。

1時間以上空けて再開した時の書き直しも減った。Claude Codeのプロンプトキャッシュの説明文書によると、保存の期間を過ぎた会話は、再開の時に全体を処理し直す。この書き直しにかかった費用は、7日間で127ドルから28ドルになった。

週の合計はかえって増えた

ただし、週の合計は減っていない。同じ方法で数えた、料金表に単価のあるモデルの費用は、1339ドルから1883ドルへ約41%増えた。メインの応答の数が6522回から1万8137回へ2.8倍になり、セッションの数も378から1304に増えたからだ。

費用の内訳も変わった。メインのOpus 5.5の費用のうち、キャッシュの読み込みは53%から30%に下がり、書き込みは32%から55%に上がった。1回の応答あたりの書き込みは約4800から約5200トークンでほぼ変わらず、読み込みが大きく減った分だけ、書き込みの比重が上がった。

同じ期間に、SAGUSでは短い作業を1つずつ受け持つセッションが増えた。仕事の中身が変わったので、1回あたりの減少をすべて30万トークンの運用の効果とは言えない。数えたのは料金表で換算した額で、定額プランの使用枠が同じ割合で減るかは公開の資料で確かめられていない。

会話を30万トークンで切り替える運用は、毎回読み直す量を減らしたと見られる。その効き目は1回の応答の費用に表れ、週の合計は仕事の量で決まる。

編集部の見方

編集部は、会話の長さの効き目は週の合計ではなく、1回の応答あたりの費用で測るべきだと見る。30万トークン以上の応答が4割から0.5%に減り、1回あたりの費用が37%下がった一方で、週の合計は仕事の量で41%増えたことが、それを示している。自分の環境で試すなら、まず会話記録のトークン数を応答のIDごとに1回だけ数え、文脈の大きさの帯ごとに費用を出すとよい。ただし、作業の量が週ごとに大きく変わる環境では、合計だけを比べても効果は見えない。