Claude API、1回に送れる量を128MBに　大きな資料を分けずに渡せる

米Anthropicは10月28日、Claude APIで1回のリクエストに載せられる量の上限を、Messages APIとToken Counting APIで32MBから128MBに上げた。4倍の大きさになり、画像やPDFを多く含む会話や長い資料を、分けたり外に置いたりせずに1回で送れる場面が広がる。ただし対象はAnthropicが直接提供するAPIだけだ。Amazon Bedrockなどのクラウド経由で使う場合は、今も上限が小さいままになっている。

上限が32MBから4倍に

Claude Platformのリリースノートによると、引き上げたのは、Claudeに会話を送る「Messages API」と、送る前にトークン数を数える「Token Counting API」の上限だ。どちらも1回のリクエストで最大128MBまで送れるようになった。リリースノートは対象を「first-party Claude API」と書いており、Anthropicが直接提供するAPIだけに当てはまる。

ほかのAPIの上限は変わっていない。APIの概要のページによると、多数のリクエストをまとめて非同期で処理する「Message Batches API」は256MB、ファイルを先に預けて何度も使う「Files API」は500MBだ。Anthropicが運営するエージェントの実行基盤のSessions、Agents、Environmentsの各APIは32MBのままになっている。上限を超えると、APIは413の「request_too_large」のエラーを返す。

大きな入力を1回で送れる

上限が効くのは、リクエストの中身が大きくなる使い方だ。画像やPDFをbase64という文字の形に直してリクエストに埋め込むと、元のファイルより大きくなる。スクリーンショットを何枚も貼る会話や、長いPDFを丸ごと読ませる処理では、これまでの32MBに届くことがあった。

こうした場合、開発者はリクエストを分けるか、ファイルをFiles APIに先に上げて参照する形に直してきた。今回の引き上げで、その手直しをせずに1回で送れる範囲が広がる。Token Counting APIも同じ128MBになったので、大きなリクエストのトークン数を、送る前に同じ大きさのまま数えられる。

大量の処理を急がない場合は、Message Batches APIの256MBの上限も使える。同じ資料を何度も送るなら、Files APIで一度預ける方が送る量は減る。

クラウド経由は上限が小さい

注意が要るのは、Claudeをどこから呼んでいるかだ。同じページによると、パートナーが運営する基盤は独自の上限を持つ。Amazon Bedrockは20MB、Google Cloudが運営するClaude Models on Google Cloudは30MBだ。

Anthropicが運営するクラウド経由の窓口も、今回は対象に入っていない。Claude Platform on AWS、Anthropicが運営するClaude Models on Google Cloud、Microsoft Foundryは、Messages APIとToken Counting APIの上限が32MBのままだ。Anthropicは、それぞれの基盤の文書で今の値を確かめるよう求めている。

つまり、同じClaudeのモデルを呼ぶ処理でも、経路によって送れる量が4倍以上違うことになる。手元ではAnthropicのAPIで動いた処理が、本番でBedrockを使うと413で止まる、という食い違いが起こり得る。

Anthropicが直接提供するClaude APIでは、1回に送れる量が128MBになり、大きな入力を分けずに渡せる範囲が広がった。ただしその恩恵を受けるのは、Anthropicの直接のAPIを使う開発者に限られる。

編集部の見方

編集部は、今回の引き上げを「上限の数字そのものより、経路ごとの差を見直す機会」と見る。128MBはAnthropicの直接のAPIだけの値で、Bedrockは20MB、Claude Platform on AWSなども32MBにとどまる。画像やPDFを多く扱うアプリを作る読者は、開発と本番で同じ経路を使っているかを確かめ、本番の経路の上限でテストしておくとよい。同じ資料を繰り返し送るなら、Files APIに預ける作りの方が上限に左右されにくい。クラウド経由の窓口がいつ128MBに揃うかは、まだ示されていない。