本文へ移動

AI Buildersのための最新のニュース、知見、事例を毎日お届け

運営会社
モデルとAPI

OpenAIの「Decisions API」が一般提供に 小さな判断を最大10倍速く

米OpenAIは、分類や振り分けのような答えの決まった判断に絞った「Decisions API」を一般提供にした。GPT-6 Lunaを使い、Responses APIで同じモデルを呼ぶより最大10倍速いとする。料金は入力のトークンだけにかかる。

記事の内容を自社でどう進めるか、内容が固まっていない段階でも相談できます。仕事の相談

毎週 1 回、その週の記事から 5 本と実践の 1 本を選んでメールで届けます。ニュースレターを購読する(無料)

針の根元に小さな真ちゅうの羽が付いた、からし色のストップウォッチ

米OpenAIは2026年10月22日、アプリやエージェントの小さな判断に絞った「Decisions API」を一般提供にした。入力の分類、問い合わせの振り分け、次に何をするかの選択といった、答えの範囲が決まった問いに答える。GPT-6 Lunaを使い、Responses APIで同じモデルを呼ぶより最大10倍速いという。出力には料金がかからない。

エージェントの中で何度も起きる「続けるか、やり直すか」のような判断を、大きなモデルの呼び出しから切り離して安く速く回せるようになる。自分のエージェントで判断の待ち時間や費用がかさんでいる読者には、置き換えを試す価値がある。

答えの形は確率・選択・点数の3種類

OpenAIの発表によると、開発者は問いと、許す答えを決め、判断の材料を文字、画像、JSONのいずれかで渡す。返ってくる答えは3種類から選ぶ。

1つ目の「predicate」は、ある条件が当てはまる確率を0から1で返す。商品に目に見える傷があるか、といった問いに使う。2つ目の「choice」は、あらかじめ決めた選択肢から1つを選び、それぞれの確率と確信の度合いも返す。エージェントが続けるか、やり直すか、聞き直すかを選ばせる使い方が例に挙がっている。3つ目の「score」は、段階を決めた基準に照らして点を付ける。傷の重さの判定などに使う。

OpenAIの社内でも使っている。家計の管理の部署は取引の明細の分類に、広報の部署は報道をテーマごとに分け、伝えたい話を後押しするか逆らうかを点数にして、詳しく見るべき記事を選ぶのに使うという。

料金は入力のトークンにだけかかる

料金は入力の100万トークンあたり0.10ドルで、キャッシュに載った入力は100万トークンあたり0.01ドル。出力のトークンには料金がかからない。処理する地域は米国とEUを選べ、条件を満たす利用者は、データを残さない設定も使える。

公開の試用の期間から足した機能もある。1回の呼び出しで聞ける問いは400個になり、前の上限の2倍になった。同じ材料をくり返し使う時のキャッシュ、画像を問いの指示に入れる機能、JSONをそのまま渡す機能も加わった。音声の対話のGPT-Liveとも直接つながり、会話の途中で、聞き直すか担当に回すかといった判断をさせられる。アジアのいくつかの地域でも処理の能力を足したという。

GPT-Liveの例では、話し手の言葉が届くたびに、画面の中の人物の表情を「普通」「うれしい」「悲しい」「心配」から選ばせる。アプリは返ってきた答えを読んで、人物の顔を動かす。

先に使った会社は速さと安さを挙げる

発表には、先に使った会社の担当者の話が並ぶ。Boxは、仕事の書類を分類して次の手順に回すのに使い、保険の証明書の30件の評価で、Responses APIと同じ正しさのまま約5倍速く行き先を選べたとする。確信の低いものは人の確認に回すという。Datadogは、エージェントが作ったコマンドを実行する前に危なさを点数にする用途で使い、ほかの最先端のモデルと比べて、遅い方から5%の応答の時間が40分の1になったとする。Rampは、AIの費用を実際の仕事に割り当てる作業が、GPT-6 Lunaと比べて4倍速く、30%安くなったという。

Sierraは、顧客との会話の中で次の動きを選ぶのに使い、遅い方から5%でも280ミリ秒を切り、前のやり方より約3倍速く、1回あたりの費用は90%下がったとする。語学のSpeakは、GPT-Liveとの組み合わせで次の動きまでの時間が1.4秒から0.13秒に縮んだという。いずれも各社が自分で測った数字で、条件はそろっていない。

使い始めるには、専用の窓口でGPT-6 Lunaを指定する。OpenAIは、アプリがよく行う判断を1つ選び、問いと答えの候補と、見分けるのに要る材料を決めて、実際の使い方に近い例で試すよう勧めている。試す場所として、手持ちの文字や画像で確かめられる画面も用意した。

編集部の見方

Claude CodeやCodexでエージェントを組んでいる読者には、判断のたびに大きなモデルを呼んでいた所を切り出せるかが要点になる。答えの形が3種類に決まっている分、何を聞くかを細かく設計する必要があるが、出力に料金がかからないので、1回の呼び出しで多くの問いをまとめて聞く使い方ほど安くなる。速さの数字は各社が自分の用途で測ったもので、自分の判断でも同じ精度が出るかは、手元の例で確かめてから置き換えたい。

出典

に確認(日本時間)

  1. OpenAIの発表(openai.com)

この記事をシェア

この記事は役に立ちましたか