OpenAIの「Decisions API」が正式版　出力は無料で入力は0.10ドル

米OpenAIは10月22日、文章を生成せず判断だけを返す「Decisions API」を正式版にした。答えに選択肢ごとの確率が付くので、問い合わせの振り分けで迷う件だけを人の確認に回す閾値を、自分のデータで決められる。料金は入力100万トークンあたり0.10ドルで、出力は課金されない。ただし同じgpt-6-lunaを通常の使い方で呼んでも入力の単価は0.10ドルで、安くなるのは出力の分だ。

答えは文章でなく確率で返る

OpenAIのDecisions APIのガイドによると、このAPIはテキスト・画像・JSONを受け取り、型の決まった答えだけを返す。答えの形は3つある。条件が当てはまる確率を0から1で返す「predicate」、渡した選択肢から1つを選ぶ「choice」、低い順に並べた2〜10段階の物差しで点を付ける「score」だ。

ガイドの例では、注文で二重に請求されたという苦情を、billing・technical・shipping・otherの4つの部署に振り分ける。答えはbillingで、確率はbillingが0.95、technicalが0.02と選択肢ごとに並ぶ。そこに確信度（confidence）0.93が付く。これらの数値は説明用の例だと、ガイドは断っている。

scoreは、段階の番号を確率で重み付けした平均を返す。不具合の深刻度を3段階で測る例では、各段階の確率が0.1・0.7・0.2で、点は1.1になる。答えが段階の間の値になるので、深刻さの順に並べやすい。

1回の要求には質問を1〜400個入れられ、同じ入力に複数の質問をまとめて聞ける。使えるモデルは、今のところ「gpt-6-luna」だけだ。

生成のAPIとは役割を分ける

ガイドは使い分けをはっきり書いている。型の決まった答えが要る時はDecisions、抜き出した欄や説明の文章を含むJSONを作らせたい時はResponses APIのStructured Outputs、モデルにツールを呼ばせたい時はfunction callingを使う。

入力には会話の履歴も渡せる。ユーザーのメッセージ、developerの指示、関数やカスタムツールの呼び出しと出力を順に並べ、文脈ごと評価させる。ツールの呼び出しは根拠として読むだけで、ガイドは「Decisionsは型の決まった答えを返し、その答えが選んだ処理はアプリが実行する」と書く。窓口へ回す処理を動かすのは、自分のコードだ。

前の答えに依存する判断は、要求を分けるよう求めている。写真の破損を先に確かめ、その結果を見てから修理の分類を聞く、という2回の呼び出しになる。

更新履歴によると、OpenAIは10月6日にベータとして出し、10月22日に正式版にした。質問数の上限はベータの200から400に増え、正式版ではキャッシュ、JSONの入力、質問の指示に入れる画像が加わった。

人に回す線は自分で引く

閾値の値を、ガイドは示していない。自分のアプリでラベルを付けた例を使い、振り分け・除外・人の確認の閾値を決めるよう求め、誤って通す損失と誤って止める損失を比べて選ぶよう説明している。predicateの例では、写真に目で見える破損がある確率として0.92を返し、選んだ閾値で人が見る写真に印を付ける。

分類に当てはまらない入力のために、「other」のような逃げ道の選択肢を入れることも勧めている。otherに落ちた件は、汎用の確認の列に送ればよい。

選択肢の書き方にも注意がある。valueとdescriptionはどちらもプロンプトに入るので、descriptionが同じでもvalueの文字列を変えると結果が変わり得る。UUIDのような記号でなく、意味の分かるラベルを付けるよう、ガイドは勧めている。

安くなるのは出力の分だけ

ガイドによると、gpt-6-lunaでのDecisions APIは、キャッシュの無い入力が100万トークンあたり0.10ドルで、出力トークンは課金されない。キャッシュの読み出しと書き込みは通常のgpt-6-lunaと同じ単価で、OpenAIの料金表では読み出しが0.01ドル、書き込みが30分で0.125ドル、12時間で0.25ドルだ。

同じ料金表で、gpt-6-lunaを通常に呼ぶと入力0.10ドル、出力0.50ドルになる。入力の単価は変わらず、差は出力の分だけだ。選択肢を1つ返すだけの振り分けなら、費用を左右するのは入力のトークン数のほうになる。

キャッシュが効くのは、繰り返し使う先頭部分が1,024トークン以上ある時で、質問の部分はこの数に入らないとガイドは書く。地域を指定した処理の割増と長い文脈の入力の倍率もかかるとガイドは書くが、Decisions APIでいくらになるかは示しておらず、料金表にもDecisions APIの行は無い。長い入力や地域の指定を使う時は、請求の実績で確かめる必要がある。

速さと精度は自社の主張だ

OpenAIはガイドと更新履歴で、Responses APIより約10倍速いと書く。何をどう測ったかは示しておらず、確率が実際の当たりやすさと合っているかを示す精度の数字もガイドに無い。

米Googleも11月11日付の公式ブログで、同じ種類の「Gemini Decisions API」を出した。入力は100万トークンあたり0.10ドルで出力は課金しない。1回の要求に1,000問まで入れられ、テキスト・画像・音声・動画・PDFを扱う。Googleは端から端まで150〜250ミリ秒で返り、エージェントの振り分けや順位付けなどのベンチマーク群で確率のずれ（calibration error）が最も小さいと書く。いずれもGoogle自身の評価だ。ブログのSDKの例は「v1beta」のバージョンを使っている。

両社を同じ条件で比べた資料は、まだ無い。判断をこのAPIに任せて変わるのは費用より、答えが確率で返り、自動で済ませる件と人が見る件の線を自分の例で引けるようになることだ。

編集部の見方

出力の無料より大きいのは、閾値を自分のデータで決める前提がAPIの形に入ったことだと編集部は見る。ガイドは閾値の値を示さずラベル付きの例で決めるよう求め、精度の数字も出していない。試すなら、過去の問い合わせに正解のラベルを付け、確率の帯ごとに当たった割合を数えてから閾値を決めるとよい。出力が短い振り分けでは料金の差は小さく、費用だけで乗り換える話ではない。両社が測り方を公開すれば、この見立ては変わり得る。