Cloudflareの抽出モデルClairic、出力トークンの料金なしで値を型どおりに返す

Cloudflareは日本時間10月20日未明、文書や画像から金額、日付、名前などの値を抜き出す新しい種類のモデル「Clairic」を発表した。Workers AIの上で、@cf/cloudflare/clairicという名前で試験的に使える。文章を1語ずつ書くLLMとは違い、入力を1回読むだけで全部の項目に答えるので、料金は入力の分だけで、出力のトークンには払わない（会社の申告）。重みは「近く公開する」とだけ書いている。

LLMにJSONを返させる手間が減る

読者にとっての得は、LLMに「請求書の番号と金額と期日をJSONで返して」と頼んでいる処理を置き換えられる点だ。LLMの答えは、JSONとして壊れていたり、数字を1けた読み違えたり、本文のどこから取ったか分からなかったりする。そのため多くの人が、形の検査や再試行を何段も重ねている。

Clairicは、項目ごとに型を決めて頼む。文字列なら入力の何文字目から何文字目か、数値なら小数の桁まで型どおりに返す。見つからない項目は、それらしい値をでっち上げずに空（null）で返し、値がない確率と確信の度合いも付ける。項目の数に上限はなく、30項目を頼んでも3項目とほぼ同じ費用だという（会社の申告）。

Cloudflareは、この種のモデルを「System One」と呼ぶ。心理学者ダニエル・カーネマンの言う、速く直感で答える考え方になぞらえた名前だ。1か月前に別の会社TypeSafeが、選択肢ごとの確率を返す判断用のモデルJevを出し、この呼び方を広めた。Cloudflareの判断用モデルClefも同じ型で、Clairicはそこに「値を返す」型を足した形になる。同社は、Clairicが値を作り、Clefが決め、LLMが言葉にする、という分け方を勧めている。

書いていない値も計算や推定で返す

本文にそのまま書いていない値も扱う。ブログの例では、客からのメールにある商品代649ドルと税52.10ドルを足して支払額701.10ドルを返し、届いた日と書いた日から経過日数の11日を出した。似た物件の売値から家の値段を推定する時は、真ん中の値と80%の幅を返す。

画像も4枚まで渡せる。斜めに撮った読みにくいレシートの写真から、注文番号、日時、数量、単価、小計、チップを抜き出し、値引きの欄は「ない」と空で返した例を載せている。

時系列の予測もできる。米運輸保安局（TSA）が空港で検査した人数を21日続けて翌日分だけ予測させたところ、外れは平均3.3%で、21日のうち17日は実際の数が80%の幅に入ったという（会社の申告）。外れた4日のうち3日は祝日の連休で、Cloudflareは「数字に表れない行事は読めない」と書いている。

3つのモデルを並べた速さと費用、苦手な所

Cloudflareは、壊れた商品の問い合わせに答える流れを2通りで比べた。Clairicで値を抜き、同社の判断用モデルClefで返金か修理かを決め、最後の返事だけをLLMのGLM-5.3に書かせた流れは19.3秒で終わった。全部をGLM-5.3でやると61.7秒かかった。100万件あたりの費用は6032ドルと1万1740ドルで、49%安いという（いずれも会社の申告）。比べたのは同社の用意した1つの流れで、ほかの仕事で同じ差が出るかは分からない（編集部の読み）。

今の版は早い段階のものだと同社自身が書く。合計や差、日付の引き算のような1〜2段の計算は確かだが、何段も続く計算や、表の多くの行をまとめる計算はまだ苦手だという。値を抜くのはClairicに任せ、計算はコードでやるよう勧めている。80%の幅も、慣れないデータでは狭く出ることがあるとしている。

呼び出しは、Workersの中ならenv.AI.run()、外からならREST APIでできる。

編集部の見方

エージェントの中でLLMに一番多く頼んでいるのは、考えることより、決まった形で値を抜くことかもしれない。そこを型の決まったモデルに分ければ、壊れたJSONを直す処理も、毎回変わる答えに悩む時間も減る。ただし今は試験版で、重みもまだ出ていない。自分の請求書や問い合わせのデータで、確信の度合いがどこまで当てになるかを先に確かめたい。