GrokのAPI、依頼ごとに性・暴力・汚い言葉を断らせる指定が可能に

GrokのAPIで、依頼に「guidelines」を付けると、性的な内容・暴力の描写・汚い言葉の3つの分野をGrokに避けさせられるようになった。指定した分野だけ扱いが変わり、ほかの分野は今までどおり。Chat CompletionsとResponses APIで使え、APIを使う全員が対象だ。

記事の内容を自社でどう進めるか、内容が固まっていない段階でも相談できます。仕事の相談

毎週 1 回、その週の記事から 5 本と実践の 1 本を選んでメールで届けます。ニュースレターを購読する（無料）

3つの分野を「断る」に切り替える

Grokの開発者向け文書によると、guidelinesは配列で、1つの項目に「type」「category」「behavior」の3つを書く。typeはいつも「policy」で、categoryには分野を、behaviorにはその分野での振る舞いを入れる。今選べる振る舞いは「decline（断る）」の1つだけだ。

分野は3つある。「nsfw」を断るにすると、Grokは性的なほのめかしや会話を避ける。ただし、性に関する教育や医療の質問には答える。「violence」では生々しい暴力の描写を避けるが、歴史やニュースの話は細部を描かずに扱う。「profanity」では汚い言葉を使わずに書き、汚い言葉だけを求める依頼や、ひどく不快な依頼は断る。

指定しなかった分野は、モデルの既定の扱いのまま残る。だから変えたい分野だけを並べればよい。Grokは指定に沿って、自分の言葉で答えを書く。返ってくる答えの形は、guidelinesを付けない時と同じだという。文書は、各分野の扱いの細かい所は今後見直すことがあるとも書いている。

付けた依頼にだけ効く

使えるのはChat CompletionsとResponses API、それにxAIのPython SDKの「chat.create」だ。Chat Completionsでは、messagesと同じ階層にguidelinesを置く。OpenAIのSDKはguidelinesを知らないため、Pythonでは「extra_body」に入れて送る。JavaScriptのSDKは、ほかの引数と一緒にそのまま送れる。

guidelinesは、それを付けた1回の依頼にだけ効く。会話全体に効かせたい時は、毎回の依頼に付け直す必要がある。xAIのPython SDKでは、chat.createで指定すると会話に覚えられ、以後の呼び出しで毎回送られる。

使えない組み合わせとエラー

いくつかの依頼では使えない。「grok-4.20-multi-agent」のような複数のエージェントで動くモデルと、後で結果を受け取る「deferred completions」には効かない。サーバー側の道具もファイルの添付も無い依頼では、「stop」を指定した時と、「n」を2以上にした時も使えない。こうした依頼は、モデルが動く前にAPIが400で断る。

APIは、モデルを動かす前にguidelinesを確かめる。categoryかbehaviorに知らない値があれば422を返し、使える値の一覧を示す。同じ分野を2回書いた時と、typeがpolicyでない時は400だ。どちらの場合もモデルは動かない。xAIのPython SDKでは、知らない分野や振る舞いを書くと、送る前に「ValueError」になる。

個人の開発者への影響

GrokのAPIで子ども向けの学習アプリや、社内の問い合わせの窓口を作る人は、性的な内容や汚い言葉を避ける決まりを、プロンプトの文で頼むだけでなく、APIの指定として渡せるようになる。指定は依頼ごとなので、同じアプリの中でも、使う人や画面によって線引きを変えられる。

一方で、会話全体に効かせるには毎回付け直す必要がある。付け忘れた依頼は既定の扱いに戻るため、共通の呼び出し部分で必ず付ける作りにしておきたい。stopやnを使う呼び出しや、複数のエージェントで動くモデルに切り替えると400で止まる点も、今のコードと照らして確かめておく必要がある。

編集部の見方

今回の指定は「断る」の1つだけで、3つの分野をより厳しくする方向にしか動かない。それでも、内容の線引きをプロンプトの文ではなくAPIの欄で渡せるのは、誰が使っても同じ結果になりやすい点で意味がある。Grokを自分のサービスに組み込む人は、まず自分のアプリで避けたい分野をこの3つに当てはめ、共通の呼び出しに1行足すところから試すとよい。