過剰拒否(over-refusal)とは | AIが害のない要求まで断ってしまうことと、止めすぎと通しすぎのあいだ

意味

過剰拒否は、英語のover-refusal。overrefusalとも書きます。AIのモデルには、危険な要求を断るための訓練や、要求と応答を見張る分類器(安全策)が入っています。その安全策が、危ない要求と見た目の似た、普通の要求まで止めてしまう。これが過剰拒否です。

断るだけではありません。答えはするが、必要以上の注意書きや、説教めいた前置きを付ける。これも同じ問題として数えられます。2026年10月のGPT-6のシステムカードは、害のない要求を断ること、そして「過剰な、あるいは決めつけるような注意書き」を付けることが減った、と書いています。

統計の言葉でいえば、偽陽性(false positive)です。危なくないものを、危ないと判定する。反対の、危ないものを危なくないと判定する偽陰性が、通しすぎにあたります。

なぜ起きるのか、なぜ問題なのか

起きやすいのは、正当な作業と危ない作業が、途中まで同じ質問になる領域です(デュアルユースとは)。脆弱性を見つけて直す作業と、悪用する作業。病気の仕組みを調べる研究と、危険を高める試み。自傷について知りたい人と、手助けを求める人。要求の文面だけでは区別がつかないので、安全策を強めるほど、普通の要求も巻き込まれます。

問題は、止まったものが正当な仕事だということです。利用者は言い回しを変えて何度も試すか、別のサービスに移ります。とくにセキュリティでは、守る側の仕事が止まる。Anthropicは2026年10月、一般向けのClaudeはサイバーの作業の多くを止める控えめな安全策のままだとしつつ、安全なコーディングでの誤検知を減らす作業を続けている、と書きました(レビュー)。止めすぎが課題だと、提供元自身が認めている例です。

減らすための、二つの方向

モデルと安全策を賢くする。文面だけでなく、会話の流れや文脈から、本当に危ない要求かを見分ける。GPT-6のブログは、一回の要求だけでは見えないリスクを、会話の履歴や文脈から見つけるよう訓練した、と書いています。Anthropicは7月、Claude Opus 5でサイバーの安全分類器の介入がFable 5比で約85%減ったと説明しました(レビュー)。

相手を確かめて、線を動かす。文面で区別できないなら、誰が頼んでいるかで区別する。審査を通った相手にだけ、制限を緩める形です(検証済みアクセスとは)。2026年10月のAnthropicのサイバー検証プログラムは三段に分かれ、段で許されるはずの作業が止められたら報告できる窓口も用意しました。

止めすぎと通しすぎは、同じ線の両側

大事なのは、過剰拒否を減らすことがそれだけで良いことではない点です。線を緩めれば、断りすぎは減りますが、通しすぎは増えやすい。2026年10月7日のGPT-6のシステムカードは、正当な要求への役立ち方は前のモデルより良くなったが、いくつかの安全の要求では点が下がった、と同じ文で書いています。当サイトは、線が答えやすさの側に動いた例として読んでいます(レビュー)。

読む側にとっての教訓は単純です。断りすぎが減ったという主張と、安全の評価が上がったという主張は、別々です。片方だけが発表文に書かれていたら、もう片方をシステムカードで探す(システムカードとは)。止めすぎの数字と通しすぎの数字が両方そろって、はじめて線がどこへ動いたかが分かります。

実務では、どう効くか

止められた記録を残す。社内でAIを使っていて、正当な仕事が断られたら、その要求と状況を記録しておく。事故は起きれば見えますが、止めすぎは記録しないと見えません。提供元に報告する窓口があれば使う。

断られなかったことを、安全の証明にしない。モデルの更新で断りにくくなることがあります。AIが答えたから問題ない、とは言えない。社内のAI利用ガイドラインには、AIの判断と社内の判断を分けて書いておく(AI利用ガイドラインの作り方)。

モデルが変わったら、いつもの依頼を流し直す。同じ依頼でも、モデルの版で断る・断らないが変わります。業務でよく使う依頼を数本決めておき、更新のたびに試すと、線の動きが手元で分かります。

関連する用語とレビュー

検証済みアクセスとは / デュアルユースとは / システムカードとは / フェイルクローズとは / GPT-6が無料版を含む全員に(レビュー) / Anthropicのサイバー審査が三段に(レビュー) / AI用語解説トップ