オフライン監視(事後監視)とは | 要求ごとに止めるのではなく、行動の型を後から見る

意味

AIのモデルには、危険な要求を止める分類器が入っています。従来の使い方はリアルタイム遮断——要求が来るたびに判定し、危険と見なせばその場で断る。Anthropicの言い方を借りれば、「要求のたびに、潜在的に有害なアクセスを拒否する」形です。

オフライン監視は、これを後ろにずらします。要求は通す。代わりに、複数の要求・セッションにまたがる行動の型を、後から見る。「オフライン」は回線が切れているという意味ではなく、応答の流れの外で(=その場ではなく)判定する、という意味です。日本語では事後監視と呼ぶのが近い。

2026年9月17日、Anthropicが生命科学検証プログラム(LSVP)でこの切り替えを明記しました。深刻な悪用は、検出を避けるために多数の要求やセッションに分散して行われることが多い。だから遮断からオフライン監視へ移すと、行動の型として悪用をより明確に見つけられ、正当な作業の中断も減る、と(詳細)。

リアルタイム遮断と、何が違うのか

遮断は、要求を一つずつ見ます。「この質問は危険か」。長所は、危険な出力がそもそも出ないこと。短所は二つ。正当な作業が見た目で止まること(ワクチン研究と悪用は途中まで同じ質問になる)。そして、分散した悪用は一つひとつが無害に見えるので通ること。

オフライン監視は、型を見ます。「この組織のこの数週間の使い方は、申告した用途の範囲か」。長所は、遮断の短所の裏返しです。正当な作業を止めにくく、分散した悪用を捕まえやすい。短所も裏返しで、危険な出力が一度は出ること、そして見るための記録が要ること。

だから両者は、置き換えではなく組み合わせです。LSVPでも、サイバーの分類器など生命科学以外の遮断は残ります。緩めた領域だけを、事後の型で見る。「止める場所をなくすのではなく、止め方を組み替える」と読むのが正確です。

代償——記録と、事後

記録。後から見るには、見るものが残っていなければならない。Anthropicは、LSVPのトラフィックに30日のデータ保持を必須にしました。保持データは隔離し、訓練に使わず、生命科学の研究チームも見られない、と。一方OpenAIは8月、対象APIでデータ不保持を続けつつ、社員が中身を見ないまま複数のやりとりをまたぐ兆候を見つける方式をプレビューしました(詳細)。向きは同じで、保持するかどうかで分かれています。利用者にとっては、提供条件の違いとして比べられる差です。

事後。型が見つかったとき、すでに要求は通っています。LSVPでは、見つけたら組織の管理者に知らせ、事前に合意した期限内に対処してもらう——これをAnthropicは「共有責任」と呼びます。監視する側が止めるのではなく、通した相手に返す。だから、緩めてもらう組織の側に、対処できる体制があることが前提になります(検証済みアクセスとは)。

そして、いちばん大事な代償は実績がまだないことです。「型で見るほうが分散した悪用を捕まえやすい」は設計上の主張で、2026年9月の時点で、何件を捕まえたかは公表されていません。当サイトの物差しでは、これは主張であって、まだ論証ではない(安全ケースとは)。

実務では、どう効くか

緩めた枠を使う側。オフライン監視の枠に入るとは、記録を残すことと、見つかったら自分で対処することを受け入れることです。申請前に、社内規程と顧客契約が保持を許すか、期限内に動ける担当がいるかを決めておく。

社内でAIを配る側。この考え方は、そのまま社内に持ち込めます。要求のたびに止める(禁止ワード、承認フロー)だけでは、正当な仕事が止まり、分散した逸脱は通る。誰が、何の用途で、どう使い続けているかのログを残し、申告との差を定期的に見る。見つけたら本人ではなく管理者に返す。止め方を組み替える、の社内版です(権限設計のガイド)。

読む側。「監視しているから安全」は、「遮断しているから安全」と同じく主張です。何を、どの頻度で、誰が見て、見つけたときに何が起きたか——それが公表されて初めて、確かめられる形になります。

関連する用語とレビュー

検証済みアクセスとは / 安全ケースとは / 思考の流れの監視とは / 監査とは / デュアルユースとは / AnthropicのLSVP(レビュー) / OpenAIのデータ不保持と監視(レビュー) / AI用語解説トップ