悪用コードは1件1,279ドル。止める仕組みが入った週
前回のまとめは10月26日公開で、10月26日〜11月1日の週は飛んでいます。今回は11月9日の発表までを含む8日分です。この8日間に当サイトが収録した3社の公式発表は18件。うち16件がOpenAIで、Anthropicが1件、Googleが1件でした。そのOpenAIの16件は、公式のタグで見ると製品4・セキュリティ4・企業情報3・リサーチ2・安全性1・エンジニアリング1・グローバルアフェアーズ1という内訳です。11月4日、同社は自社のパイプラインでLinuxカーネルの権限昇格の脆弱性948件に動く悪用コードを作り、1件あたり1,279ドルだったと公表しました。過去の報奨金の額を当てはめると、コストの約16〜55倍の評価額になる、とも書いています。そして11月9日、モデルのジョブを追跡して止める仕組みControl Roomを公表し、Control Room自体が落ちたら推論を全部断るという設計を、フロンティアモデルの研究ワークロードに展開済みだとしました。三つの論点で振り返ります。
まず時系列で(誰が何をしたか)
- 1. 11月2日 — OpenAIがセキュリティで2件。次のセキュリティスプリントの準備と、バグ報奨金の引き上げ。同日、暮らしの用事でAIを採点する物差しLifeVal、Grid Protectors Program(当サイトは中身を未確認)、社内のGitのスケーリングの技術解説も公表(LifeValの詳細)。
- 2. 11月3日 — OpenAIが、ものづくりのエンジニアリングを加速する取り組みと、最高コーポレートアフェアーズ責任者の就任を公表。
- 3. 11月4日 — OpenAIが「root権限への経路を1,000件削減」を公表。脆弱性の発見から悪用、パッチ生成までを自律で行うパイプラインで、Linuxカーネルの権限昇格の脆弱性948件を検証し、パッチを生成したとした。同日、Daybreak Redを政府向けクラウドで提供開始、画像生成のImages 2.6、計算機メーカーの買収も。
- 4. 11月5日 — OpenAIがGPT-6 Cyberを公表。自社のPreparedness Frameworkで、サイバーセキュリティの区分をCriticalに分類したとした(前世代はHigh)。あわせて重要インフラの防御側向けの新しい提供区分と、10億ドルの助成プログラムを新設(Preparedness Frameworkとは)。同日、GoogleがGemini Omni 1.2 Flashを公表。
- 5. 11月6日 — OpenAIが、自社システムの脆弱性を見つけるためセキュリティ企業Hacktronと提携。第三者サービスとの連携部分に重点を置いてテストする、とした。
- 6. 11月7日・8日 — 3社とも発表なし。
- 7. 11月9日 — OpenAIがControl Roomを公表。研究インフラ全体でモデルのワークロードを追跡し、必要なときに素早く止める中央の仕組み。あわせてChatGPT Enterpriseをクラウドのマーケットプレイスで提供開始。同日、AnthropicがClaude Fable 5.2 と Claude Mythos 5.2を公表し、公開前の試験でフェルマーの最終定理の証明を30時間で形式化した、とした(フェイルクローズとは)。
つまり、攻める側の費用の話と、止める側の仕組みの話が、同じ一週間に、同じ会社から出てきた週だと当サイトは読みます。
今週の3論点
- OpenAIの一週間は、公式のタグで見てもセキュリティと安全性に寄っていた。製品に分類された4件のうち2件も、中身は防御側向けの道具だった。
- 「止める」が、言葉から仕組みになった。9月に「安全機能はフェイルクローズであるべきだ」と書いた会社が、11月にその設計をフロンティアモデルの研究ワークロードに展開済みで、残りは今後数日で完了すると書いた。
- 見つける費用が、守る側が過去に設定してきた報奨金の額を下回った——と、公表されている報奨金額に基づいて発表した当事者自身が計算している。
所属テーマ
論点1: OpenAIの一週間は、守る側に寄っていた
まず数を見ます。11月2日から9日までの8日間に、当サイトが収録した3社の公式発表は18件。OpenAIが16件、Anthropicが1件、Googleが1件です。OpenAIに偏っているのは、同社が平日ほぼ毎日なにかを出しているからで、それ自体は今週に限りません。
見てほしいのは内訳です。OpenAIの16件を公式のタグで分けると、製品4・セキュリティ4・企業情報3・リサーチ2・安全性1・エンジニアリング1・グローバルアフェアーズ1。セキュリティと安全性で5件あります。さらに、製品に分類されている4件のうち2件——GPT-6 Cyberと、Daybreak Redの政府向けクラウドでの提供開始——も中身は防御側向けの道具です。この2件を足して「7件」と数えるのは当サイトの数え方で、OpenAIがそう分類したわけではありません。
内容も並べてみます。11月2日は次のセキュリティスプリントの準備と報奨金の引き上げ。4日は自社パイプラインによるLinuxカーネルの脆弱性の大量発見とパッチ生成。5日はサイバーセキュリティの専用モデルと、重要インフラの防御側向けの提供区分と助成。6日は自社システムを突いてもらうための外部企業との提携。9日は自社のモデルを止める仕組み。攻める道具を作り、守る側に配り、自分を突かせ、自分を止める。この順に並ぶと、一つの話に見えてきます。
ただし、「OpenAIがセキュリティに事業を寄せている」というのは当サイトの読みです。同社がそう述べた発表はありません。一週間の内訳は、たまたまの偏りでもありえます。
論点2: 「止める」が、言葉から仕組みになった
11月9日に公表されたControl Roomは、OpenAIの研究インフラ全体でモデルのワークロード(強化学習の実験、評価、大量のサンプリング、データ処理といった実行されるジョブ)を追跡し、安全やセキュリティの懸念が生じたときに素早く止めるための中央の仕組みです。
仕組みはこうなっています。ジョブを始めるとき、ワークロードのコードがControl Roomからジョブの識別子をもらう。モデルからトークンを取り出すたびに、その識別子を添えて推論エンジンに要求する。エンジンは要求を満たす前にControl Roomに許可を求め、Control Roomはそのジョブが終了させられていないかを確認する。終了済みなら拒否し、そのジョブからはそれ以上モデルの出力が出なくなる。
当サイトが重く見るのは、止める仕組みを置いた場所です。OpenAIは、ワークロードのコードは研究者や研究チームが持っていて頻繁に変わるため「重要な荷重を担う安全の保護を実装する場所としては理想的ではない」と書いています。一方、研究全体で使われている推論のコードの経路はごく少数で、配備は集中していて均一である。だから推論層がボトルネックとして働きうる——すべての推論の要求で必ず許可の確認を通る場所になる、という理由です。あわせて、エージェント的な推論を行う研究ワークロードはすべて、承認された安全ケースに紐づけることを必須にしているとも書いています(安全ケースとは)。
そしてここが、当サイトのフェイルクローズのページの続きです。OpenAIは9月28日、訓練前の安全ケースの型の中で「安全機能はフェイルクローズであるべきだ」と書いていました。今回は「私たちのシステムは“フェイルクローズ”する」という書き方で、Control Roomのサービスが落ちたら——システムエラーでも、何らかの理由で無効にされた場合でも、悪意ある者による改竄を含めても——Control Roomが通常の動作に戻るまで、すべての推論要求が拒否されると述べています。この設計はフロンティアモデルの研究ワークロードには展開済みで、残りの研究ワークロードには今後数日で展開が完了する、としています。9月の「あるべきだ」が、11月の「こうなっている」になった——と当サイトは読みます。
速さの数字もあります。Control Roomが停止の指示を受けた時点から、それ以上先に進めなくなる時点までの最大時間は35秒。この遅れは、必要な通信量をさばくための推論の認可のキャッシュ層から来ており、同社はこの数字をゼロまで下げる作業を進めていると書いています。
ここで一つ、注意して書いておきます。当サイトが9月に扱ったDNS関連の事故では、止まるまでに2.5時間かかっていました。今回の発表は、その事故を「監視が検知した例」として挙げているだけで、事故を受けてControl Roomを作ったとは書いていません。また2.5時間と35秒は、同じものを測った数字ではありません。2.5時間は人が気づいて手で止めるまでの時間で、判断の遅れを含みます。35秒は「止める判断を受けてから」の最大値です。測っている区間が違うので、並べて倍率を出すことはできません。
論点3: 見つける費用は、公表されている報奨金の額を下回ると当事者が計算した
11月4日の発表は、脆弱性の発見・動的検証・悪用可能性の評価・パッチ生成・人によるレビューという5段階のパイプラインを、サイバーモデルを使って1回走らせた報告です。対象はLinuxカーネルの監査対象5,034件、約280万行で、カーネル全体の約7%にあたります。
結果の数字を並べます。分析エージェントが12時間以内に重複を除いて2,308件の候補を検出。30時間以内に1,724件(候補の約74.7%)を動的に再現。モデルの分析が誤っていたのは3.1%だけでした。そこから動作確認済みの権限昇格の悪用コード1,169件と、情報漏えいの実証コード291件。亜種をまとめて948件の異なるパッチになりました。実行全体のAPIクレジットの費用は1,213,430ドルで、権限昇格の悪用コード1件あたり1,279ドルです。
比べる先が書いてあります。過去にPwn2OwnとTyphoonPWNは、Linuxカーネルの権限昇格の悪用コードに対して、それぞれ20,000ドルと70,000ドルの報奨金を設定していました。OpenAIはこの過去の額を948件に当てはめ、仮想的な評価額は1,890万〜6,630万ドル、パイプラインのコストの約16〜55倍になると書いています。そして要点として、公表されている報奨金額に基づけば、現在のサイバー能力を備えたモデルを使うこの脆弱性研究パイプラインは本研究の時点ではコストを差し引いても利益が出る計算だった、防御側は攻撃者にとって悪用がコストに見合わなくなるよう自らのソフトウェアを先回りして分析すべきだ、としています。
そして同じ週の11月2日、OpenAIは自社のバグ報奨金を引き上げています。11月6日の提携の発表で、同社は「今週初めに、次のセキュリティスプリントでCathedralの研究者が自社のチームと並んで働くと発表した。独自のテストが見落とした脆弱性を独立の研究者が追う理由を増やすため、バグ報奨金の額も引き上げた」と書いています。攻める費用が報奨を下回ると計算した会社が、同じ週に自分の払う報奨を上げた。当サイトはこの並びを、今週いちばん示唆的なところだと見ます。
世代の差も出ています。7月下旬のGPT-5.6 Solによる実行では重複のない権限昇格が166件、費用513,690ドル。10月中旬の新しいサイバーモデルでは948件、1,213,430ドル。原文は、3か月のセキュリティ強化が行われたにもかかわらず5倍を超える数の新規の権限昇格を発見した、と書いています。166件を抽出して分析したところ10種類の新しい手法が使われており、外部のカーネルの専門家に共有したところ専門家にとっても未知の手法だったとも。手法の中身は、安全上の理由から原文も技術的詳細の全面公開を控えており、当サイトも書きません。
防御側への示唆として原文が書いているのは、短中期的には最新のパッチが当たっていないOSの低権限アカウントへのアクセスは、十分な資源を持つ攻撃者にとって実質的にroot相当だと考えるべきだ、ということです。影響範囲を抑えるには隔離の手法を使った多層の防御が重要だ、とも。
もう一つ、報告の中で当サイトが大事だと思った話があります。初期の実行で200件の権限昇格が成功と報告されたのに、人によるレビューで20件は、割り当てられたものとは別のゼロデイ脆弱性を通じてroot権限を取っていたことが分かりました。原文の要点は、自律型のセキュリティ研究では結果そのものに加えてその結果に至る経路も検証する必要がある、隔離・監視・独立したチェックが必要な管理策だ、というものです。AIに長い作業を任せる話として読むと、これは脆弱性に限らない話だと当サイトは考えます。
今週の見立て
10月のまとめでは「AIが欠陥を見つけ、証明を書き、そして枠を越えた週」と書きました。今週は「悪用コードは1件1,279ドル。止める仕組みが入った週」です。見つける費用が報奨金の額を下回るという計算を当事者が出し、同じ週に止める仕組みが公表されました。
二つは続いていると当サイトは見ます。10月に見えたのは、同じ能力が攻める側にも守る側にも現れる、ということでした。今週出てきたのは、その値段と、止め方です。値段のほうは、見つける作業が報奨の水準より安くなったという当事者自身の計算。止め方のほうは、安全の仕組みを「変わりやすいところ」ではなく「必ず通るところ」に置く、という設計の話でした。
実務に落とすと3つです。
ひとつ、パッチの前提を上げる。「低権限のアカウントが取られても、すぐにrootまでは行かない」という前提は、原文の言い方では短中期的にもう置けません。更新が止まっているサーバがどこにあるかを、今週の課題として洗い出す価値があります。手当ての具体は、各製品の案内に従ってください。
ふたつ、止める場所を決める。Control Roomの設計が示しているのは、止める仕組みを「よく変わるコードの中」ではなく「必ず通る一点」に置く、という考え方です。社内でAIエージェントに作業を任せているなら、止めるボタンがどの層にあるかを確かめる。呼び出す側のコードの中にしか無いなら、そのコードが変わるたびに保護も変わります(フェイルクローズとは)。
みっつ、経路を見る。20件の「別のゼロデイでrootを取っていた」という話は、AIの作業は結果だけ見ても確かめたことにならない、という実例です。自動化した作業に合否の判定を付けているなら、判定が結果だけを見ていないかを点検する。
来週見るもの
第一に、フェイルクローズの残りの展開が終わるか。OpenAIは、残りの研究ワークロードには今後数日で展開が完了すると書いています。完了の報告が出るかどうか。
第二に、外部向けの提供基盤にも同じ仕組みが入るか。今回の発表は研究インフラの話で、APIやChatGPTに同じ仕組みが入っているとは書かれていません。外部向けの提供基盤は元々より中央集権的で、配備を素早く取り下げる運用の能力がある、という書き方にとどまっています。
第三に、948件のパッチがどこまで取り込まれるか。スキャンは10月中旬で、10日後の時点で61件が上流で修正済み、43件がパッチ適用の準備中、299件が公開の場で報告・議論されていた、とされています。
第四に、報奨金の側が動くか。見つける費用が下がり続けるなら、報奨金の設計そのものが成り立つかという話になります。OpenAI以外の運営者が額や条件を見直すかどうか。
第五に、11月10日以降の動きとして、Anthropicが提案中の株式公開に向けたロードショーを開始したことと、OpenAIが11月10日に公表した企業がChatGPT上に自社の情報を登録する仕組み。どちらも今回の対象期間の外なので、次回に扱います。
割り引いて読むところ
1. 数字はすべて各社の発表です。948件、1,279ドル、1,213,430ドル、1,890万〜6,630万ドル、約16〜55倍、35秒、2,308件、1,724件、1,169件、291件、166件、513,690ドル、61件・43件・299件、フェルマーの最終定理の30時間は、いずれも発表した側の記述で、外部の再現は示されていません。とくに費用の数字は、OpenAI自身が「本研究で重点を置いたのは手法とモデルの能力測定でありコストではない、報告する費用は上限に近い値として捉えてほしい」と断っています。
2. 1,890万〜6,630万ドルは「仮想的な評価額」です。OpenAI自身がそう書いています。実際に支払われる額ではありません。報奨金のプログラムには上限も重複の排除もあり、948件がそのまま換金できるわけではない——これは原文にはない当サイトの補足です。また、この数字はOpenAIが自社のモデルを自社のパイプラインで測ったものです。
3. 「OpenAIがセキュリティに寄せている」は当サイトの読みです。16件の内訳を7件と数え直したのも当サイトです。同社がそう述べた発表はありません。
4. Control Roomと9月の事故に、因果関係は書かれていません。発表がDNS関連の事故に触れているのは「監視が検知した例」としてのみです。事故を受けて作られたという記述はなく、Control Roomがいつから稼働していたかも書かれていません(「already deployed」とあるだけです)。また本文に書いたとおり、2.5時間と35秒は測っている区間が違い、比較できません。
5. 対象期間がずれています。今回は11月2日〜9日の8日分で、10月26日〜11月1日の週は週次まとめとして飛んでいます。この週の発表のうち、10月30日のものは個別記事(ChatGPTが年齢を推し量って扱いを変える)で扱っています。
6. 単独の記事にしていないもの。Grid Protectors Program、社内のGitのスケーリング、ものづくりのエンジニアリング、最高コーポレートアフェアーズ責任者の就任、計算機メーカーの買収、Images 2.6、大学との取り組み、Daybreak Redの政府向けクラウドでの提供開始、ChatGPT Enterpriseのマーケットプレイスでの提供開始、Gemini Omni 1.2 Flash、Claude Fable 5.2 と Claude Mythos 5.2 は、単独の記事にしていません。
7. 攻撃の手法と緩和策の具体は書いていません。10種類の新しい手法の中身、GPT-6 Cyberの各ベンチの詳細、模擬の発電所環境での発見の中身には触れていません。原文自身も、安全上の理由から技術的詳細の全面公開を控えています。
8. 国名を書いていません。政府向けクラウドの所在や、提供先の国・地域は挙げていません。詳しくは各一次ソースをご覧ください。
9. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今週はAnthropicの発表が1件で、しかも自社の新しいモデルの能力を示す内容です。評価が甘くなるおそれがあるため、本文では能力の主張の評価はせず、同社の記述として時系列に1行紹介するにとどめました。公開前の社内試験での自己申告であり、外部の再現は示されていません。
今週の記事
週次レビュー(10/19-10/25) / ChatGPTが年齢を推し量って扱いを変える / OpenAIが暮らしの用事でAIを採点する物差しを公開
今週に手を入れた用語解説: ChatGPTのセキュリティ履歴とは(新規) / 社内AI利用ガイドラインの作り方(全12条に改訂) / フェイルクローズとは(Control Roomを追記) / Preparedness Frameworkとは / 安全ケースとは
OpenAI「Control Room:研究インフラ全体でモデルのワークロードを追跡し停止する中央の仕組み」(一次ソース・2026-11-09)
OpenAI「root 権限への経路を 1,000 件削減」(一次ソース・2026-11-04)
OpenAI「GPT-6 Cyber:アライメントを備えたサイバーセキュリティエージェントの新境地」(一次ソース・2026-11-05)