AIに「席」が用意され、安全策の置き場所が問われた週

先に、取りこぼしについて

OpenAIのDevDay 2026(9月29日)を、当サイトは公表当日から先週末まで扱えていませんでした。取りこぼしです。原因は手順の側にあり、当サイトの確認手順が、OpenAIの日本語版(/ja-JP/)の住所で出た発表を拾えていませんでした。手順は直しました。

影響を一つ書いておきます。10月1日のGemini 4 Argonの記事で、Argonの導入価格をGPT-6 Solと比べました。Argon発表の前日(9月29日)に、同じ価格($2/$10)のGPT-6.1 Solが出ていました。比べた結論(同額)は変わりませんが、比べる相手は6.1 Solのほうが適切でした(10月1日の記事)。

論点1: AIに「席」が用意された

OpenAIはdotsを「非常に高い能力を持つ常時稼働のエージェント」と書きます(常時稼働エージェントとは)。GPT-6 Astraで動き、専用のクラウドコンピューターを持ち、4,000以上のアプリに接続でき、目標に向けて24時間働く。ChatGPT・Slack・Teamsから話しかけられ、テキストメッセージにも近日対応、と。文書には、この席の作り方がそのまま比喩になっています。dotsは「新入社員に用意するものとほぼ同じ環境を備えて仕事を始めます」——アクセスと権限のための専用のID、クラウド上のコンピューターと専用ブラウザー。

席には、ルールが付いています。プロアクティブリサーチ——利用者が直接やり取りしていない間もバックグラウンドで役立つことを探すが、読み取り専用のツールに限り、メッセージの送信や変更や操作はできない。自動レビュー——アカウントに影響する操作や情報を共有しうる操作を、利用者の指示・カスタムルール・安全要件に照らして確かめ、そのまま進めるか、承認を求めるか、本人がやるべきかを判断する。カスタムルール——特定の操作を許可・承認必須・ブロックに設定できる。監視——安全上の懸念を検出すると作業を一時停止または中止できる。パスワードの変更など一部は、必ず本人が行う。そして、「dot は間違えることもあるため、重要な影響を伴う作業は必ず確認してください」。

企業向けには専門dotもあります。企業が各dotに固有のIDと認証情報を設定し、必要なシステムへのアクセスを与える。OpenAI社内では調達・請求書処理・カスタマーサポートなどで初期テスト中で、Microsoftと組んでAgent 365のガバナンス機能との統合を進めている、と。dotsは対象地域のPro・Business Premiumから順次、Enterpriseは管理者が有効にするとベータ、専門dotは企業向けの限定プレビューです。

同じ週、Anthropicは席の人の側に1億ドルを置きました。Claude Frontier Academyは、2027年末までに1万人のFrontier Deployed Engineer——企業の中でClaudeを着想から本番のシステムまで運ぶ技術者——を育てる。医師の研修をなぞり、模擬の企業導入(用途選びからセキュリティ審査、引き継ぎまで)で採点し、合格者は12週間、自社で実際の案件を率いて、もう一度評価される。最初の組にはAccenture、Bain、Deloitte、McKinseyなどの技術者がいる、と。コンサルティング会社が多く、自社だけでなく顧客企業の現場に運ぶ人も含まれます。

当サイトはこの二つを、同じ席の両側として読みます。dotsは「席に座るAI」を、Academyは「席を作る人」を用意しようとしている。そして席を作るとは、権限の線引きを先に決めることです。dotsの文書が並べた「読み取り専用」「承認必須」「ブロック」「一時停止」は、当サイトが9月30日の用語解説で書いた起動・承認・停止の三か所(フェイルクローズとは)の、承認と停止にあたります。書かれていないのは起動の側——監視が動いていないときにdotが動かないのか、動き続けるのか。承認待ちに応答がないときの扱いも書かれていません。席の安全策が壊れたとき、どちらに倒れるかは、今週の文書にはありません。

論点2: 安全策は、扉に付いている

今週、OpenAIとGoogleから四つの安全の文書が出ました。並べると、安全策がどこに付いているかで分けられます。

訓練の内側。9月28日の安全ケースの型は、監視や自動停止のような安全機能をフェイルクローズにし、適切な監視なしには実行を始められないように、と書いた(詳細)。9月20日の事故で自動停止が働かず2.5時間動き続けた場所と、同じ場所を指す項目です(対応関係は当サイトの読み)。ただし文書自身が目指す理想と位置づけ、実装中です。

提供の段。Gemini 4 Argonは、審査つきの防御側から出し、防御側と社内にはサイバーのガードレールなしで渡す予定。広く出す前に、思考の連鎖と行動を監視して必要なら止める仕組みなど、四つの安全策を強める、と(詳細、段階的提供とは)。誰に渡すかで、安全策の量を変える形です。

事故のあと。豪州への謝罪は、起きたことと並んで、いつ伝えたかへの謝罪でもありました。発見から通知まで約4週間、公表まで約6週間。「暫定的な結果をもっと早く共有し、事実が判明するたびに更新すべきだった」(当サイト訳)と自ら書いた(詳細、事故報告とは)。

推論そのもの。そして9月30日、OpenAIは保護された推論を抜き取る組織的な活動を7月に遮断したと公表し、その危険をこう説明しました。抜いた推論で別のモデルを訓練すれば、元のモデルの出力に施された安全策を保たないまま訓練できる(詳細、蒸留とは)。

四つを並べると、上の三つは主に、出力と提供条件の側——扉の側——の安全策です(Argonの監視は思考の連鎖や内部活性も見ますが、守る対象は提供するモデルの振る舞いです)。訓練で監視して止める、渡す相手を選ぶ、事故を早く伝える。そして四つ目で、提供元自身が抜いた推論で訓練すれば、出力に施した安全策は保たれないと書きました。当サイトの言葉で言えば、扉の安全策は、推論という設計図には付いていない。論点1のdotsも同じで、承認ルールも監視も、dotの出力と行動の側に付いています。当サイトは、今週を「安全策の置き場所が、一つの週にそろって書かれた週」と読みます。扉を固める文書は増えた。設計図を守る文書は、当サイトの見る範囲で、まだ少ない。

論点3: 価格は揃い、違いは「段」と「速さ」に移った

9月29日のGPT-6.1 Solは、エージェント型コーディング・コンピューター操作・専門業務でGPT-6 Astraに迫る性能を、Astraの標準料金の5分の1で出す、と書きます。API価格は入力$2・出力$10/100万トークン(Astraは$10/$50)、キャッシュ済み入力は$0.10。DeepSWE v1.1で、約5分の1のコストでAstraと同等、と。ただしChatGPTでは仕事向けのChatGPT WorkとCodexでの提供で、「Chat ではまだ利用できません」。最も難しい科学研究にはAstraを推奨、とも書いています。

翌日のGemini 4 Argonの導入価格も$2/$10でした(期間後は$4/$20)。Googleの最新のフロンティアモデルと、OpenAIの中位の最新版が、同じ値札に並んだ。違いは値札の外にあります。段——6.1 SolはAPIと、Plus・Pro・Business・Enterprise・EduのChatGPT Work/Codexに初日から(Chatはまだ)、Argonは審査つきの防御側からで、一般提供の日付なし。速さ——OpenAIはUltrafastを広げ、GPT-6 Astra UltrafastをAPI(最大6倍)と、月額500ドルの新しいPro・EnterpriseのChatGPT Work/Codex(Codexで最大8倍)で(8月のUltrafast)。同じモデルを、速さで売り分ける。

もう一つ、お金の流れも動きました。OpenAI Marketplaceは、対象企業がOpenAIとの既存の契約額の一部を、AdobeやSalesforce、CrowdStrikeなど承認済みパートナーのソフトウェアに充てられる仕組み(ベータ)。AIの契約が、他社ソフトの購買の窓口にもなる。三つの線引きのうちお金の線引きが、提供元とパートナーの間に一本増えた形です。

当サイトは「AIの競争は性能から提供条件と統制設計へ」と書いてきました。今週はその「提供条件」の中で、価格の差が消え、段と速さに差が移った。当サイトが整理している四つの軸——Who / Release / Stop / Disclose(誰に出すか・どう出すか・どう止めるか・事故をどう伝えるか)——で見るほうが、値札より多くが分かる週でした。

今週の見立て

先週は「『安全です』を、疑える形に直しはじめた週」と書きました。今週は、「AIに席が用意され、その席の安全策がどこに付いているかが問われた週」です。

dotsは席を持ち、頼まれる前に動く。そこに付いた安全策——読み取り専用の範囲、承認ルール、監視による停止——は、扉の側の安全策です。同じ週に、抜いた推論で訓練すれば出力の安全策は保たれないと、別の文書でOpenAI自身が書いた。そして訓練の型は実装中、Argonの安全策は「強め続けている」、豪州の件は通知が遅かった。席は今週できたが、席の安全は、まだ主張の段階です。

実務に落とすと3つです。

ひとつ、AIに席を渡すなら、起動・承認・停止の三か所を先に決めること。dotsのように承認ルールと停止が用意されていても、監視が外れたときに止まるか動き続けるかは、自分で確かめるしかありません(フェイルクローズとは、常時稼働エージェントとは)。

ふたつ、値札ではなく、段と速さと期間を添えて試算すること。$2/$10は二社で同じでも、使える段、使える日、導入期間の後の価格が違う(段階的提供とは)。

みっつ、自社のAIの出力を外に出すなら、その扱いを規約で先に決めること。出力や推論の要約は、設計図の一部です(蒸留とは)。

来週見るもの

第一に、dotsの対象地域と、日本。「対象地域」に日本が入るか、Enterprise管理者向けの設定が何を既定にしているか。そしてSystem Cardに、監視が外れたときの挙動が書かれているか。

第二に、10月6日のシドニーの議会委員会。OpenAIの幹部が出席予定。通知の遅れについて何が問われ、何が答えられるか。

第三に、GPT-6.1 SolのChat提供と、Argonの一般提供の日付。同じ値札の二つが、いつ誰の手に届くか。

第四に、蒸留の帰属。OpenAIが根拠を出すか、相手側が何か言うか。

第五に、Academyの最初の修了者と、Anthropicの次の評価者。席を作る人が育つ速さと、席の安全を外から確かめる人が入る速さ。どちらが先か。

割り引いて読むところ

1. 数字は全て各社の自己申告です。6.1 Solの性能とコストはOpenAIが選んだ指標と条件で、競合の数字は公開資料からの引用。比較表には、Claude Fable 5.1のデータ点はタスクの約40%で発生したフォールバックの費用を含まないため実際のコストを過小評価している、という注記もあります。

2. dotsは提供が始まったばかりです。当サイトはdotsを使っておらず、承認ルールや監視が実際にどう働くかは、文書の記述によります。

3. 「扉と設計図」は当サイトの整理です。四つの安全の文書を同じ物差しで並べたのは当サイトで、各社がそう書いたわけではありません。

4. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今週はAnthropicの人材育成とOpenAI・Googleの製品・安全文書を並べました。Anthropicの1億ドルは育成の約束で、成果はまだありません。

今週の記事

OpenAIがオーストラリア政府に謝罪 / OpenAIが「訓練の前に安全ケース」の型を公開 / GoogleのGemini 4 Argonは、まず審査つきの防御側から / OpenAIが「組織的なモデル蒸留」を阻止したと公表

今週の用語解説: オフライン監視とは / 事故報告とは / フェイルクローズとは / 段階的提供とは / 蒸留とは / 常時稼働エージェントとは

今週の実務ガイド: AIエージェントの権限設計