見る道具と、強い力の渡し先が、相手ごとに分けられた週
先週は「AIに『席』が用意され、安全策の置き場所が問われた週」でした。今週は、誰に何を渡すかが、道具ごと・相手ごとに分けて書かれた週です。OpenAIはChatGPTとCodexの文章の透かしをEU域内に限り、検出器を審査した研究者と組織に絞りました。Googleは画像・動画・音声を見分けるSynthID Detectorを全世界の誰でも使えるように(英語で)。Anthropicはサイバーの力を三段に分けて渡す仕組みに組み替え、2日後に直す側へ技術者と資金を出すと発表。GPT-6は無料版を含む全員に広がり始め、同じ日のシステムカードには18歳未満向け評価の後退も並びました。Anthropicの利用ポリシーは、偽アカウントの工作を政治も商業も一つの節にまとめ、AIへの執拗な暴言も禁止に。10月5日〜11日を三つの論点で振り返ります(公開は1日遅れです)。
まず時系列で(誰が何をしたか)
- 1. 10月5日 — OpenAIが文章の透かしの方針。ChatGPTとCodexはEU域内のみ、APIは全世界で希望制、検出器は審査した研究者と組織に限定(詳細)。
- 2. 10月6日 — Anthropicがサイバー検証プログラムを防御・レッドチーム・特別枠の三段に。最上段は今は政府と協力して審査、Glasswingの既存参加組織も移る(詳細)。
- 3. 10月7日 — OpenAIがChatGPTのChatをGPT-6に。無料版とGoはLuna。同じ日のシステムカードに、18歳未満向け評価の統計的に有意な後退(詳細)。
- 4. 10月7日 — GoogleがSynthID Detectorを全世界の誰でも使えるように(英語で)。OpenAI・NVIDIA・Kakaoの生成物も対象、Appleも近く(詳細)。
- 5. 10月7日 — Anthropicが小型モデルClaude Haiku 5.5を公開(当サイトは今週、単独では扱っていません)。
- 6. 10月8日 — AnthropicがAnthropic Cyber Mission。重要インフラの制御システムを守る事業者(日立など11社)と、オープンソースへの無料スキャン(詳細)。
- 7. 10月8日 — Anthropicが利用ポリシー2026年版(11月12日発効)。偽装の工作の節、選挙の節の絞り込み、AIへの執拗な暴言の禁止など(詳細)。
つまり、見分ける道具、強いサイバーの力、守るためのルールが、一つの週にそろって「誰に、どこまで」で書き分けられた。相手をひとまとめにせず、分けて渡す週でした。
今週の3論点
- 見る道具は、媒体で開き方が違う。画像・動画・音声は誰でも確かめられるようになり、文章はまだ審査した相手に限られる例がある。
- 強い力は、段で渡し、直す側にも人を出す。見つけるのは簡単になったが、直すのは難しいままだ、と提供元自身が書いた。見つけるのは速く、直すのは遅い。
- ルールは、出力から相手と行動へ。全員に届くモデルの表には後退があり、利用ポリシーは工作の禁止を一つの節にまとめ直し、機械と暴言についての項目を書き足した。
所属テーマ
論点1: 見る道具は、媒体で開き方が違う
10月5日、OpenAIは文章の透かしについて、ChatGPTとCodexはEU域内だけ、APIは全世界で希望制、検出器は審査した研究者と組織に限り公開しない、と書きました。見逃しと誤検出のリスクがあるため、と。同じ文書で、透かしが分からないことを五つ並べ、検出されないことは人が書いた証明にならない、とも書いています(詳細)。
二日後の10月7日、Googleは画像・動画・音声を見分けるSynthID Detectorを、全世界の誰でも使えるようにしました(英語で)。GoogleのAIだけでなく、パートナーのOpenAI・NVIDIA・Kakaoの生成物も確かめられ、Appleも近く加わる、と。この発表に文章は出てきません(詳細)。
並べると、見る道具が誰の手に渡るかは、媒体によって違う。画像・動画・音声は全員に、文章は(少なくともOpenAIでは)審査した相手に。文章の透かしは言い換えで弱まりやすいことが知られており、この弱さの差と開き方の差は無関係ではない、と当サイトは見ています(AIの透かしとは、コンテンツの来歴とは)。ただ、どの媒体でも共通するのは、判定に出なかったことは本物の証明にならない、という点だと当サイトは見ています。
論点2: 強い力は、段で渡し、直す側にも人を出す
10月6日、Anthropicはサイバー検証プログラムを三段に組み替えました。防御の段、許可を得た侵入テストまで広げるレッドチームの段、航空機の運航システムや電力網のような安全に関わるシステムを試す特別枠。一般提供のモデルはサイバー作業の多くを止める設定のままで、同社の評価では、Opus 5.5は一般提供では全て最初の指示で止まり、防御の段で50回中46回止まり、レッドチームの段では止まらず34回成功した、と。ただしレッドチームの段でも、物理的な被害や大規模な混乱につながる操作は止まります(詳細、検証済みアクセスとは)。
二日後の10月8日、同じAnthropicがCyber Missionを発表しました。重要インフラの制御システムを守る事業者に、モデル・現場の技術者・脅威の研究を届けるプログラム(創設パートナーは日立など11社)と、オープンソースへの無料の自動スキャン。理由として同社は、脆弱性を見つけるのはかつてなく簡単になったが、確かめ、優先順位をつけ、直すのは難しいままだと書き、2年後にはAIが守る側に有利になるが、当面はそうとは限らないと予測しました(詳細、OT(運用技術)とは)。
当サイトはこの二つを、渡す仕組みと、渡すだけでは足りない部分として読みます。三段は、強い力を誰に渡すかの線引きです。Cyber Missionは、見つける速さに追いつかない、直す側の人手と時間に、提供元が手を出し始めた形です。止めすぎの側の数字(防御の段で正当な作業がどれだけ止まるか)と、2年後の予測を確かめる物差しは、どちらもまだ出ていません。
論点3: ルールは、出力から相手と行動へ
10月7日、OpenAIはChatGPTのChatをGPT-6に切り替えると発表しました(順次。無料版は翌日から)。無料版とGoはGPT-6 Lunaです。発表ブログの安全の節は改善を書き、同じ日のシステムカードは後退も書きました。18歳未満向けの評価で、SolもLunaも年齢制限のある内容・性的内容・感情的依存で統計的に有意に後退。OpenAIは、総じて重大度は低い、10代には一部の内容に追加の遮断をかけている、感情的依存の評価は愛称に過敏だった、と説明しています。害のない要求を断ることは減った、とも(詳細、過剰拒否とは)。全員に届くモデルほど、誰に届くかで読み方が変わる、という例だと当サイトは読みます。
10月8日、Anthropicの利用ポリシー2026年版は、偽アカウントや捏造サイトによる工作の禁止を政治か商業かを問わず一つの節にまとめ、人にけがをさせうる機械を自律的に動かす場合に、資格のある人が見て止められること、接続が切れても安全な状態を保てることを求め、AIへの執拗で無意味な暴言を禁止に加えました(極端な場合だけ)。同社は更新の理由に、Claudeがより長く、より自律的な仕事を担うようになったことを挙げています(詳細、影響工作とは)。
当サイトは、ここにも同じ流れを見ます。一回の質問に一回答える道具なら、ルールは何を出力させないかで足りた。長く動き、道具を使い、機械を動かし、全員に届くようになると、ルールは誰に向けて、何をさせるかに広がる。システムカードの18歳未満向けの表も、利用ポリシーの機械の要件も、相手と行動の側の線引きです。
今週の見立て
先週は「AIに『席』が用意され、安全策の置き場所が問われた週」と書きました。今週は、「見る道具と強い力とルールが、相手ごとに分けて渡された週」です。
当サイトが繰り返してきた「AIの競争は性能から提供条件と統制設計へ」の、その提供条件が今週は細かくなりました。同じ透かしでも媒体で開き方が違い、同じモデルでも段で開く範囲が違い、同じChatGPTでも年齢で安全策の量が違う。分けることは、一律に止めるより正確だと当サイトは考えます。ただ、分けた分だけ、自分がどの段にいるのかを知っていないと、何が守られ何が守られていないかが分からない。
実務に落とすと3つです。
ひとつ、自分の段を確かめる。使っているAIが、どの地域・どのプラン・どの審査の段で、何が開いていて何が止まっているか。EUの外、無料版、一般提供——それぞれで中身が違います。
ふたつ、判定に出ないことを、証明にしない。透かしが検出されないことも、AIが断らなかったことも、安全の証明ではありません(コンテンツの来歴とは)。
みっつ、直す側の時間を見積もる。脆弱性は速く見つかるようになったが、直すのは人で、止められない機械では年単位にもなりうる。見つかってから直すまでの段取りを、先に決めておく(AI利用ガイドラインの作り方)。
来週見るもの
第一に、透かしの検出器の開き方。SynthID Detectorの日本語対応と精度の公表、OpenAIの文章検出器が研究者の外に開くか、Claudeの文章の検出APIの提供。
第二に、三段の実際。防御の段の申請に数日で返答が来るか、止めすぎの報告がどう扱われるか、Cyber Missionの最初の共有。
第三に、GPT-6の10代への追加の遮断の実績と、感情的依存の評価の見直し。
第四に、11月12日の利用ポリシー発効に向けた、偽装の工作の節の具体例や執行の報告。
割り引いて読むところ
1. 数字は全て各社の発表です。CVPの評価、Cyber Missionの見込み、システムカードの表、SynthIDの件数は、いずれも各社の記述で、外部の再現は示されていません。
2. 三つの論点への分け方は当サイトの整理です。「相手ごとに分ける」は各社がそう書いたわけではありません。
3. 今週扱わなかったもの。Claude Haiku 5.5(10/7)、OpenAIの数学の研究(10/6)とAtlassianとの提携(10/6)、Anthropicの政府の科学プログラムへの拠出(10/8)、OpenAIのAIを使った偽装工作の阻止(10/8)は、今週は単独の記事にしていません。
4. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今週はAnthropicの発表を三本扱い、いずれも評価する点と、まだ示されていない点を並べました。
今週の記事
OpenAIの文章透かしは、まずEUだけ / Anthropicのサイバー審査が三段に / GPT-6が無料版を含むChatGPTの全員に / AnthropicのCyber Mission / Anthropicが利用ポリシーを改定 / GoogleがSynthID Detectorを誰でも使えるように
今週の用語解説: ゼロ・データ・リテンション(ZDR)とは / 過剰拒否とは / OT(運用技術)とは / 影響工作とは / コンテンツの来歴とは / ヒューマン・イン・ザ・ループとは