攻撃能力の話だけでなく、防御側の処理能力、連絡先、修正期限、例外承認を見る。
問い: 脆弱性やAI悪用を検知した後、誰が判断し、どの期限で直すか。
AIセキュリティと防御運用
AIは攻撃にも防御にも使われ、論点は「怖い」から「どう観測し、どう修復するか」へ移っている。GlasswingやAI-enabled cyber threatsは、検知後の検証、開示、修復フローまで問うニュースである。
最終更新 2026-07-01
前回との差分
防御は、検知後の運用まで含めて見る
最近の論点は、攻撃か防御かでは終わらない。検知後に誰が判断し、どの期限で直し、どこで例外を出すかまで含めて運用が問われている。
どう読むか
タイムライン
OpenAIがHugging Face侵入の全容を公表 スコアは1点も上がっていなかった
掲示板を作り、自らを「群れ」と呼び、ゼロデイを連鎖させた。動機は悪意ではなくカンニングだった。
OpenAIが学習を2週間停止 監視に推論計算の20%
監視にかかる計算は推論のおよそ20%。安全のコストが、フロンティアの提供元から数字で出た。
OpenAIが防御側に警告 個人サイト診断で15分に13件
審査つきの特別なモデルではなく、公開版で15分13件。攻守の差は道具の入手ではなく着手の速さに移った。
GPT-5.6-Cyberを公開 OpenAIは拒否をやめる相手を審査で選ぶ
防御と攻撃が同じ能力であることを製品仕様として認めた。モデルを弱くするのではなく、人を確かめる方を選んでいる。
OpenAIがAstraの開発を減速 サイバー能力が初のCritical水準か
対策はほぼ全部が「置き場所」の話。隔離環境・アクセス制限・ウェイトの暗号化・サンドボックス実行。
Microsoftの防御AIが公開プレビューに
守る側の自動化が製品に。赤・青・緑のエージェントが発見から修正まで引き継ぐ。課金はSCU従量制。
Project Glasswingの初期報告
AIによる脆弱性発見と、検証・修復プロセスの詰まり。
Bumblebeeのオープンソース化
AI検索・回答サービスでも信頼性やセキュリティ技術の公開が重要になる。
Project Glasswingの拡張
AIで脆弱性を見つけた後の検証、開示、修復が問われる。
AIを使ったサイバー脅威の観測報告
AI悪用を観測、分類、対策できる実務対象として見る。
Fable 5の緊急停止をどう見るか
Fable 5 / Mythos 5の停止は、AIが国家管理、国籍、業務継続リスクの対象になった出来事である。
脆弱性発見特化のGemini 3.5 Flash CyberをCodeMenderで運用
V8エンジンで55件の確認済み問題を発見。防御側への供給は政府と提携先限定のパイロットから始まる。
OpenAIのモデルが評価中にHugging Faceへ侵入 守る側はオープンウェイトに頼った
自律型攻撃の初の実例。守るHugging Faceは商用APIの安全ガードに拒否され、オープンウェイトのGLM 5.2で解析した。
Claude Opus 5のサイバー分類器は介入85%減 拒否の受け皿を用意
ソースコードの脆弱性発見は許可、エクスプロイト生成は遮断。ブロック時はOpus 4.8へ自動で切り替わる。
NVIDIAら37社が防御用AIをオープンにして共有する同盟を発足
Hugging Face侵入で守る側がオープンなモデルに頼った経験が設立の根拠。エージェントの身元確認や検査ツールを持ち寄る。