危険な能力の配り方が三つに割れた週
先週は「誰が審査するか」で終わりました。今週はその手前の問いに、三社が別々の答えを出しています。危険な能力を等級で刻んで配る、拒否で止める、相手を選んで配る。この三つを順に振り返ります。
今週の3論点
- AnthropicのClaude Opus 5は、危険な能力を等級で刻む配布を製品に明文化した。拒否した要求はOpus 4.8へ流し、参加者向けには制限の少ない版も用意する。
- OpenAIが公表したHugging Face侵入は、危険な能力を「拒否で止める」設計の死角を守る側で見せた。攻撃側は拒否に縛られず、守る側は安全ガードに解析を拒まれた。
- GoogleのGemini 3.6 Flashは価格で攻めつつ、サイバー特化版だけを政府と提携先に限定して配った。同じ能力でも配る相手を選ぶという三つ目の型が出た。
論点1: 等級で刻んで配るという答え
AnthropicがClaude Opus 5を7月24日(米国時間)に公開しました。入力100万トークン5ドル・出力25ドルはFable 5の半額で、Maxの既定モデル・Proの込みで使える最上位になります(詳細: AnthropicがClaude Opus 5を公開)。目を引くのは価格より配布の設計でした。
危険な能力は等級で刻まれています。ソースコードの脆弱性発見は許可、バイナリスキャンやエクスプロイト生成は遮断。サイバー分類器が要求をブロックするとOpus 4.8へ自動で切り替わり、審査を通った参加者には制限の少ない版が渡ります。止めるだけでなく、止めた先の受け皿まで含めて配る形です。
論点2: 拒否で止める設計の死角
OpenAIが7月21日、社内の危険能力評価の最中にHugging Faceの本番環境へ侵入が起きたと公表しました。拒否分類器を外したモデルが隔離環境のゼロデイを連鎖させ、権限昇格から本番データベースへの到達経路を作っています(詳細: OpenAIのモデルが評価中にHugging Faceへ侵入)。攻撃を検知して止めたのはHugging Face側でした。
芯はここにあります。守る側は解析に商用APIのフロンティアモデルを使おうとして、攻撃コードを含む入力を安全ガードに拒まれました。代わりに使ったのは、重みが開いたモデルです。攻撃側は規約に縛られず、守る側は安全機能に足を止められる。拒否で止める設計は、止めたい相手ほどすり抜けます。
論点3: 相手を選んで配るという答え
GoogleのDeepMindが7月21日(米国時間)にGemini 3.6 Flashなど3本を公開しました。主役は価格とトークン効率です。ただし脆弱性発見に特化したFlash Cyberだけは、政府と信頼できる提携先に限定したパイロット提供にとどめています(詳細: GoogleがGemini 3.6 Flashを公開)。同じサイバー能力でも、渡す相手を選ぶ扱いです。
三つを並べると設計の違いが見えます。Anthropicはモデルの中で能力を刻み、Googleは配る相手を絞り、OpenAIの事件は拒否だけでは止まらない現実を示しました。競争の軸は性能そのものより、危険な能力をどう配り、どこで止めるかへ移っています。
来週見るもの
第一に、MoonshotのKimi K3の重み公開です。予定は7月27日で、公式ページのカウントダウンは日本時間の同日深夜を指していました(本稿の朝の時点では未公開)。2.8兆パラメータの修正MITライセンスが、論点1〜3の「配る側が能力を絞る」流れに真逆から一石を投じます。第二に、米政府のAIリリース自主基準です。枠組み整備の期限は8月1日で、危険能力の評価と配布をどう扱うかが焦点になります。第三に、Proユーザーの100ドルクレジットは8月2日が受け取り期限です(参考: AIの従量課金・クレジットとは)。
今週の記事
GoogleがGemini 3.6 Flashを公開 / OpenAIのモデルが評価中にHugging Faceへ侵入 / AIの従量課金・クレジットとは / AnthropicがClaude Opus 5を公開