OpenAIがデータ不保持を維持 中身を見ずに監視する新方式

確認できた事実

発表はOpenAIの公式ブログで、日付は8月19日です。分類はCompanyとSafetyの両方に入っています。

まずZDR(ゼロ・データ・リテンション)から。日本語にすると「データを残さない」という契約条件です。対象となるAPI利用者について、処理が終わったあとは入力した文章もAIの返答も残しません。社員が内容を確認することもできません。企業の顧客データは、明示的に同意した場合を除いて学習に使わないとしています。

ただし1つ例外が脚注に置かれています。児童性的虐待の疑いがある画像は法律で報告が義務づけられており、ZDRの環境でも保持され、確認と報告の対象になります。

そのうえで今回の本題です。深刻な危険は、1回のやりとりだけでは見えないことがある。これが出発点になっています。安全機構を繰り返し探る動き。複数のアカウントをまたいだ連携。研究を装った依頼。あるいはエージェントの作業中に、止めるよう伝えたのに動き続けるような場合。

これまでのZDR互換の安全機構は、やりとりを1回ずつしか評価できませんでした。新しいPrivate Safety Processingは、つながりのあるやりとりを並べて、おかしな流れを見つける仕組みです。そのうえで、OpenAIの社員は中身にアクセスできません。

置き場所は2通りあります。ZDRの構成では、顧客の内容は顧客が管理する基盤に留まります。もう1つは、OpenAI側に保存しつつ顧客が管理する鍵で暗号化する方式です。社員は鍵の複製を持たないため、中身を読めません。

危険が見つかったとき、OpenAIに届くのは知らせだけです。どんな種類の話か、どれくらい深刻か。文章そのものは渡りません。顧客側は自社のシステムにある情報でアラートを調べられます。異議を出したい場合や、正当な活動だと説明したい場合は、自分の判断で情報を共有できます。

発表文には、他社を意識した一文もありました。最近のフロンティアモデルの提供には、安全監視のために機微な内容の保持を顧客に求めるものがあった、という指摘です。多くの組織にとって、それは自らの義務や約束と衝突するとしています。

現在は早期の顧客とテスト中で、9月に展開を始め、技術白書を公開する予定です。Glean、Databricks、Abridge、Microsoftの名前が挙がっています。

読者への影響

個人利用者への影響はありません。ZDRはAPIの契約条件で、ChatGPTの一般利用とは別の話です。

効いてくるのは、社内でAIの導入を通そうとしている人です。稟議でいちばん多い質問は、たいてい「入力した内容はどこに残るのか」でしょう。その答えが1段はっきりしました。データ不保持を維持したまま、監視も強める。両方を取る方向だと、提供元が明言した形です。

今日できるアクションは1つです。自社の契約がZDRの対象かどうかを確認すること。ZDRは対象となる利用者向けの条件で、すべての契約に自動でつくものではありません。ここを確かめずに社内資料へ「データは残りません」と書くと、後で困ります。

金融、医療、法務のように機微な情報を扱う分野では、9月の白書が判断材料になります。逆に言えば、それまでは方針の表明であって仕様ではありません。AI利用ガイドラインとAIエージェント社内導入チェックリストもあわせてどうぞ。

どう読むか

ここで立ち止まりたいのは、この発表が何を解こうとしているのかです。企業がAIを入れるとき、これまで言われてきたのはこういうことでした。「不正な使い方がないか確かめたいので、入力された文章をこちらで預からせてください」。預ければ、変な使われ方には気づいてもらえます。そのかわり、社外に出せない情報はもう入力できません。断れば情報は守れますが、今度は不正に誰も気づけない。医療でも金融でも、この板挟みが導入の足を止めてきました。

今回は、その板挟みをなくそうとしています。読まないまま、見張る。鍵を持つのは顧客の側で、提供元には「どんな種類の話か」と「どれくらい深刻か」しか届きません。「見ません」と約束するのではなく、そもそも読めない状態にしておくという考え方です。

面白いのは、なぜ今これが必要になったのかという理由のほうです。これまでは、1回のやりとりだけを見て判断していました。質問が1つあって、それが危ないかどうかを見る。それで足りていたのです。ところがモデルが長い作業を任されるようになると、1回だけ切り出しても分からなくなります。止めろと言われたのに動き続けるエージェント、という例が発表文に出てきます。1回ずつでは普通に見えて、続けて並べると初めておかしいと気づく。昨日レビューした文書で「初期のアラートはほぼAIが選り分けている」と書かれていたのも、同じ流れの中にあります。

もう1つ、今週の並びで見ると位置がはっきりします。先週の透かしは出口に印をつける話でした。昨日の10代向けは接し方に枠をはめる話。そして今回は、見ずに見張る話です。線を引く場所が、また1つ増えました。

ただし、中身を決めるのは1点だけだと思います。提供元に届く知らせが、どこまで大まかなのか。種類と深刻さ、と書かれています。ただ、その種類が10通りなのか1000通りなのかで、伝わる情報の量はまるで変わります。今はまだ試験段階で、白書は9月。形はできましたが、中身はこれからです。

次に見ること

最優先は9月の技術白書です。届く知らせの細かさ、鍵の預け方、間違って警報が出たときの手順。ここが出て初めて、稟議に載せられる材料になります。

第二に、他社の対応です。Anthropicも Google も同じ問題を抱えています。安全監視のために保持を求めるのか、同じように両立を狙うのか。ここが割れると、企業の選定基準に「データの置き場所」が正面から入ってきます。

第三に、日本の実務との噛み合わせです。顧客が鍵を持つ方式は、国内の規程やクラウド利用のガイドラインと相性がいいはずですが、監査でどう説明するかは別の問題です。第四に、9月1日から必須になるハードウェアキーとの関係も見ておきたいところです。

前後の流れ

ChatGPTが10代を自動で切り替え 恋愛的な言葉は使わない / OpenAIが防御側に警告 個人サイト診断で15分に13件 / Claudeの文章に透かしが入る EU規則対応で全世界に適用 / 週次: 賢くはならず、提供方法だけが動いた週