OpenAIの文章透かしは、まずEUだけ ChatGPTとCodexはEU域内、APIは希望制、検出器は審査した研究者に限定 8月に全世界と説明したAnthropicと、答えが分かれた

確認できた事実——三つの段

OpenAIは冒頭で前提を置きます。EUのAI規則は、生成AIの提供者に、生成した文章を機械で読める形で識別できるようにすることを求めている。一方で、文章の透かしと検出は「重大な限界を持つ初期の技術」で、その利点と責任ある使い方についての見方もまだ固まっていない。だから段階的に進める、と。段は三つです。

ChatGPTとCodex。今後数週間で、EU域内の対象のChatGPTとCodexの文章出力に、見えない透かしを入れる。全プランが対象ですが、EUだけ。「立ち上げ時点で、文章の透かしを全世界の既定にはしない」と明記し、地域を絞ることで実際の利用と意見から学ぶ余地を残す、と書いています。

API。本日から、全世界のAPI利用者が、対象モデルで透かしを希望して有効にできる。既定はオフのまま。透明性の義務や利用者への体験にどう当てはめるかを、顧客が決められるように。クラウドのパートナー経由の出力にも、数週間で広げる予定、と。

検出器。本日から、審査を通った研究者と専門組織が申し込める。EUの行動規範に沿って、個別に判断して付与する。検出器はOpenAIの透かしを検出したかを返し、利用者を特定せず、プロンプトや会話も明かさない。見逃しと誤検出のリスクがあるため、立ち上げ時点では一般公開しない、と。なお画像と音声の判定ツール(openai.com/verifyとContent Provenance API)は、引き続き公開されています。

textGrainの数字——自分で書いた弱さ

方式は自社のtextGrain。モデルの語の選び方に、見えない統計的な信号を加え、検出器がその信号を探す。モデルの語の選び方に信号を乗せる点では、8月にAnthropicが説明したSynthID-Textと同じ種類の方式です(内部の違いは技術報告の更新待ち。AIの透かしとは)。技術報告は数週間で詳細を足し、textGrain自体もオープンソースで公開する予定、と。OpenAIの評価では、SynthIDの文章版を含む他の方式と同等か上回った。ただし「理想的な条件での高い性能は、日常の利用での信頼できる検出を保証しない」と続けます。

そして、弱さの数字を自分で出しています。誤検出の目標を1%にした条件で、心理学のような内容では、200トークンの文章で約80%、400トークンで約95%を検出。数学のように語の選び方の自由が少ない内容では、検出率は大幅に下がる。400トークンの文章で語の10%を同義語に置き換えると、検出は約92%から66%に、25%なら17%に下がる。検出器を研究者に限る理由の一つが、この限界だ、と。

品質への影響は、最新のフロンティアモデルAstra(GPT-6 Astra)で透かしの有無を比べ、意味のある性能差は見られない、と。8つの指標の表では、上がったものも下がったものもあり、差はいずれも数ポイント以内です。

透かしが「分からないこと」——五つ

今回の文書で当サイトがいちばん評価するのは、この節です。透かしは、OpenAIのシステムがある文章で果たした役割について、限られた信号しか与えない、として五つを並べています。

人の関与の量は測れない。OpenAIのシステムが文章の一部を生成・処理したことは示せても、人の判断や編集や創造がどれだけ入ったかは示せない。所有や責任は決まらない。誰の文章か、使い方が合法か、開示が必要だったか、誰が責任を負うかは決まらない。利用者は特定できない。人・組織・アカウント・プロンプト・会話のどれとも結び付かない。正確さは確かめられない。真実か、誤解を招くか、有害か、文脈が正しいかは分からない。そして、透かしが検出されないことは、人が書いた証明にならない。短すぎる、編集された、翻訳された、対応外のモデル、透かし導入前、他社のツール——いずれでも出ない。

当サイトは8月に、透かしを「疑いをかける道具にはなるが、疑いを晴らす道具にはならない」と書きました(8月のレビュー)。今回、提供元自身が、その片側性を五つに分けて先に書いた。検出の結果を人事や成績の判断に使おうとする側への、はっきりした注意書きです。

物差しを当てる——同じ規則に、二つの答え

8月14日、Anthropicは今後のClaudeの文章にSynthID-Textの透かしを入れ、地域を分ける手段が今はないため全世界に適用すると説明しました。検出APIは「近く提供する」段階でした(当サイトは、その後の提供状況をまだ確認していません)。10月5日、OpenAIはEUだけに入れ、APIは希望制、検出器は研究者に限った。

二つを並べると、同じ規則への応え方が、一律に応えるか、求められた範囲に絞って応えるかに分かれています。OpenAIの理由は「実際の利用から学ぶ余地」、Anthropicの理由は「地域を分ける手段がない」。どちらが正しいかは、透かしが実際に何を防ぎ、何を誤らせるかで決まり、今日の時点ではまだ分かりません。

当サイトの三つの線引き(お金・情報・権限)でいえば、透かしは情報の線引きの一つです——出てきた文章の出所を、後から誰が確かめられるか。OpenAIはその「誰が」を、当面審査した研究者に限りました。9月の段階的提供(解説)と同じく、相手を選んで開く形が、ここにも出ています。

もう一つ。EUの外では、透かしが入る文章と入らない文章が混ざる状態が続きます。ChatGPTとCodexの文章は入らず、APIで作られた文章は開発者が有効にした場合だけ入り、8月の説明どおりならClaudeの文章には入る。その状態で「透かしが出ない」ことに意味を持たせると、たまたま使ったサービスの違いで扱いが変わってしまう。OpenAIが「検出されないことは人が書いた証明にならない」と書いた理由が、地域の差でさらに強まります。

割り引いて読むところ

1. 数字はOpenAIの評価です。textGrainが他方式と同等以上という比較、検出率、言い換えの影響、品質の表は、いずれもOpenAIの条件(ELI5の質問への英語の回答など)での自己評価で、技術報告は数週間で更新予定です。この文書の時点で、外部の検証は示されていません。

2. 「対象の」出力の範囲が分かりません。EU域内のChatGPTとCodexで、どのモデル・どの機能の出力が対象か、APIの「対象モデル」がどれかは、この文書には書かれていません。

3. Anthropicの現状は8月の説明によります。Anthropicの全世界適用と検出APIの状況は、8月14日の説明の時点のもので、その後の更新を当サイトは確認していません。

4. 日本の読者への影響は当サイトの推論です。OpenAIは「EUだけ」と書いており、日本のChatGPTに入らないことはその裏返しとして書いています。

5. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今回はOpenAIの方針をAnthropicの方針と並べました。OpenAIが弱さの数字と「分からないこと」を先に出した点は評価し、検出器を限ったことで外からの検証が遅れる点は指摘しました。

読者への影響

日本でChatGPTやCodexを使っている人の文章には、当面、この透かしは入りません(EU域内だけのため。EU域内かどうかを何で判定するかは書かれていないので、EUに滞在中の利用などは別です)。ただし、他社がOpenAIのAPIで作ったサービスでは、その会社が有効にすれば入ります。APIで自社の製品にOpenAIのモデルを組み込んでいる場合は、透かしを入れるかどうかを自分で選べるようになりました。既定はオフです。

確かめる側——学校、採用、編集、社内の承認——にとっての結論は、8月から変わりません。透かしが返すのは確率で、短い文章や、数学のように語の選び方の自由が少ない文章では出にくく、言い換えで大きく弱まる。そして「透かしがないから人が書いた」とは言えない。今回、EUの内と外、サービスごとに入る入らないが分かれたことで、その注意はさらに強くなりました。社内のAI利用ガイドラインに書くなら、「透かしの有無を判断材料にしない」の一行です(AI利用ガイドラインの作り方)。

次に見ること

第一に、検出器の開き方。審査の基準、最初に使える研究者と組織、そして一般公開の条件。「結果が責任ある形で解釈できると判断したとき」が、どんな基準で語られるか。

第二に、textGrainの技術報告の更新とオープンソース化。外の研究者が、言い換え・翻訳への耐性を独立に測れるようになるか。

第三に、二社の答えのその後。OpenAIがEU外に広げるか、Anthropicが全世界適用を続けるか。そしてGoogleを含む他の署名者がどちらの形を取るか。

前後の流れ

Claudeの文章に透かしが入る(8月) / AIの透かしとは / 段階的提供とは / 今週の週次(9/28-10/4) / AI利用ガイドラインの作り方