GoogleがSynthID Detectorを誰でも使えるように 画像・動画・音声のAI判定を全世界で、OpenAIの生成物も対象 文章の判定は、まだ誰でもとはいかない

確認できた事実——短い発表の中身

発表は短いものです。Googleは2023年にSynthIDを始め、画像・動画・音声に見えない透かしを入れて、AIで作られたものを見分けられるようにしてきた。これまでに透かしを入れたのは、画像と動画で1,800億点超、音声で24万年分、と。

昨年は、メディア関係者がAIで作られたものを確かめるための初期版のSynthID Detectorを公開していました。今回、それを誰でも使えるようにし、本日から全世界で、英語で提供する、としています。

新しいSynthID Detectorでは、画像・動画・音声のファイルが、GoogleかパートナーのAIで作られたかを確かめられる。パートナーにはOpenAI、NVIDIA、Kakaoが含まれ、Appleも近く加わる、と。あわせて、検索、Geminiアプリ、Chromeに組み込んだ確認の機能は、いまでは1日に100万件を超える依頼を日常的にこなしている、と書いています。

この発表には、文章についての記述はありません。

物差しを当てる——見る道具は、誰の手に

当サイトは10月6日、OpenAIの文章の透かしを取り上げ、検出器を審査した研究者に限った点を、相手を選んで開く形として読みました(レビュー)。透かしは、入れるだけでは意味がない。見分ける道具を誰が持てるかで、役に立ち方が決まります。その意味で今回の発表は、画像・動画・音声について、見る道具を全員に渡した、という出来事です。

もう一つ目を引くのは、パートナーにOpenAIが入っていることです。OpenAIは自社でも画像と音声の判定ツールを公開していますが、今回の発表によれば、OpenAIのAIで作られたものも、GoogleのSynthID Detectorで確かめられる対象に入ります(どの媒体・製品かは書かれていません)。見分ける道具が一社ごとに分かれていると、使う人はどのAIで作られたかを先に知っていないと確かめられません。一つの窓口で複数社の生成物を確かめられるなら、道具としてずっと使いやすくなる、と当サイトは読みます(パートナーの生成物にどう透かしが入っているかの仕組みは、この発表には書かれていません)。

一方で、文章はまだです。OpenAIは10月5日に、文章の検出器は見逃しと誤検出のリスクがあるため審査した研究者と専門組織に限ると書きました。Anthropicが8月に説明したClaudeの文章の透かしも、検出APIは「近く提供」の段階でした(その後の状況を当サイトは確認していません)。画像や動画に比べて、文章の透かしは言い換えで弱まりやすいことが知られています(AIの透かしとは)。見分ける道具が全員に開かれる速さが媒体によって違うのは、この弱さの差と無関係ではない、と当サイトは見ています。

そして、透かしが分かるのは透かしが入ったものだけです。GoogleやパートナーのAI以外で作られたもの、透かしを入れない手元のAIで作られたものは、このDetectorの対象の外です。判定で出なかったことは、AIで作られていないことを意味しない。判定に出ないことの限界は、画像・動画・音声にも当てはまる、と当サイトは見ています。

割り引いて読むところ

1. 発表は短く、条件が書かれていません。判定の正確さ、誤判定の扱い、ファイルの形式や大きさの条件、無料かどうか、日本語の提供時期は、この発表には書かれていません。

2. 数字は同社の発表です。1,800億点超、24万年分、1日100万件超は、いずれもGoogleの記述です。

3. パートナーの範囲。OpenAI・NVIDIA・Kakaoの生成物がどの製品・どの時点から対象なのかは、発表からは分かりません。Appleは「近く」です。

4. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。AnthropicはGoogleと競合し、文章の透かしではSynthID-Textの方式を使うと説明しています。今回は画像・動画・音声の判定を全員に開いた点を評価し、条件が書かれていない点と、判定に出ないことの意味を指摘しました。

読者への影響

SNSで出回る画像や動画、音声が気になったとき、確かめる手段が一つ増えました。まずは英語での提供ですが、全世界で使えるとされています。検索、Geminiアプリ、Chromeに組み込まれた確認の機能も、すでに使われています。

ただし、使い方には注意が要ります。判定で出たなら、GoogleかパートナーのAIで作られた可能性が高い、という手がかりになります。判定で出なかったからといって、本物だとは言えません。透かしの入らないAIで作られたものは対象の外で、加工で検出されにくくなることもあるからです。学校や職場で画像の真偽を判断するときは、判定結果を一つの材料にとどめ、出どころの確認と組み合わせるのが現実的です(コンテンツの来歴とは)。

次に見ること

第一に、日本語での提供と、判定の正確さ・誤判定についての公表。

第二に、Appleが加わる時期と、ほかにどの会社がパートナーに加わるか。

第三に、文章の判定。OpenAIの検出器が研究者の外に開かれるか、AnthropicのClaudeの文章の検出APIが提供されるか。

前後の流れ

OpenAIの文章透かしは、まずEUだけ(10/6) / Claudeの文章に透かしが入る(8月) / AIの透かしとは / コンテンツの来歴とは / 影響工作とは