OpenAIが偽装組織・人物による影響工作を報告 架空の記者名で記事が100本近く、事情を知らない現地スタッフも 拡散度は同社の報告で初めて5段階目に

確認できた事実——二つの工作

OpenAIは、過去2年半にわたり、自社のモデルがサイバー攻撃、秘密裏の影響工作、詐欺などにどう悪用されようとしたかを報告してきました。目的は、観測した実態を規制当局や同業他社、社会に伝えることだ、と。今回の報告では、二つの国に由来する影響工作に使われたアカウントを停止したとし、どちらも、従来の手法とOpenAIのモデルを組み合わせて、偽装した組織や人物の活動を支えていた、と書いています。

一つ目は「ダーク・クラーク」。ラテンアメリカの国々を標的にした工作です。運営者は、「ミア・クラーク」という架空の人物を通じて、社会調査センター(SRC)という自称「調査プラットフォーム」を支配していたと見られます。運営者の報告には給与体系や採用・解雇の記述があり、協力していたのではなく支配していたことを示唆する、とOpenAIは書いています。入手できた証拠では、現地の従業員は、自分たちがその集団のために働いているとは認識していなかった。SRCのウェブサイトには60本を大きく上回る記事があり、大半は独自に書かれたものと見られる、と。OpenAIは、偽装した身元や組織を運用する試みとしては、過去2年半に阻止した中で最も複雑な事例だとしています。

二つ目は「偽りの署名」。7つの架空の著者名義で、世界各地の中小オンラインメディアに長文記事を売り込んでいた工作です。OpenAIは公開情報の調査で、およそ十数のメディアに、これらの名義の記事が100本近く公開または転載されているのを確認した、と書いています。掲載先の一つは、2026年8月時点でFacebookに200万人近いフォロワーがいた、と。同時に、SNSにコメントを大量に投稿していましたが、多くの反応を得たものは見当たらなかった、と。OpenAIは、活動全体は商業目的の主体が依頼を受けて実施している場合と整合的だが、具体的な実行主体は特定できなかった、としています。

AIは、何に使われていたか

報告を読むと、AIの役割は意外に地味です。「ダーク・クラーク」での最大の用途は、上司に出す内部報告書の作成でした。大半の事例では、モデルで工作用のコンテンツを作る様子は確認されず、工作について報告するためにだけ使っていた(少数の例外あり)、とOpenAIは書いています。しかもその報告には、自分たちと無関係の出来事を自分たちの手柄にする記述があり、モデルにそうした出来事を探す手伝いまで求めていた。OpenAIは、運営者が外部の人々ではなく、自分たちの雇い主に影響工作を仕掛けようとしていたことを示唆する、と書いています。

コンテンツ作りにも使われてはいました。偽情報に使う語彙や文体がその国に合っているかの確認、偽の書簡の起草と翻訳、音声用の台本、偽の契約書案の校正(どの語句を太字にすべきか、まで)。ただ、その割合は比較的小さかった、と。「偽りの署名」では、掲載先メディアの投稿基準に照らした記事の推敲と、編集者への売り込みメールの作成に使われていました。

OpenAIのまとめは、こうです。これらの工作で最も目を引くのは、AI登場以前の複雑な影響工作と非常によく似ていながら、一部の業務を容易にするためにAIを使っていた点だ、と。また、掲載された内容のすべてがOpenAIのモデルで生成されたわけではない、とも断っています。

物差しを当てる——偽の声より、本物の紙面

影響工作の届き方を測る物差しとして、OpenAIは拡散度尺度(Breakout Scale)を使っています。1(最低)から6(最高)までの6段階で、SNSの一角にとどまるか、複数の場所に広がるか、主流のメディアに取り上げられるか、著名人や政治候補者に拡散されるか、政策や具体的な行動を引き起こすか、を見ます(拡散度尺度とは)。

今回、「ダーク・クラーク」はカテゴリー5。複数の国の政治家による公の発言につながったことを示唆する証拠があるためで、OpenAIが報告を始めて以来、阻止した工作がカテゴリー5に達したのは初めてです。「偽りの署名」は、記事の掲載がカテゴリー4、SNSのコメントはカテゴリー2でした。

当サイトはここから、偽アカウントで騒ぐだけでは届きにくく、届いたのは本物のメディアの紙面や、事情を知らない本物の人を通った情報だった、と読みます。OpenAIも、過去2年半に摘発した30件の傾向として、偽アカウントでのSNS拡散に頼るより、実在のメディアへの掲載を狙う工作ほど、潜在的な到達範囲と影響が大きくなる傾向がある、と書いています。AIは、記事を各メディアの投稿基準に合わせて磨き、売り込みの文面を整える、その作業を楽にしていました。当サイトは、AIが工作を変えたのは、偽の声を増やすことより、本物の入口を通りやすくすることのほうだ、と読みます。

一方で、OpenAIはこうも書いています。偽装組織・人物による工作は秘密裏だからこそ、責任ある形で実態を公開されることに特に弱い。過去の例も、暴かれた後に活動を止めた。だから報告を公開するのだ、と。OpenAIは今回、工作の中で使われた道具の側から、運営者の内部報告まで見ていました。この位置からでなければ書きにくい報告だ、と当サイトは見ます(影響工作とは)。

割り引いて読むところ

1. 運営者の自己申告が多い。偽メールで学校に行事を開かせた、偽音声で騒ぎを起こした、という話の多くは、運営者の内部報告に書かれていたものです。OpenAI自身、自己申告はそのまま受け取れないとし、公開情報で裏付けられたものとそうでないものを分けて書いています。裏付けのない主張も含まれます。

2. 評価はOpenAIによるもの。拡散度尺度のカテゴリーの判定は、OpenAIによる評価です。掲載メディアや当局による独立の検証は、この報告からは分かりません。

3. 見えたのは、OpenAIのモデルを使った部分だけ。工作全体のうち、どれだけがOpenAIのモデルを通ったかは分かりません。ほかのAIや手作業で作られた部分は、この報告の外です。

4. 国名を書いていません。OpenAIは二つの工作の由来を国名で示していますが、当サイトはこの記事で国名を挙げていません。詳しくは一次ソースをご覧ください。

5. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。AnthropicはOpenAIと競合し、同じ日に偽装の工作についての利用ポリシーの改定を公表しています。今回は、AIの役割を大きく見せず地味な実態まで書いた点を評価し、自己申告の扱いと、見えている範囲の限界を指摘しました。

読者への影響

ニュースサイトの記事、シンクタンクの調査、公共サービスや役所を名乗る音声やメール。どれも、ふだんなら信じてよさそうに見えるものです。今回の報告で見えたのは、そうした信じてよさそうな入口のほうが狙われている、ということだと当サイトは読みます。

見る側としては、記事の署名やシンクタンクの名前を見たら、その人や組織が実在し、いつから何を書いてきたかを一度たどる。水道が止まる、現金が引き出せなくなる、といった生活に直結する話が音声や画像で回ってきたら、その会社や役所の公式の発表を確かめる。メディアや広報の側なら、外部から寄稿や売り込みを受けるとき、書き手の実在と連絡先を確かめる手順を持っておく。どれも地味ですが、今回の工作は、その確認がない入口を通っていた、と当サイトは見ます。

次に見ること

第一に、記事を掲載したメディアがどう対応するか。削除や訂正、寄稿の受け付け方の見直し。

第二に、他社の報告。Metaなどのプラットフォームや、Anthropic、Googleが同じ工作について何を報告するか。

第三に、Anthropicが利用ポリシーにまとめた偽装の工作の節が、11月12日の発効後にどう執行され、報告されるか。

前後の流れ

Anthropicが利用ポリシーを改定(10/10) / GoogleがSynthID Detectorを誰でも使えるように(10/11) / 週次レビュー(10/5-10/11) / 影響工作とは / 拡散度尺度とは / コンテンツの来歴とは