影響工作(influence operations)とは | 偽アカウントと捏造サイトで、多くの人がそう思っているという印象を作る行為と、AIで変わったこと

意味

影響工作は、英語のinfluence operations。インフルエンス・オペレーションとも呼ばれます。中身が本当か嘘か以上に、誰が言っているかを偽ることに特徴があります。一人の発信を大勢の声に見せる、組織の発信を個人の感想に見せる、宣伝を報道に見せる。そうして、多くの人がそう思っているという印象そのものを作り、読む人の判断を動かそうとします。

典型的な道具は三つです。たくさんの偽アカウント(ボットや、人が操る偽の人格)、本物らしい体裁の捏造ニュースサイト、そしてそれらに流す大量の投稿や記事。単発の嘘の投稿とは違い、組織的に、続けて行われることが多いのも特徴です。

AIで、何が変わったか

以前は、偽の人格を大勢そろえ、それぞれに自然な文章を書かせるには、人手と時間がかかりました。生成AIで、それらしい文章、画像、プロフィールを大量に作るのが安く、速くなりました。言語の壁も下がります。

一方で、AIの提供元は、自社のAIがこうした工作に使われていないかを検知し、見つけた場合は止めて公表するようになりました。2026年10月8日には、OpenAIが「AI を利用した『偽装組織・人物』による工作の阻止」と題する投稿を公開しています。同じ日、Anthropicは利用ポリシーの改定で、国営メディアや政府の宣伝部門、民間企業がClaudeを使って偽アカウントのネットワークや捏造ニュースサイトを運営していた例を先月報告したと振り返り、これまで選挙・詐欺・プライバシー・偽情報の各節に散らばっていた禁止を、欺瞞的なキャンペーンや人工的な活動に関与しないという新しい節にまとめました(11月12日発効。レビュー)。

この新しい節は、政治か商業かを問わずあらゆる欺瞞的な活動に適用されます。対象は、誰が発信しているかを隠すこと、偽アカウントや偽の投稿で内容を拡散すること、そして影響工作のための道具や基盤を作ることです。工作そのものだけでなく、その道具づくりも禁止に入っている点が、AIの時代らしいところだと当サイトは見ます。

政治だけの話ではない

影響工作というと選挙や国際政治の話に聞こえますが、手口は商業でも同じです。広告であることを隠した宣伝、大量のやらせの口コミ、偽アカウントによる評判の水増し。日本でも、広告であることを隠す表示は規制の対象になっています。Anthropicが新しい節で商業を明記したのは、こうした手口が政治と地続きだからだと当サイトは読みます。

実務では、どう効くか

見る側として。一つの投稿や口コミの中身より、出どころを見る。誰が、いつから発信しているか。同じ言い回しが短い期間に大量に出ていないか。元の情報をたどれるか。多くの人がそう言っている、という印象そのものが作られている可能性を、頭に置いておきます。

使う側として。宣伝やSNS運用でAIを使うなら、発信者を隠さない、一人の声を大勢に見せない、の二つを守る。AIの提供元の規約に反するだけでなく、見つかったときに失うものが大きいからです。社内のAI利用ガイドラインにも一行入れておくと安心です(AI利用ガイドラインの作り方)。

関連する用語とレビュー

Anthropicが利用ポリシーを改定(レビュー) / AIの透かしとは / デュアルユースとは / プロンプトインジェクションとは / AI用語解説トップ