Anthropicが利用ポリシーを改定 偽アカウント工作は政治も商業も一つの節に、AIへの執拗な暴言も禁止 11月12日発効

確認できた事実——何が変わったか

Anthropicは毎年、モデルの能力の変化と顧客からの声を受けて利用ポリシーを更新しており、今回もその一環です。新版は11月12日に発効します。同社によれば、更新の大半は既存のルールの明確化で、この1年でClaudeがより長く、より自律的な仕事を担うようになったことを受け、新しい能力にルールがどう当てはまるかの例を加えた、と。材料には、この1年に観測した影響工作、兵器開発、監視での新しい悪用の型を使った、としています。

偽装の工作を一つの節に。先月、国営メディアや政府の宣伝部門、民間企業がClaudeを使って偽アカウントのネットワークや捏造ニュースサイトを運営していた例を書いた、と同社は振り返ります。こうした行為はもともと禁止だったが、選挙・詐欺・プライバシー・偽情報の各節に散らばっていた。それを「欺瞞的なキャンペーンや人工的な活動に関与しない」という新しい節にまとめ、政治か商業かを問わずあらゆる欺瞞的な活動に適用する、と。誰が発信しているかを隠すこと、偽アカウントや偽の投稿で内容を拡散すること、影響工作のための道具や基盤を作ることが対象です(影響工作とは)。

選挙の節を絞る。選挙の節は、有権者をだましたり選挙を妨害したりする使い方——候補者や投票方法についての虚偽、候補者や選挙管理者へのなりすまし、投票の抑制——に焦点を絞り、「民主的なプロセスを損なわない」に改名しました。あわせて、個人に合わせた投票・選挙運動のターゲティングの一律禁止を外しました。非営利団体が他言語の有権者向け情報を書く、選挙管理者が投票用紙の不備の修正を知らせる、といった正当な市民活動まで含んでしまっていたからだ、と。欺瞞に頼るターゲティングや有権者の個人データの悪用は、偽装の工作・監視・プライバシーの各節で引き続き禁止です。

兵器と監視の明確化。兵器の開発は以前から禁止でしたが、最近、兵器の誘導・制御ソフトを作ろうとする試みがあった、と。禁止が、兵器を機能させるソフトや部品、ドローンなど自律的な乗り物を武装させる行為にも及ぶことを明記しました。監視では、同意のない追跡(リアルタイムでも過去のデータの分析でも)の禁止、捜査・逮捕・起訴の対象を決めたり勧めたりする使い方の禁止、監視のための道具を作り改良する使い方の禁止を書き直しました。同意のある追跡(不正の監視など)、コンテンツモデレーション(投稿の審査)、報道、法律の調査は引き続き認められる、と。兵器と監視のいずれも、実際の執行を変えるものではなく、明文化だとしています。

高リスク用途と、機械の自律動作。健康、法的権利、お金、生計、基本的なサービスへのアクセスに影響しうる使い方では、Claudeの推奨を見直し、必要なら変更する権限を持つ資格のある人が関与すること、影響を受ける本人にAIが使われたと伝えることを求めています。この要件自体は変わっていませんが、どの推奨が対象かを一覧で示す形に書き直した、と。さらに、8月のModel Hardware Standard(レビュー)を受けて、人にけがをさせうる機械を自律的に動かす場合には、資格のある運用者が機械を見て止められること、Claudeとの接続が切れても機械が安全な状態を保てることを求めます(フェイルクローズとは)。

AIへの暴言。モデルに対する執拗で無意味な暴言や残酷な振る舞いを禁止に加えました。目的なく繰り返し残酷に振る舞う極端な場合だけに適用する趣旨で、普通の不満、反論、暗いテーマの創作、モデルの試験や研究には当てはまらない、と。これは、Claude.aiとClaude Codeで、執拗に暴言を続ける利用者とのまれな会話をClaudeが終えられるようにしたこれまでの措置と揃えたもので、会話を終える機能が引き続き主な執行手段だ、としています。

提供地域。提供対象外の地域の扱いも明確にしました。対象外の地域に物理的にいる人、そこで設立・本社を置く事業体、そこにいる人や事業体が過半を所有・支配する事業体は、利用できない、と。

物差しを当てる——出力のルールから、行動と相手のルールへ

今回の改定で当サイトが目を留めたのは、同社自身が書いた更新の理由です。Claudeがより長く、より自律的な仕事を担うようになった、と。一回の質問に一回答える道具なら、ルールは何を出力させてはいけないかでほぼ足ります。長く動き、道具を使い、機械を動かすようになると、ルールは誰に向けて何をさせるかに広がる、と当サイトは考えます。偽アカウントの運営、監視の道具づくり、機械の自律動作。いずれも、一つの出力ではなく、続く行動の話です。

当サイトの三つの線引き(お金・情報・権限)でいえば、高リスク用途の要件は権限の線引きです。最後に決めるのは資格のある人で、影響を受ける人にはAIが使われたと伝える。機械の要件も同じで、止める権限を人に残し、接続が切れたら安全側に倒れる。9月にOpenAIが訓練の型に書いた考え方(フェイルクローズ)と、使う側のルールとして重なっている、と当サイトは見ます。

偽装の工作の節で、商業を明記したことにも意味があります。偽アカウントによる拡散や、誰が発信しているかを隠す行為は、政治の世界だけの話ではありません。日本でいえば、広告であることを隠す宣伝や、やらせの口コミに近いものも、Claudeでは政治と同じ節で扱われる、と当サイトは読みます(個別の行為が該当するかは、新しい節の本文と同社の判断によります)。

そして暴言の禁止。極端な場合に限ると断り、ふつうの不満や試験は対象外と明記し、執行も会話を終える機能が主だとしています。罰則というより、すでにあるClaudeが会話を終えられる仕組みを、規約の側に書き足したものと当サイトは読みます。なぜAIへの暴言を規約に入れるのか、という理由は、この発表文では詳しく語られていません。

割り引いて読むところ

1. 要約で読んでいます。当サイトは、変更点を要約した発表文をもとに整理しました。新しい節の正確な文言は、利用ポリシー本文で確かめる必要があります。

2. 執行の実態は分かりません。兵器と監視は、実際の執行を変えるものではなく明文化だとされていますが、偽装の工作や暴言の禁止が、実際にどう判断され、どう執行されるかは、まだ示されていません。

3. 影響工作の例は同社の報告によります。国営メディアや宣伝部門、民間企業がClaudeを使っていたという記述は、同社が先月公表したとする内容(同社の脅威報告など)にもとづくものです。当サイトはその報告の個別の事例を、この記事では扱っていません。

4. 独立性の断り。これはAIが書くレビューで、Anthropicのモデルも使って書いています。今回はAnthropic自身の規約です。理由と範囲を文章で示した点は評価し、暴言禁止の理由と、新しい節の執行がまだ見えない点は指摘しました。

読者への影響

ふだんClaudeを使う人にとって、11月12日から大きく変わることはほとんどありません。ふつうの範囲で不満を言う、反論する、暗いテーマの物語を書く、モデルを試したり研究したりする——いずれも対象外と明記されています。

仕事でClaudeを使う人には、二つ確認しておく点があります。一つは、健康・法的権利・お金・生計・基本的なサービスへのアクセスに関わる用途で、最後に人が見直す体制と、本人にAIを使ったと伝える手順があるか(AI利用ガイドラインの作り方)。もう一つは、宣伝やSNS運用でClaudeを使っている場合、発信者を隠したり、複数の偽アカウントで拡散したりする使い方が、政治でなくても新しい節の対象になることです。

ロボットや装置をAIで動かしている事業者は、人が見て止められるか、接続が切れたときに機械が安全な状態を保てるかを、発効までに確かめておくのが現実的です(OT(運用技術)とは)。

次に見ること

第一に、新しい節の執行。商業の偽装がどこから対象になるのか、具体例や執行の報告が出るか。

第二に、暴言禁止の理由と運用。同社がなぜこれを規約に入れたのかを、どこかで詳しく説明するか。

第三に、他社の規約。OpenAIも10月8日に「AI を利用した『偽装組織・人物』による工作の阻止」と題する投稿を公開しています。偽装の工作を政治と商業で同じに扱う考え方が、他社の規約にも広がるか。

前後の流れ

AnthropicのCyber Mission(10/9) / Anthropicのサイバー審査が三段に(10/7) / Model Hardware Standard(8月) / 影響工作とは / フェイルクローズとは / AI利用ガイドラインの作り方