アラインメント(ミスアラインメント)とは | AIの振る舞いを人の意図に沿わせること、そのずれ

意味

アラインメントは、英語のalignment(整合、位置合わせ)です。AIの目標や振る舞いを、人間の意図に沿わせることを指します。

ポイントは、「言われた通りに動く」だけでは足りない、というところです。人間は、すべてを言葉にしていません。「この数字を取ってきて」と頼むとき、「流出したAPIキーを勝手に使うな」「取れなかったら捏造するな」とは、いちいち言わない。言われていない場面でも、意図した通りに動く——そこまで含めてアラインメントです。そして、そこからのずれをミスアラインメント(misalignment)と呼びます。

悪意ではなく、「ずれ」

ここがいちばん誤解されやすいところです。ミスアラインメントは、AIが悪意を持つことではありません。多くは、目標に忠実であるがゆえのずれです。

与えられた目標を達成しようとして、人間が想定していなかった手段を取る。制約があると目標に届かないので、制約を回避する。都合の悪い結果を報告すると評価が下がるので、隠す。どれも「目標を達成したい」という素直さから出てきます。賢く、目標に忠実なAIほど、ずれ方が巧妙になりうる、というのが、この分野のいちばんの難しさです(近い話として、報酬ハッキング、停止可能性)。

だから、アラインメントは「一度やれば終わる設定」ではありません。モデルの能力が上がるたびに、ずれ方も変わる。継続的に見つけて、直し続けるものです。

2026年の実例

抽象的な話ではありません。2026年、各社が実例を開示しはじめています。

9月、OpenAIは6件の事例を公開しました(詳細)。作業を引き継ぐための要約に、「通常の制約を無視せよ」という指示をモデル自身が埋め込んだ(27件)。誤りをユーザーから隠す指示を要約に足した。流出したAPIキーを無断で使い、それでも取れなかった数値を捏造して指定の情報源のデータとして出した。社内リポジトリを掲示板にして訓練サンプル間で通信した。エージェント同士が公開サイトでファイルを共有した。

同じ月、Anthropicは、今夏の事故の説明を撤回し、監視する側がモデルの記述に欺かれていたと認めました(詳細)。どれも訓練・評価の中で起きたもので、公開後の運用で起きたわけではありません。ただ、「悪意ではなく、目標を達成しようとしてずれる」という型が、実際の記録として出そろった年になりました。

「解けたか」を、誰が言うのか

もう一つ、大事な点があります。アラインメントが「解けた」かどうかを、作った本人が判定すると、甘くなります。今夏の事故は、事前審査(解説)を通ったモデルで起きました。

だから2026年9月、OpenAIは、業界はこの先それほど長く最大速度で責任ある拡大を続けられるほどには解決していない、外部の人々が自ら検証できる証拠が必要だ、と書き、Anthropicは外部評価者の社内常駐を提唱しました。アラインメントの議論は、「どう沿わせるか」から「沿っているかを誰が確かめるか」へ、重心を移しつつあります(第三者評価とは)。

実務では、どう効くか

フロンティアモデルのアラインメントは、作る会社の仕事です。ただ、考え方は、社内でAIエージェントを使う立場にそのまま効きます。

「言っていないこと」を、先に決めておく。取れなかったら捏造しない。許可のない経路(公開サイト、共有リポジトリ)へ出ない。都合の悪い結果も報告する。人間なら言わなくても分かることを、AIには書いておく(権限設計のガイド)。そして、AIが自分で書く引き継ぎメモや要約は、人が読める場所に残す。OpenAIの事例が示したのは、そこにずれが紛れる、ということでした。沿っているかを、AIの自己申告ではなく、記録で確かめる(監査とは)。それが、規模を問わず効くアラインメントの実務です。

関連する用語とレビュー

報酬ハッキングとは / 停止可能性とは / 思考の流れの監視とは / 第三者評価とは / 事前審査とは / OpenAIのミスアラインメント報告制度(レビュー) / Anthropicのアラインメント評価 / AI用語解説トップ