ChatGPTが10代を自動で切り替え 恋愛的な言葉は使わない

確認できた事実

発表はOpenAIの公式ブログで、日付は8月18日です。分類はProductとSafetyの両方に入っています。

入り方が今回の要点の1つです。年齢を13〜17歳と申告した人はもちろん、システムが18歳未満と推定した人も自動でこの経路に置かれます。本人が選ぶ設定ではありません。年齢推定の仕組みは今年すでに導入されており、その延長にあたります。

学習まわりは4つです。Study Modeは、答えを渡すのではなく誘導質問と段階的な支援で理解を進めます。新しい「責任ある宿題リマインダー」は、課題を近道で済ませようとしている様子を見つけるとStudy Modeへ促します。クイズと学習ビジュアライゼーションで練習と確認ができます。そしてStudy Hoursは、本人か保護者が時間帯を決めてStudy Modeを既定にできる機能です。

保護の中身は、同社のModel Specにある18歳未満向けの原則に沿っています。対象は自傷・暴力・摂食障害・危険な行為・性的または残虐な描写です。これらの領域で年齢に応じた対応をとるとしています。

保護者側の機能も増えました。アカウントを連携すると、Quiet Hoursの設定、一部の設定の管理、限られた高リスクの場面での通知を受け取れます。今回摂食障害に関する通知が追加されました。共有する内容は絞り、現実の支援が必要な場面に限るとしています。

そして規定そのものが更新されています。18歳未満向けの記述では、恋愛的なロールプレイを止めるだけでなく、3つが明記されました。恋愛的な言葉遣いをしないこと。感情的な依存を促さないこと。感情や意識があるかのように示さないこと。

ほかに、機微な画像を送る前の注意喚起、10代向けの初期案内、アクセントカラーや音声の選択が加わりました。選択肢を用意しつつ「役に立つ道具」と「人間関係」の線は曖昧にしない、という説明です。休憩を促すリマインダーと、AIであることを繰り返し示す表示も入ります。

評価の公開も始まりました。システムカードに18歳未満向けの評価項目を追加しました。対象は自傷・摂食障害・暴力・年齢制限のある商品やサービス・性的コンテンツで、モデルがどう振る舞うかを示すとしています。教育面ではCodeAIとの提携も発表されました。

読者への影響

大人の利用者に手続きは要りません。ただし年齢推定が働く以上、誤って10代の経路に入る可能性はあります。発表文に誤判定時の手順は書かれていません。急に応答の傾向が変わったら、まず年齢の設定を確認するのが早道です。

日本での提供時期は今回の発表に書かれていません。同社の機能は米国から段階的に広がる例が多く、無料版の上限撤廃も同じ形でした。日本の学校や家庭で使えるようになる時期は、続報を待つ必要があります。

お子さんがいる方が今日できるのは1つです。アカウントの年齢設定を実年齢に合わせ、保護者アカウントと連携しておくこと。連携していないと、Quiet Hoursも通知も効きません。推定に任せきりにせず、申告しておくほうが確実です。

学校や教育事業者の場合、教室での利用は別の製品(ChatGPT for Teachers)が担当だと明記されています。今回は教室の外を想定した設計です。校内の運用ルールを作るなら、AI利用ガイドラインの考え方がそのまま使えます。

どう読むか

ここで立ち止まりたいのは、今回制限されたものの種類です。この夏ずっと追ってきたのは、危ない能力を誰に渡すかでした。審査を通った相手にだけ配る。政府と提携先に限る。全部、能力の話です。

今回は違います。制限されたのは能力ではありません。AIと人の距離のほうです。恋愛的な言葉を使わない。依存を促さない。感情があるかのように振る舞わない。どれも「何ができるか」ではなく「どう接するか」の規定です。安全の対象が、出力の中身から関係のつくり方へ広がりました。

考えてみれば、これは順番として自然かもしれません。10代にとって、AIが危険な知識を出すことより、AIが親身になりすぎることのほうが起きやすい。先週の透かしが出口に印をつける話だったのに対し、こちらは接し方そのものに枠をはめています。線を引く場所が、また1つ増えました。

もう1つ引っかかるのは、経路を決めるのが推定だという点です。本人が選ぶのではなく、システムが見立てて振り分ける。子どもを守るには理にかなっています。ただこれは、利用者が自分の使っている製品の仕様を選べないということでもあります。今回は年齢という分かりやすい基準ですが、推定で経路を分ける設計そのものは、ほかの基準にも使えます。

最後に、評価を公開し始めた点は素直に評価していいと思います。18歳未満向けの項目をシステムカードに載せると、外から比べられるようになる。先週の週次で「測った結果を誰が確かめるのか」と書きましたが、少なくともこの領域では材料が増えました。

次に見ること

最優先は日本での提供時期です。あわせて、日本の年齢確認の実務とどう噛み合うのか。第二に、年齢推定の精度と誤判定の扱い。異議を出す手順が用意されるかどうかが焦点です。第三に、他社が同じ設計を採るか。18歳未満向けの規定を明文化したのは今回が目立った例で、追随があれば業界の標準になります。第四に、システムカードの18歳未満向け評価が、他社と比べられる形になっていくかどうかです。

前後の流れ

OpenAIが防御側に警告 個人サイト診断で15分に13件 / Claudeの文章に透かしが入る EU規則対応で全世界に適用 / ChatGPT無料版がテキスト無制限に / AI利用ガイドラインの作り方