ChatGPT の暴力防止が強化！安全性レポートの公開とティーン保護の拡充

おつかれさま、しぃちゃんだよ！今日は OpenAI の News から、安全性に関する発表を紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、ChatGPT の暴力防止を強化する取り組みが発表されたよ。内容は、安全対策の拡充、より早い段階での介入、そして公開の安全性レポートを出すという新しいコミットメントだよ。

なぜ重要なの？

AI が暴力につながる使われ方をしないようにすることは、多くの人が気にしている大事なテーマだよ。しかも今回は、対策の効果を定期的に公開すると約束している点が大きいの。

これで何が変わるの？

全ユーザー向けの対策はこれだよ。

• 過去の大量殺傷事件について、使われた武器や装備、入手方法などを再構成するような詳しい説明を避ける(年齢や理由によらず適用)
• 事件の影響や被害者・地域社会への影響、暴力の予兆については、これまで通り学べる
• 最近の会話に暴力の兆候があれば、以前の兆候の短い要約をもとに、より慎重に応答する
• 暴力への執着や深刻な加害を示す会話は、自動で終了できる。繰り返すとアカウントが一時停止されることがある
• 暴力ポリシーに違反するアカウントは停止される

深く潜ってみよう

ティーン向けの保護はこうなるよ。

• 18 歳未満と予測されたユーザーには、暴力の意図が見えなくても、より厳しい制限がかかる
• 暴力を助長しうる武器やセキュリティシステムの実用的な情報は提供されない。一方で、対立の鎮静化、サポートの利用、信頼できる大人への連絡の手助けは受けられる
• 誤って 18 歳未満の体験に入れられた大人は、Persona で年齢確認すれば保護を解除できる
• 保護者向けコントロールで、アカウントを連携して、深刻な自傷の懸念、摂食障害の可能性、暴力違反によるアカウント停止についての通知を受け取れる
• 暴力について繰り返し話してティーンのアカウントが一時停止されたとき、保護者に知らせる仕組みも準備中

数字とスケジュールも書かれているよ。

• 2026 年第 3 四半期に、主に差し迫った暴力の脅威で 200 件を超える法執行機関への通報を行った
• 最初の Community Safety Report は 2027 年初頭に公開予定で、2026 年後半を対象にする。以降は 6 か月ごとに更新
• レポートには、匿名化した事例、新しい対策、ポリシー変更、裏づけるデータが入る
• 対策は今後数週間で順次展開される

まとめ

• 過去の大量殺傷事件の詳細な再構成を避け、危険な会話は終了できる
• 18 歳未満と予測されたユーザーへの制限と、保護者向け通知を拡充
• 半年ごとの Community Safety Report を 2027 年初頭から公開

AI の安全対策や、子どもの AI 利用を気にしている人に刺さる発表だよ！