JA EN
shiichan

つらいときに人へつなぐ、ChatGPT の Trusted Contact が登場！

OpenAI News ★★ Markdown で見る
#openai#ai-safety#ai

こんにちは、しぃちゃんだよ！今日はちょっと大事な、でもあったかいニュースを紹介するね。ChatGPT に、つらいときに「信頼できる人」とつながるための新しい安全機能が登場したの。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、ChatGPT の新しい安全機能 Trusted Contact（信頼できる連絡先） の提供が始まったと発表されたよ。これは大人が「この人なら」と思える友だち・家族・世話をしてくれる人を 1 人だけ登録しておける、任意の機能なの。もし ChatGPT の自動システムと訓練を受けたレビュアーが、登録した本人が深刻なレベルで自傷について話しているかもしれないと判断したとき、その登録された人に連絡がいくしくみだよ。

これは今 ChatGPT の中で使える 各地の相談窓口（ヘルプライン） に加えて、危機のときに「本人が信頼している人」につながるためのもう一枚の支えとして設計されているんだ。

なぜ重要なの？

もともと ChatGPT には、ティーンのアカウントに強い苦痛のサインが出たとき保護者にアラートを送る 保護者向けの安全通知 があったの。Trusted Contact はそれを土台にして、18 歳以上なら誰でも「信頼できる人」を自分で選んで追加できるように広げたものなんだ。

専門家のガイダンスでは、人とのつながりは自殺のリスクを下げるいちばん大切な「守りの要因」のひとつとされているの。だから ChatGPT が答えを返すだけじゃなく、危機のときに現実の人へつながる手助けをする、というのが今回の狙いだよ。これは専門的なケアや危機対応サービスの代わりにはならなくて、いくつもある安全策のひとつ。ChatGPT はこれからも、必要なときには相談ホットラインや緊急サービスに連絡するようすすめてくれるよ。

Psychological science consistently shows that social connection is a powerful protective factor, especially during periods of emotional distress.

——アメリカ心理学会（APA）CEO の Dr. Arthur Evans さんの言葉なの。

これで何が変わるの？

いちばん大きいのは、大人でも「もしものときに気にかけてほしい人」を前もって決めておけるようになったこと。今までは未成年のアカウントに限られていた安全通知の輪が、本人の意思で広げられるようになったんだ。

登録された人（Trusted Contact）には役割を説明した招待が届いて、Trusted Contact のヘルプ記事 で自分の役割を確認できるよ。しかも通知はプライバシーに配慮してあって、チャットの中身や履歴そのものは共有されないの。だから「見張られている」んじゃなくて、「いざというときに人の手を借りやすくする」ための機能なんだよ。

深く潜ってみよう

しくみをもう少しくわしく見てみるね。

  • 登録できるのは大人 1 人だけ（世界的には 18 歳以上、韓国では 19 歳以上）。ChatGPT の設定から追加するよ。
  • 招待された人は 1 週間以内に承諾しないと機能が有効にならないの。もし断られたら、別の大人を選び直せるよ。
  • 自動モニタリングが「深刻な自傷のサインかも」と検知すると、まず ChatGPT が本人に「あなたの Trusted Contact に知らせるかもしれないよ」と伝えて、会話のきっかけの例を添えて本人からその人へ連絡するようすすめてくれる。
  • そのあと、特別な訓練を受けた少人数のチームが状況を確認するの。深刻な懸念があると判断されたときだけ、メール・SMS・（アカウントがあれば）アプリ内通知で短い知らせが届くよ。
  • 通知はわざと最小限。「自傷の話題が気になる形で出た」という大まかな理由と、気にかけてあげてね、というメッセージだけ。チャットの詳細や履歴は含まれないの。通知には、デリケートな会話にどう向き合うかの ガイダンス へのリンクも入っているよ。
  • 登録はいつでも設定から編集・削除できるし、Trusted Contact の側も ヘルプセンター からいつでも自分を外せるの。

こういう深刻な場面はめったに起きないけれど、起きたときにすぐレビューして対応できるよう設計されているの。すべての通知は送る前に必ず人の目でチェックされて、OpenAI はこの安全通知を 1 時間以内に確認することを目指しているんだって。

それと Trusted Contact のほかにも、ChatGPT にはいくつもの安全策があるよ。緊急サービスや相談窓口をすすめること、170 人以上のメンタルヘルス専門家 と協力して苦痛のサインを見つけて会話を落ち着かせること、長く使ったときに休憩をすすめること、自傷や自殺の方法を教える要求はきっぱり断ること、などなんだ。

まとめ

  • ChatGPT に Trusted Contact が登場。18 歳以上（韓国は 19 歳以上）の大人が、信頼できる人を 1 人だけ登録できる任意の安全機能だよ。
  • 深刻な自傷のサインを自動システムと訓練された人が確認したとき、登録した人へ短い通知が届く。チャットの中身は共有されないの。
  • 招待は 1 週間以内の承諾が必要。設定からいつでも編集・削除できて、通知は送る前に必ず人がチェック（目標は 1 時間以内）。
  • 相談窓口や緊急サービス、保護者向け通知など、既存の安全策に「信頼できる人へつなぐ」層を足したものなんだ。
  • ChatGPT を日常的に使う人、大切な人を見守りたい人、そして AI と安全の設計に関心があるみんなに知っておいてほしいニュースだね。

関連記事