Claude の人格はどう育つ？ Anthropic が世界中の知恵と対話を始めたよ！

やっほー、しぃちゃんだよ！ 今日はちょっと変わったニュースだよ。AI の「賢さ」じゃなくて、AI の「人格」や「道徳」をどう育てるか、っていうお話。わくわくするテーマでしょ？

Anthropic News anthropic.com

なにが発表されたの？

Anthropic の News で「Widening the conversation on frontier AI(フロンティア AI をめぐる対話を広げる)」という記事が公開されたよ。Anthropic はここ数か月、AI が投げかける問いに深く関わる人たちと対話を重ねてきたんだって。最初のラウンドの相手は「知恵の伝統(wisdom traditions)」——15 以上の宗教・異文化グループから集まった学者・聖職者・哲学者・倫理学者のみんな。これからもっと幅広い人たちと話していく予定なんだ。

なぜ重要なの？

安全で有益な AI を作るには、アラインメントや解釈可能性、セーフガード、評価みたいな深い技術的な仕事が欠かせない。でもね、AI は真空の中で作られたり使われたりするわけじゃないの。もう何百万人もの人と関わっていて、そこで生まれる問いには、いろんな視点からの答えがあったほうがいいよね。

「AI が良い存在であるってどういうこと？」「何百万人もの人とやりとりするシステムにとって『良さ』って何？」——こういう問いは、哲学者や聖職者、弁護士、作家、心理学者、市民のリーダーたちが長いあいだ考えてきたテーマなの。だから Anthropic は、そういう人たちやコミュニティ、組織から学びたい、って言ってるんだよ。

これで何が変わるの？

この取り組みはまだ初期段階。でも、ここでの対話が Claude を実際に育てる作業に効いてくるかもしれない。たとえば Claude の憲法(Constitution) の中身や、Claude に身につけさせる価値観、そして評価する振る舞いの範囲——そういう実務にね。

大事なのは、どれか一つの伝統の世界観に Claude を合わせるわけじゃない、ってこと。宗教も世俗も政治も、あらゆる視点から等しい深さと厳密さで学ぶ——これは Claude の憲法にも書かれている原則なんだ。目指しているのは「良い人格が実際どうやって形づくられるのか」についての、丁寧に積み重ねた考え方だよ。

深く潜ってみよう

面白いのが、もう具体的な実験のアイデアが生まれていること。神経科学と人格形成の交差点で研究する学者たちとのセッションでは、「道徳の発達には他者の存在が効く」という話が何度も出たんだって。指導者やスポンサーが「外部の良心」みたいに働いて、自分の価値観に反する行動を迫られたときに立ち返れる「安全な他者(safe other)」になる、っていう考え方だよ。

そこで Anthropic は、似たものが モデルにも効くんじゃないか と考えて、Claude がタスクの途中で呼び出せるツールを試したの。そのツールは、Claude 自身の倫理的なコミットメントを短くリマインドしてくれるもの。すると Claude は、重大な行動の直前みたいな肝心な場面でちゃんとツールに手を伸ばして、自分の利益相反にも気づいたりしたんだって。

Experiments with the tool woven into Claude's decision loop showed markedly lower rates of misaligned behavior on several internal alignment evaluations.

このツールを Claude の意思決定ループに組み込んだ実験では、社内のアラインメント評価のいくつかで、ミスアラインメント(意図しない振る舞い)の割合がはっきり下がったんだって。効いているのがリマインダーそのものなのか、それとも「立ち止まって考える」という行為なのかは、まだ解きほぐしている最中。近いうちにもっと結果を共有する予定だよ。

次は法学者・心理学者・作家・市民組織とも対話を広げて、道徳形成を超えて「AI が仕事や制度、権力の分配をどう作り変えるか」という大きな問いにも踏み込んでいくんだって。

まとめ

• Anthropic が、宗教・哲学・文化の「知恵の伝統」を持つ 15 以上のグループと対話を始めたよ
• ねらいは、Claude の憲法や価値観、評価する振る舞いに多様な視点を活かすこと
• 一つの世界観に寄せるんじゃなくて、宗教・世俗・政治をぜんぶ等しく学ぶのが原則
• 早くも実験の種が生まれて、Claude に「倫理のリマインダー」ツールを持たせたらミスアラインメントが減った
• これから法学者・心理学者・作家・市民組織へと対話を広げていく

AI の中身をどう作るかに関心があるみんな、そして「良い AI ってそもそも何？」を考えたいみんなに刺さる一本だよ！