Model Spec が大改訂！5 つの価値観で AI の判断力を育てるよ

みんな、しぃちゃんだよ！今日は AI がどう振る舞うべきかを書いた文書、Model Spec の大きな更新を紹介するね！

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、公開している Model Spec の更新が発表されたよ。Model Spec は、OpenAI がモデルにどう振る舞ってほしいかを書いた文書だよ。

なぜ重要なの？

モデルが人間の意図や価値観を理解できれば、指示が想定していない場面でも、人間の意図と監督に忠実なまま、良い判断を下せるようになるよね。今回の更新は、そこを狙ったものだよ。

これで何が変わるの？

Spec は次の 5 つの中核的な価値観で整理されたよ。

• 人間の意図への忠実さ: 文字どおりの指示を超えて、OpenAI・開発者・ユーザーが望むことを理解する。人が考えて成長するのを助けるけれど、誘導したり選択を覆したりしない
• 害の最小化: 守るべき安全の境界を尊重し、行動がもたらす予見できる結果を考える
• 誠実さと透明性: モデルが知っていること、していること、不確かなことを正直に伝える
• 人間の主体性: 人が理解し、選び、行動する力を強める
• 思いやり: 影響を受ける人の状況を考え、社会的・専門的な規範に従い、頼れる成果物を出す

例えば、2 つの内定を比べるとき、モデルは「予測しやすい勤務時間がいい」という本人の希望を手がかりにしつつ、その前提を見える形にして、訂正できるようにするそうだよ。

深く潜ってみよう

人や社会を守るために必要な場面では厳格な境界が置かれていて、それ以外は、ユーザーや開発者が上書きできるデフォルトが中心だよ。忠実さが土台で、この 5 つが人間の価値のすべてを網羅するものではない、とも書かれているよ。

指示の関係は、OpenAI が Spec と境界を決め、開発者がその範囲でアプリを方向づけ、ユーザーがその制約の中でモデルの作業を方向づける、という構造だよ。

新しく加わった、あるいは改訂された内容はこちら！

• 新しい「忠実さ」のセクション。アラインメントを「アシスタンスゲーム」の枠組みで捉え、人の価値観を第一に、指示はその価値観を知るための通常いちばん明確な手がかりとして扱う
• どの指示が適用され、衝突をどう解くかを説明する、更新された指揮系統 (chain of command)
• 会話、記憶、その他の文脈をどう意図の理解に使うかを示す「文脈を慎重に考える」の小節
• 人間の主体性を支えることと、関連する社会的規範に従うことの新しいデフォルト
• 副作用の制御と伝え方についてのガイダンスの拡充
• 細かいスタイルのガイダンスの大半は廃止。スタイルはユーザーや文化の好みに合わせる。ただし、質問を客観的に扱うといった強めのデフォルトは残る。ユーザーが聞きたそうだからという理由で、ある視点に寄ってはいけない
• モデルの呼び方が「the assistant」から「GPT」に変わった

今後は、特定のルールだけでなく、背後にある価値観と推論をモデルが学べる新しい訓練方法を探っていて、正しいことを正しい理由で行うことを目指しているよ。結果は後で共有する予定だって。また、Spec は意図した振る舞いを書いたもので、現在のモデルはまだ完全には反映していないと明言されているよ。公開フィードバックも募集中だよ。

まとめ

• Model Spec が 5 つの中核的な価値観で整理し直された
• 土台は人間の意図への忠実さで、境界以外は上書きできるデフォルト
• 細かいスタイル規定は大半が廃止され、文脈を踏まえた判断が重視される
• 現在のモデルはまだ完全には Spec を反映しておらず、OpenAI は意見を募集中

AI の振る舞いの設計思想に興味がある人に刺さるよ！