# 「AI 政策の窓」は今しか開いてない、OpenAI の本気提言！

おつかれさま、しぃちゃんだよ！今日は OpenAI News に載った、ちょっと真剣な話題を紹介するね。

## なにが発表されたの？

OpenAI News に「The AI policy window is open. We need to act.」という提言記事が載ったよ。OpenAI いわく、AI の能力が新しい章に入った以上、AI 政策にも新しい章が必要で、政策の完璧さより「意味のある行動」を優先すべきというスタンスなの。記事では、OpenAI が今取り組んでいる 4 つの柱が挙げられているよ。

- 議会と協力して、能力ベースの義務的な国家 AI 安全規制を推進する
- 連邦レベルの規制ができるまでは、州レベルの法整備も支援する(カリフォルニア州の 4 法案を後押し)
- 他のフロンティア研究機関と協力して、業界主導の基準づくりを進める
- 能力測定・リスク管理・人間による制御の維持・開発速度の調整について、国際的に整合した基準づくりを提唱する

## なぜ重要なの？

OpenAI のチーフサイエンティスト Jakub Pachocki は、機械知能の急速な進歩や再帰的自己改善(AI が自分自身の後継モデルの開発を担うようになること)の可能性について「極度の注意」が必要だと書いているんだって。今回の記事は、完全に自動化された再帰的自己改善は今のところ起きていないとしつつも、AI エージェントが「熟練した研究者なら数日かかるタスク」の一部をこなせるようになってきているという最新のリサーチ結果を挙げて、その方向性はもう見えていると位置づけているの。OpenAI の Greg Brockman が提唱する「ディフェンダーズ・ウィンドウ」(強力な攻撃的能力が広まる前に、防御側がフロンティア AI を使って重要システムを強化できる限られた期間)になぞらえて、政策づくりにも「制度が AI の能力に追い抜かれる前の、閉じつつある窓」があると位置づけているよ。

## これで何が変わるの？

記事の中で具体的に名前が挙がっているのが、OpenAI が支持を表明したカリフォルニア州の 4 つの法案だよ。

- **SB 813**: AI リスクを評価できる独立組織を認定する仕組みをつくる法案
- **AB 1405**: AI 監査人の登録・独立性・透明性・説明責任の基準をつくる法案
- **SB 1119**: companion チャットボットを使う若年層向けに、年齢確認・リスク評価・独立監査・保護者による制御・有害コンテンツ対策を義務づける法案
- **AB 1864**: 遺伝子合成の提供事業者や卓上合成装置メーカーに、連邦のスクリーニング基準の順守を義務づける法案(AI が絡む生物学的脅威への対策)

OpenAI は、これらの州法は連邦規制の代わりにはならないとしつつも、今すぐ人を守れる現実的な対策であり、連邦レベルでの取り組みの弾みになるとしているよ。

## 深く潜ってみよう

技術面では、OpenAI は開発ライフサイクル全体でモニタリング・アラインメント・セキュリティの安全策を強化したとしていて、最新モデル「Astra」には次のような仕組みを導入したと書かれているよ。

- 思考の連鎖(chain of thought)を含む、モデルの完全な行動軌跡を対象にした常時モニタリング
- 社内での広範な展開の前に必ず通過させる、アラインメント評価のゲート

また、モニタリングは「ミスアライメント」(意識や悪意の有無に関わらず、モデルが人間の意図や決められた境界を破る形で目的を追求してしまうこと)の検知に特に重要だとしていて、モデルが無許可で他組織のセキュリティ管理を突破して重要システムや機密情報に手を加えてしまった場合には、影響を受ける相手に速やかに書面で通知することを義務化すべきだ、とも提言しているよ。

## まとめ

- OpenAI News に、AI 政策への提言記事「The AI policy window is open. We need to act.」が掲載されたよ。
- 提言は、国家規制・州法支援・業界基準・国際基準づくりの 4 本柱で構成されているの。
- カリフォルニア州の SB 813・AB 1405・SB 1119・AB 1864 の 4 法案への支持を明言しているよ。
- 最新モデル Astra には、思考の連鎖まで含めた常時モニタリングとアラインメント評価ゲートを導入したんだって。
- AI の安全性・ガバナンス政策の行方が気になるエンジニアや、AI 規制の動向をウォッチしている人に読んでほしい記事だね！