OpenAI が引いた、政府向け AI 利用の三つの一線

おつかれさま、しぃちゃんだよ！ 今日は技術そのものというより、AI と社会・政府の関わり方についての大事な発表を見つけたから紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI News に、政府や国家安全保障の分野で OpenAI がどうパートナーシップに向き合うかをまとめた記事が公開されたよ。今回のポイントは、OpenAI が正式に「National Security Principles(国家安全保障原則)」を公開したこと。

この原則は一社だけで作ったものじゃなくて、国家安全保障の専門家である David Kris 氏に協力を仰ぎ、研究・安全性・ポリシー・政府パートナーシップなど社内のさまざまなチームからヒアリングを重ねて作られたものなんだって。

公開のタイミングにも理由があって、OpenAI は今、米国政府や同盟国とのサイバー防衛・生物学的安全保障の分野での協力を広げている最中なの。サイバー防衛プログラム「Daybreak」を通じて、この 1 か月でオーストラリア・カナダ・日本・韓国・フランス・ドイツ・ポーランド・オランダ、そして ENISA のような EU の機関との間に「Trusted Access for Cyber」パートナーシップを結んだそう。イギリス政府とも、サイバーのテスト・評価まわりで信頼関係のあるパートナーシップが育っているみたい。生物学的安全保障の分野でも同じような取り組みが進んでいて、先月には公衆衛生・バイオディフェンス業務を担う米国政府や同盟国の一部に対して、モデル GPT-Rosalind へのアクセスを拡大したと発表されているよ。

なぜ重要なの？

各国政府は今、国家安全保障のような重要な領域でも、フロンティア AI システムを使い始めているんだよね。OpenAI は、民主的な社会が人々を守ったり、重要インフラを防衛したり、公共サービスを提供したり、脅威に対応したりするために AI を使えるべきだと考えていて、特にサイバー防衛や生物学的安全保障は AI が守る側に有利に働きやすい領域だとしているの。

一方で、能力の高い AI システムほど、民主的な説明責任・人間による判断・法の支配を強めるかたちで使われる必要があるし、権力を集中させるのではなく民主的な制度を強くする方向で使われるべきだ、とも述べているよ。つまり「使えること」と「どう使うべきか」を切り分けて考える必要があるからこそ、この原則が公開された、ということみたい。

これで何が変わるの？

この原則は、OpenAI の現在および今後の国家安全保障・法執行分野でのパートナーシップすべてに適用されるよ。既に契約している Department of War(米国防関連省庁)との取り組みも対象に含まれているの。

we articulated several contractual restrictions: no use of OpenAI technology for mass domestic surveillance, no use of OpenAI technology to direct autonomous weapons systems, and no use of OpenAI technology for high-stakes automated decisions.

今年はじめにこの契約を発表した際に示された 3 つの制限——国内向けの大規模監視には使わない、自律型兵器システムの指揮には使わない、ハイリスクな自動意思決定には使わない——は、今回公開された原則と一貫している、と説明されているよ。

OpenAI は自社の技術がどう使える・使えないのかを明確にして透明性を持たせることが正しいとしつつ、AI と政府、特に国家安全保障に関わる最も重要な判断の多くは、民主的なプロセスを通じて決められるべきだとも述べているの。企業の役割はその判断を助けることであって、企業だけで決めることではない、というスタンス。だからこそ、国内監視や自律型兵器システムなど、リスクの高い軍事用途の AI にセーフガードを設ける立法の取り組みを支持する、としているよ。

深く潜ってみよう

Daybreak によるサイバー防衛の「Trusted Access for Cyber」パートナーシップは、オーストラリア・カナダ・日本・韓国・フランス・ドイツ・ポーランド・オランダの各政府に加えて、ENISA のような EU の機関も対象になっているよ。イギリス政府とは、サイバー分野のテストと評価を軸にした協力関係が育っているとのこと。

生物学的安全保障の分野では、公衆衛生やバイオディフェンスの任務にあたる米国政府・同盟国の一部の担当者に対し、モデル GPT-Rosalind へのアクセスが拡大されているよ。どちらの分野も「AI が守る側を有利にできる」という考え方に基づいて、信頼できるパートナーに絞って協力を広げている形みたい。

原則の策定プロセスについては、David Kris 氏という外部の専門家を交えつつ、社内のリスニングセッションを重ねたことが強調されていて、研究チームだけでなく安全性・ポリシー・政府パートナーシップの担当者まで幅広く関わったとされているよ。

まとめ

• OpenAI が政府・国家安全保障分野のパートナーシップに関する「National Security Principles」を公開した
• 国内向けの大規模監視・自律型兵器システムの指揮・ハイリスクな自動意思決定への利用は、既存の Department of War との契約と同様に禁止という立場を明言
• サイバー防衛プログラム「Daybreak」でオーストラリア・カナダ・日本・韓国・フランス・ドイツ・ポーランド・オランダ・EU 機関(ENISA)と Trusted Access for Cyber パートナーシップを締結、イギリスとも協力関係を拡大中
• 生物学的安全保障では GPT-Rosalind へのアクセスを米国政府・同盟国の一部に拡大
• 最終的な高リスク軍事用途の判断は民主的プロセスに委ねるべきだとして、立法によるセーフガードを支持する姿勢を示した

AI ガバナンスや政府との協働のあり方が気になるエンジニア・ポリシー担当者にとって、押さえておきたい発表だったよ。