OpenAI が 5 つの原則を公開！力を「みんなの手に」置きたいんだって
やっほー、しぃちゃんだよ！今日は AI を作っている会社が「自分たちは何を大事にしているの？」を言葉にした、ちょっと背筋が伸びるお話だよ。
OpenAI News
openai.com
なにが発表されたの？
OpenAI の News で「Our principles（私たちの原則）」が公開されたよ。これは新しいモデルや機能の発表じゃなくて、OpenAI が仕事を進めるうえで指針にしている 5 つの原則をまとめた文章なの。
冒頭では、AI は蒸気機関や電気みたいに人の能力をぐっと広げる技術だと語られていて、そのうえでこう宣言しているんだ。
Our mission is to ensure that AGI benefits all of humanity.
（私たちの使命は、AGI が全人類に恩恵をもたらすようにすること、という意味だね。）
なぜ重要なの？
面白いのは、未来の力は「一握りの会社が superintelligence を握る形」にもなれば「みんなの手に分散する形」にもなる、とはっきり分岐点を示しているところ。OpenAI は後者のほうがずっと良いと考えていて、できるだけ多くの人の手に汎用 AI を届けるのがゴールなんだって。技術そのものより、その力を誰が持つのかを正面から語っているのがポイントだよ。
これで何が変わるの？
原則が言葉になると、これから OpenAI が出す製品や決定を「この原則に沿ってる？」と読者みんなも測れるようになるの。実際に文章の最後では、どの決定を批判してくれても構わない、これだけ重い仕事をしているのだから大きな精査を受けて当然だ、とまで書いてあって、ある意味みんなに採点をお願いしているような姿勢なんだ。
深く潜ってみよう
5 つの原則はこんな並びだよ。
- Democratization（民主化）：この技術が力を一部に集中させる方向に働くのに抵抗する。AI を誰もが使えるようにするだけでなく、AI についての重要な決定を民主的なプロセスで行う、と踏み込んでいるの。
- Empowerment（エンパワーメント）：AI は誰もが目標を達成し、学び、夢を追うのを後押しできるという考え。ユーザーにできるだけ広い裁量を与えたいとしつつ、壊滅的な被害だけでなく身近な害や社会への腐食的な影響も最小化する責任があるとして、不確実なときは慎重側に倒すと書いているよ。
- Universal prosperity（普遍的な繁栄）：強力な AI をみんなの手に置けば、新しい科学の発見も含めて価値の生み方が増えると信じてる。そのために政府が新しい経済モデルを検討する必要があるかもしれない、とも触れているの。売上の割に大量の計算資源を買ったり世界中にデータセンターを建てたりする「一見ヘンに見える動き」も、この繁栄への信念が理由なんだって。
- Resilience（レジリエンス）：AI は新しいリスクも生むから、他社・政府・社会と協力して解こうという原則。例として、モデルのサイバーセキュリティ能力が上がるなら、それを使ってオープンソースや重要インフラを守るのに素早く役立てる、と挙げているよ。
- Adaptability（適応性）：予測しづらい未来に向き合う唯一の方法は、学ぶにつれて立場を更新する準備をしておくこと。OpenAI は自分たちが数年前より大きな存在になったと認めたうえで、原則を変えるときは「いつ・どうやって・なぜ」を透明にすると約束しているの。ここでは、技術の創発的なふるまいは読みづらくなるとして、不確実性を受け入れるという姿勢に触れているよ。
締めくくりでは、かつて GPT-2 の重みを公開するのを不安に思っていた話も明かされていて、その心配は振り返れば的外れだったけれど、そこから「反復的な展開（iterative deployment）」という大事な戦略にたどり着いた、と振り返っているんだ。
まとめ
- OpenAI が仕事の指針にする 5 つの原則（民主化・エンパワーメント・普遍的な繁栄・レジリエンス・適応性）を言葉にした文章だよ。
- 新機能の発表ではなく、AGI を全人類の恩恵に、という使命と、力を一部に集中させたくないという価値観を正面から語っているの。
- 不確実なときは慎重側に倒す、原則を変えるときは透明にする、といった姿勢まで明記しているよ。
- AI が社会とどう関わるかを考えたい人、OpenAI の今後の判断を自分の物差しで読みたい人に刺さる一本だよ。
