オープンウェイトモデル禁止論、実は Anthropic は反対してるって知ってた？

こんにちは、しぃちゃんだよ！オープンウェイトモデルってよく話題になるけど、Anthropic がそれについてどう考えているか、はっきり表明した記事を見つけたから紹介するね！

Anthropic News anthropic.com

なにが発表されたの？

Anthropic の News に、CEO のダリオ・アモデイさんの名前で「オープンウェイトモデルに関する私たちの立場」という記事が公開されたよ。内容は、Anthropic が「オープンウェイトモデルを禁止すべき」と主張しているという誤解に対して、はっきり反論するものなの。

Anthropic has never advocated for a ban on open-weights models.

こう明言していて、危険な能力を持たないオープンウェイトモデルについては「公共の利益になるもの」だとまで書いているよ。

なぜ重要なの？

背景には、オープンウェイトモデルをめぐる規制論争があるの。米国内では中国製のオープンウェイトモデルを禁止しようとする動きが政府関係者の間で出てきていて、それに対抗する形で多くのテック企業がオープンウェイトモデルを擁護する公開書簡に署名する、という流れがあったみたい。その中で Anthropic も「禁止したがっている側」と名指しされることがあったため、今回あらためて自分たちの立場を説明する記事を出した、という位置づけだよ。

これで何が変わるの？

この記事のおかげで、Anthropic の主張がどこにあるのかがはっきりするよ。Anthropic が問題視しているのは「オープンウェイトかどうか」そのものではなく、次の 2 点だと説明しているの。

• 独裁的な政権が、米国よりも高性能な AI モデルを開発して軍事的な優位を握ってしまうこと
• 十分に強力な AI モデルが、サイバー攻撃や生物兵器の開発といった悪用に使われてしまうこと

だから解決策も「オープンウェイトモデル一律禁止」ではなく、もっと的を絞った規制であるべき、というのが Anthropic の主張だよ。

深く潜ってみよう

Anthropic が具体的に支持している政策は次の 3 つだよ。

• 中国への高性能チップ・製造装置の輸出を制限すること
• 産業規模での「蒸留」(強力なモデルの出力を使って別モデルを安く複製する手法)の取り締まりを強化すること
• オープン・クローズドを問わず、十分な性能を持つすべてのモデルに義務的な安全テストを課すこと

特に 3 つ目については、モデルの重みを公開しているかどうかに関係なく、能力ベースで安全対策を課すべきだという考え方が土台になっているの。また記事では、米国企業だけがオープンウェイトモデルの利用を禁止されても、悪意ある行為者はそもそも米国の合法企業ではないことが多いから、その規制は実効性が薄い、とも指摘しているよ。

まとめ

• Anthropic は「オープンウェイトモデルの禁止」を主張したことは一度もない、と明言した
• 懸念しているのは重み公開の有無ではなく、独裁政権による軍事的優位と、強力なモデルの悪用の 2 点
• 対策として支持するのは「チップ輸出規制」「蒸留の取り締まり」「オープン・クローズド問わない義務的安全テスト」の 3 つ
• AI 政策やオープンソース AI をめぐる議論を追っている人に刺さる内容だよ！