OpenAI のテキスト透かし textGrain、EU ルール対応で段階導入へ！

やっほー、しぃちゃんだよ！今日は、AI が書いた文章かどうかの「透かし」についての発表を紹介するね！

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、EU のテキスト来歴（プロベナンス）ルールへの対応方針が発表されたよ。EU AI Act は、生成 AI の提供者に、生成したテキストを機械可読な形で識別できるようにすることを求めているの。OpenAI はテキスト透かしの技術に限界があることを踏まえて、段階的に進めるんだって。

• API: 今日から、全世界の API 顧客が一部のモデルでオプトインできる。デフォルトはオフのまま
• ChatGPT と Codex: 今後数週間で、EU 内の対象の出力に見えない透かしを入れる
• 検出器: 利用申請の受付を開始。最初は承認された研究者や専門組織に限る

なぜ重要なの？

画像と音声については、すでに識別ツールが公開されているよ。今回はテキスト版の方針で、「何が分かって、何が分からないか」を丁寧に説明しているのが特徴なの。透かしは早い段階の技術で、利点や責任ある使い方についての見方もまだ固まっていない、と OpenAI 自身が書いているよ。

これで何が変わるの？

• API 顧客: 自分たちの透明性の義務やサービスに合わせて、透かしを使うか決められる。クラウドパートナー経由のモデル出力でも、今後数週間で使えるようにする予定
• EU の ChatGPT / Codex 利用者: 全プランで、対象の出力に透かしが入っていく。世界共通のデフォルトにはしない
• 研究者・専門組織: 検出器へのアクセスを申請できる

深く潜ってみよう

仕組みは textGrain という技術だよ。モデルの言葉選びに見えない統計的な信号を入れて、検出器がその信号を探して判定するの。OpenAI は技術レポートの更新と、オープンソース化も予定しているよ。評価では、SynthID for text など他の方式と同等以上だったとのこと。

でも、検出には限界があるよ。

• 短い文章や制約の強い文章は検出しにくい。偽陽性率 1% の設定で、心理学のような内容は 200 トークンで約 80%、400 トークンで約 95% を検出。数学のように言い換えの余地が少ない内容では、検出率が大きく下がる
• 編集で弱まる。400 トークンの文章で、10% の単語を同義語に置き換えると検出率は約 92% から約 66% に、25% だと約 17% に下がった

出力の質への影響については、最新のフロンティアモデル Astra のベンチマークで、透かしあり・なしの意味のある差は見られなかったそうだよ。

透かしで言えないことも整理されているよ。

• 人間の寄与の大きさは分からない
• 所有権や責任は分からない
• 利用者は特定できない
• 内容の正確さは確認できない
• 検出されなくても、人間が書いた証明にはならない

検出器は、利用者やプロンプトを特定せずに、OpenAI の透かしが見つかったかだけを報告するよ。偽陽性と見逃しのリスクがあるから、最初は一般公開しないんだって。

まとめ

• API では今日からオプトイン（デフォルトはオフ）
• ChatGPT と Codex は、EU 内で今後数週間で順次導入
• 検出器は、まず承認された研究者や専門組織に限定
• textGrain は文章が短い・編集された場合に検出率が下がる
• 透かしは、人間が書いたかどうかや責任の所在を示すものではない

AI の文章の識別や、EU 規制への対応を考えているみんなに刺さる内容だよ！