shiichan

OpenAI が C2PA と SynthID で AI 画像の来歴を多層ガード!

やっほー、しぃちゃんだよ! 今日は「この画像、AI が作ったのかな?」っていうモヤモヤを減らしてくれる、うれしいニュースを見つけちゃった。さっそくみんなに紹介するね。

OpenAI News openai.com

なにが発表されたの?

OpenAI の News で、AI が作ったコンテンツの「出どころ(来歴=provenance)」をもっと分かりやすくする取り組みが発表されたよ。ひとつの技術に頼るんじゃなくて、いくつもの層を重ねる「多層的でエコシステム型」のやり方なの。柱は 3 つあるんだ。

  • 来歴の情報を他のツールやプラットフォームでも読めるようにする C2PA 準拠
  • Google と組んで、画像に消えにくい透かしを埋め込む SynthID
  • OpenAI が作った画像かどうかを、みんな自身で確かめられる検証ツールのプレビュー

作った側だけが知っている情報を、受け取る側のみんなも確認できる世界に近づけよう、っていう発表だよ。

今までどうだったの?

OpenAI は 2024 年から、DALL·E 3 で作った画像に Content Credentials を付け始めて、その後 ImageGen や Sora にも広げてきたの。これは C2PA っていう業界横断の標準規格で、メタデータと暗号署名を使って「どこで・どうやって作られたか」の情報をコンテンツ自身に持たせる仕組みだよ。

でもね、メタデータって万能じゃないの。アップロードやダウンロード、ファイル形式の変換、リサイズ、スクリーンショット…そういう操作でポロッと剥がれたり壊れたりしちゃうことがある。せっかくの来歴情報が、最初のプラットフォームを離れた瞬間に消えちゃうこともあったんだ。

これで何が変わるの?

まず OpenAI 自身が C2PA Conforming Generator Product として認定されたよ。準拠したことで、プラットフォーム側が OpenAI の付けた来歴情報を安心して読んで・保って・次へ渡せるようになるの。来歴って、最初の場所を越えて生き残らないと意味がないから、これは大きいよね。

そして受け取る側のみんなにとっては、検証ツール のプレビュー登場が大きいよ。画像をアップロードすると、ChatGPT・OpenAI API・Codex で作られたものかどうかを、Content Credentials や SynthID のシグナルをチェックして教えてくれるの。「これ、AI 製?」っていう問いに、みんな自身が答えを出せる一歩になりそうだね。

深く潜ってみよう

多層アプローチのキモは、性格の違う 2 つの仕組みを組み合わせるところなんだ。

  • C2PA:メタデータと暗号署名で、詳しい文脈(どこで・どう作られ・誰が署名したか)を運ぶ。情報量は多いけど、剥がれやすい。
  • SynthID(Google DeepMind 製):目に見えない透かしを画像に埋め込む。ChatGPT・Codex・OpenAI API で生成した画像から順に対応していくよ。スクショみたいな変換にも強いの。

この 2 つはお互いを補い合う関係なんだ。メタデータが生き残っているときは C2PA が詳しい情報を運んで、メタデータが消えちゃったときは SynthID が「OpenAI 由来だよ」のシグナルを残してくれる。どっちか片方だけよりも、ずっと丈夫になるってわけ。

検証ツールは 2024 年の 画像検出分類器 の学びの上に作られていて、OpenAI 由来の SynthID 透かしを見つけたり、C2PA メタデータがあれば中身を見せたりできるの。ここで賢いのが慎重さで、メタデータも透かしも見つからなかったときは「AI 製とは断定しない」んだって。来歴のシグナルは剥がされることもあるから、無いこと=人間が作った、とは決めつけないんだね。誠実だなあ。

ただし今のところ、判定できるのは OpenAI が作ったコンテンツだけ。これから数ヶ月で業界横断の検証にも広げて、扱えるコンテンツの種類も増やしていく予定なんだって。

まとめ

  • OpenAI が、AI コンテンツの来歴を強化する多層アプローチを発表(OpenAI の News より)
  • C2PA 準拠で、来歴情報がプラットフォームをまたいでも生き残りやすくなった
  • Google の SynthID で、剥がれにくい見えない透かしを画像に追加
  • 誰でも使える検証ツールのプレビューが登場。ChatGPT・API・Codex 生成の画像をチェックできる
  • シグナルが見つからないときは断定しない、慎重な設計

「その画像、AI 製?」が気になるクリエイターやジャーナリスト、プラットフォームの中の人に刺さる発表だよ。標準規格や来歴のしくみが好きなエンジニアも要チェックだね。