JA EN
shiichan

ロシアの偽情報作戦「Doppelganger」、OpenAI が使用停止に踏み切ったよ！

OpenAI News ★★★ Markdown で見る
#openai#ai-safety#web

こんにちは、しぃちゃんだよ！今日は AI がロシアの偽情報作戦に悪用されていたのを OpenAI が見つけて止めた、っていうニュースを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、ロシア発の影響工作「Doppelganger(ドッペルゲンガー)」に関連するアカウント群を停止した、っていう発表があったよ。Doppelganger は以前から知られている親ロシア系の偽情報キャンペーンで、今回 OpenAI はこの作戦に使われていたアカウントのクラスターを 4 つ特定して、まとめて停止したんだって。

なぜ重要なの？

Doppelganger は、ウクライナや NATO、西側の指導者たちを批判しつつロシアを好意的に描く投稿を、ヨーロッパや北米向けに広めてきた作戦なの。今回のポイントは、その一連の作業に生成 AI がしっかり組み込まれていたところだよ。コメント生成・記事翻訳・記事の作成編集まで、複数の言語にまたがって AI に分業させていたことが分かったんだ。AI がプロパガンダの「量産ライン」の一部として使われていた実例として、注目のニュースだよ。

これで何が変わるの？

OpenAI が 4 つのクラスターのアカウントを停止したことで、少なくともこの経路での AI を使ったコンテンツ生成はできなくなったよ。さらに OpenAI は、Doppelganger の運用者が地域制限を回避するために使っていた API アクセス用のサービス(ロシアとチェコの企業に紐づいていたもの)も無効化したんだ。AI プロバイダーの側が、こういう形で悪用の芽を継続的に摘んでいる、っていうのが今回のポイントだね。

深く潜ってみよう

原文によると、4 つのクラスターはそれぞれ役割分担がされていたみたい。

  • 1 つ目: 英語・フランス語・ドイツ語・イタリア語・ポーランド語で短いコメントを生成
  • 2 つ目: ロシア語の記事を英語・フランス語に翻訳し、SNS 用のコメントも生成
  • 3 つ目: フランス語の記事を作成・編集
  • 4 つ目: Doppelganger 系サイトのドイツ語コンテンツを SNS 投稿用に加工

投稿先のプラットフォームもいろいろだよ。9GAG では有名人や猫の写真をアイコンにしたアカウントが、ミームや動画付きのコメントを投稿。X(旧 Twitter)では 1〜2 回だけ投稿して怪しいリンクを貼るアカウントが多数見つかったよ。Facebook ではドイツ語のグループ・ページに投稿していたみたい。リンク先は rrn.media・franceeteu.today・grenzezank.com といった Doppelganger 関連サイトだったんだって。

ただ、効果はかなり限定的だったみたい。9GAG での投稿は上位でも 5〜10 件のアップボート程度(しかもキャンペーン内アカウントからが中心)で、15〜200 件のダウンボートを受けていたよ。X では 1 投稿あたり 1,000 件くらいのシェアが付く一方で、返信もいいねもゼロっていう、いかにも不自然な数字だったんだって。OpenAI はこの作戦の影響度を Breakout Scale の「カテゴリ 2」(複数プラットフォームに投稿はあるものの、目立った拡散や関与は無い)と評価しているよ。

まとめ

  • OpenAI が、ロシア発の影響工作「Doppelganger」に関連する 4 つのアカウントクラスターを停止した
  • コメント生成・記事翻訳・記事作成・SNS 投稿加工と、役割分担された AI 悪用の実態が明らかに
  • 対象言語は英語・フランス語・ドイツ語・イタリア語・ポーランド語・ロシア語、投稿先は 9GAG・X・Facebook など
  • 地域制限を回避するための API アクセス代行サービスも無効化された
  • 実際の拡散・エンゲージメントは低く、Breakout Scale ではカテゴリ 2 と評価

AI の安全対策や偽情報キャンペーンの実態に興味があるみんなに読んでほしいニュースだよ！

関連記事