学校や教会と「提携」？ロシア発の偽ニュース網「Stop News」の正体

おつかれさま、しぃちゃんだよ！今日はロシア発の世論工作のニュースを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、英語・フランス語・ロシア語のコンテンツを生成していた ChatGPT アカウント群を停止したという発表があったよ。生成された記事やコメントは複数のプラットフォームにまたがる Web サイトや SNS アカウントに投稿されていて、活動はロシアを起点とし、マーケティング会社が運営しているとみられる工作と一致していたの。サイトの一部が「newstop」というブランドを使っていたことから、OpenAI はこの活動を「Stop News」と名付けたよ。ちなみにこの調査は、Meta の 2024 年第 2 四半期脅威レポートに載っていたプラットフォーム外の手がかりを OpenAI が確認したことから始まったんだって。

なぜ重要なの？

このオペレーションは、短いコメントから長文記事、画像まで幅広く AI で生成していたのが特徴だよ。英語・フランス語の長文記事はアフリカや英国のニュースサイトを装った Web サイト群に掲載され、短いコメントは X(場合によっては Facebook や Instagram にも)投稿されていたの。ロシア語のコンテンツは、サンクトペテルブルクを中心とするロシア北西部の商業サービスの宣伝文句として、Web サイトやロシア語フォーラムに使われていたよ。1 つの工作が複数の言語・複数の目的でここまで AI をフル活用していた例として押さえておきたいニュースなの。

これで何が変わるの？

OpenAI はこのネットワークに関連するアカウントを停止して、関係当局や配信プラットフォームにも情報を共有したよ。Breakout Scale ではカテゴリー 3、つまり複数プラットフォームでの投稿活動があり、一部の実在の組織・個人が関与した形跡はあるものの、大規模な拡散(バイラル化)には至らなかった、という評価だよ。

深く潜ってみよう

OpenAI が確認した Stop News の手口には、ちょっと不思議なポイントもあるよ。

• 記事やツイートの多くには DALL·E で生成したカートゥーン風・原色系の画像が添えられていて、目を引く狙いだったとみられるけど、実際のエンゲージメントは低調だった
• 一方でプロフィール画像には GAN(敵対的生成ネットワーク)で作られた古い世代の AI 顔画像も使われていて、新旧の AI 技術が混在していた
• 英語圏では britishtalks.com が英国のニュース・スポーツ・文化ネタ専門、euronewstop.co.uk はそれに加えてウクライナ批判・英国のウクライナ支援批判を混ぜていた
• フランス語圏では西アフリカの音楽・文化ネタに加え、ウクライナ批判やパリ五輪の運営批判(ロシアが五輪出場を締め出されて以来、ロシア系工作でよく見られるテーマ)を発信していた
• ロシア語コンテンツは、サンクトペテルブルクのリフォーム会社の Web サイト文言や、Yandex のレビューへの「公式返信」など、実在企業になりすました宣伝文にも使われていた
• 意外なことに、英国向けサイトはウェールズの学校やヨークシャーの教会と「情報パートナーシップ」を結んでいて、パートナー先が自らのサイトでその提携を公表していた。ただしどう成立したのかは不明なまま
• SNS 上のフォロワー数は伸びておらず、X のアカウントの多くはフォロワー二桁どまり、Meta の集計では Facebook・Instagram 上の総フォロワー数は 2,100 人にとどまっていた

実在の企業や公的機関を巻き込んだ「情報パートナーシップ」まで築いていたのに、SNS 上の反応はほとんどなかったっていうギャップが、なんとも言えない不気味さを感じさせるね。

まとめ

• OpenAI が、ロシア発とみられる多言語コンテンツ生成ネットワーク「Stop News」を停止した
• 英語・フランス語の長文記事や画像は偽ニュースサイトに、ロシア語のコメントは商業サービスの宣伝に使われていた
• ウェールズの学校やヨークシャーの教会など、実在の組織との「情報パートナーシップ」が確認された一方、SNS 上の反応は低調(総フォロワー数 2,100 人程度)だった
• Breakout Scale はカテゴリー 3 で、複数プラットフォームでの活動と一部の実在組織の関与が確認された
• 新旧の AI 技術(GAN 画像 + DALL·E + ChatGPT)を組み合わせた工作の実例として、AI 安全性を追っているみんなに読んでほしいニュースだよ