しぶとすぎ！ロシア発「Stop News」、AI 動画で活動を再開してたよ

こんにちは、しぃちゃんだよ！今日はちょっと意外だけど笑えない話、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、2024 年 10 月に「Stop News」と名付けて摘発したロシア発の影響工作ネットワークが、活動を再開しようとしていたことが報告されたよ。同じネットワークが ChatGPT を使って新しいコンテンツを作ろうとしていたアカウント群を、OpenAI が停止したという発表なの。マーケティング会社が運営しているとみられる点も、以前の調査と一致しているみたい。

今までどうだったの？

Stop News は、もともと 2024 年 10 月に OpenAI が摘発した工作だよ。英語・フランス語・ロシア語でニュース記事や SNS コメントを大量生成して、アフリカや英国のニュースサイトを装った Web サイト群や X などの SNS に投稿していたの。DALL·E で作ったカラフルなカートゥーン画像を添えたり、ウェールズの学校やヨークシャーの教会と「情報パートナーシップ」を結んでいたことも分かって、OpenAI は当時この活動を Breakout Scale のカテゴリー 3(複数プラットフォームでの活動に加えて、一部の実在組織・個人の関与がみられるレベル)と評価していたよ。

これで何が変わるの？

今回、OpenAI は同じネットワークが ChatGPT を使ってコンテンツづくりを続けようとしているのを見つけて、関連アカウントを停止したよ。前回との違いは、テキストや画像だけでなく動画コンテンツの生成に力を入れるようになっていたこと。ロシア語の台本を作らせて、それをフランス語に翻訳させ、さらに SEO 向けの説明文やハッシュタグまで生成させる、という一連の流れを ChatGPT にやらせていたんだって。動画そのもの(AI ニュースキャスターの映像)は OpenAI のモデルでは作られておらず、他社の AI ツールが使われたとみられているけど、どのサービスかは特定できていないみたい。

深く潜ってみよう

今回確認された Stop News の新しい手口は、なかなか手が込んでいるよ。

• ロシア語の長文台本を書かせて 2 文ずつのスニペットに分割し、各スニペットに対応する動画生成プロンプトを別の AI モデル向けに作らせていた
• そのあとで台本全体をフランス語に翻訳させていた。ある動画のキャプションには "ces" と "ses" を取り違えるフランス語の文法ミスがあって、ChatGPT の翻訳自体は正しかったことから、音声から書き起こした際にネイティブのチェックを受けずそのまま使われたことがうかがえるみたい
• newstop[.]africa と紐づく YouTube チャンネルのほか、「Stop News」のブランドを名乗らない YouTube・TikTok チャンネルにも AI ニュースキャスターの動画が投稿されていて、そのキャスターの見た目は 2025 年 1 月から 6 月にかけて変化していった
• コンテンツの中身は大きく 3 系統あって、フランス語ではフランスやアメリカのアフリカでの役割を批判しつつロシアを称賛する内容、英語ではウクライナとその支援国を批判する内容、そしてロシアの商業サービス(違法賭博の広告なども含む)向けの宣伝文が作られていた
• 前回に比べて画像生成の比率はかなり下がっていたよ。これはフランスの政府機関 VIGINUM も指摘している「OpenAI と Meta のレポート公開後、AI 生成画像の利用が大きく減った」という傾向と一致しているみたい

反応の広がりはやっぱり限定的で、中心アカウントの「Newstop Africa」は 2025 年 8 月時点でフォロワー 172 人、最大リツイート数も 4 件どまり。AI ニュースキャスターの YouTube・TikTok チャンネルもそれぞれフォロワー約 1,900 人で、TikTok は 56 本の動画で合計 5,855 いいね(最多視聴は 63,300 回、最少はたった 87 回)、YouTube は 50 本の動画で合計約 25 万 5,000 回再生(平均 5,100 回)。拡散や引用の形跡は見当たらなかったみたい。

さらに興味深いのは、前回の評価の見直しだよ。OpenAI は 2024 年の時点で、英国の Web サイトと結んでいたように見えた「情報パートナーシップ」を根拠に Breakout Scale カテゴリー 3 と評価していたの。でもその後、VIGINUM やオープンソース調査者の研究によって、この「パートナーシップ」は実は虚構で、サイト管理者が知らないうちに技術的な不備を悪用してコンテンツを紛れ込ませていただけだったことが分かったんだって。そのため OpenAI は今回、この工作の評価をカテゴリー 2(複数プラットフォームでの活動はあるものの、実質的な広がりはない)に下方修正したよ。

まとめ

• OpenAI が、2024 年に摘発した Stop News と同一のロシア発ネットワークによる、新たな ChatGPT 利用を停止した
• 今回は画像生成よりも、動画の台本・翻訳・SEO 用テキストの生成に力を入れていた(動画自体は他社の AI ツールが使われたとみられ、特定はできていない)
• AI ニュースキャスターの YouTube/TikTok チャンネルや newstop[.]africa 系の X アカウントで発信していたが、フォロワー・再生数・拡散はいずれも低調だった
• 2024 年時点の「英国サイトとの情報パートナーシップ」は、その後の調査で虚構(サイトの技術的な不備を悪用したもの)と判明し、OpenAI は Breakout Scale の評価をカテゴリー 3 からカテゴリー 2 に下方修正した
• 摘発された工作が形を変えて舞い戻ってくる実例として、AI 安全性を追っているみんなに読んでほしいレポートだよ