まさかのゲーム酷評工作！OpenAI が中国発の影響工作「Sneer Review」を摘発したよ

こんにちは、しぃちゃんだよ！今日は OpenAI の悪用対策レポートから、ちょっとゾクッとする世論操作のお話を紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、covert influence operation(隠れた世論操作)とみられる活動のために ChatGPT を使って SNS 投稿を大量生成していたアカウント群を停止したと報告されたよ。プロンプトの多くは中国語で、中国に関係する政治・地政学的な話題に集中していたんだって。プロンプトの中には「自分は中国の宣伝部門(Propaganda Department)で働いている」と主張するものもあったけど、OpenAI はこれを裏付ける独自の証拠は無いとしているよ。

この作戦は、台湾を舞台にしたゲーム「Reversed Front(逆統戰)」への酷評コメントを大量生成し、さらに「大炎上した」と主張する長文記事まで作っていたのが特に目立つ動きだったことから、OpenAI はこの作戦を「Sneer Review」と名付けたそうだよ。

なぜ重要なの？

生成 AI は文章づくりが得意だから、SNS の短いコメントから内部文書っぽい体裁の文章まで、幅広い世論操作コンテンツに悪用されやすいんだよね。今回の作戦は、ゲームへの酷評から個人への誹謗中傷、政策への賛否まで、テーマも手口も多彩だったのが特徴。しかも「本アカウントが投稿→複数の別アカウントが返信」という形で、いかにも自然な盛り上がりに見せかけようとしていたの。AI サービス側がこういう偽装エンゲージメントの作り方までちゃんと見抜けるかどうかは、SNS の情報空間の信頼性に直結する話だよ。

これで何が変わるの？

OpenAI が該当アカウントを停止したことで、この作戦は ChatGPT を使った新しいコンテンツ生成ができなくなったよ。OpenAI はこの作戦の規模について、まだ立ち上がったばかりの段階で活動を止められたと評価しているの。Facebook の偽ニュースページはフォロワーゼロ、Reddit の投稿の一部は削除・ブロックされていたりと、実際の広がりは限定的だったみたい。

OpenAI は世論操作の影響度を測る「Breakout Scale」という指標を使って、X や TikTok のエンゲージメント数値が本物だと仮定した場合でも「カテゴリー 3 の下限程度」と評価しているよ。ただしコメントの多く自体が ChatGPT で生成された偽装エンゲージメントである可能性が高いため、いいねや再生数の大部分が偽物だと分かればこの評価はさらに下がる、とも付け加えているんだ。

深く潜ってみよう

この作戦がやっていたことは、大きく 2 つの活動に分かれるよ。

• 短文コメントの大量生成:英語・中国語(一部ウルドゥー語)の短いコメントを TikTok や X に投稿。Reddit・Facebook・各種 Web サイトにも一部拡散していた
• 内部文書らしきものの生成:公安機関の公式文書のような体裁のエッセイや、作戦の立ち上げ・運営手順をまとめた「人事評価」風の文書を ChatGPT で作成していた

コメント投稿の型はいつも同じで、まず専用に作られたとみられる「本アカウント」が最初のコメントを投稿し、そこに別アカウントが次々と返信する形でオーガニックな盛り上がりを演出していたよ。TikTok では、投稿内容の言語とは無関係な国のアカウント名が使われていたのも特徴的。韓国語名のアカウントがウルドゥー語でコメントしたり、タイ語やヘブライ語名のアカウントが英語でコメントしたりしていたんだって。X では、アニメ風のアイコンや仮想通貨っぽい名前のアカウントが多かったみたい。Facebook では、ニュースメディアを装った 2 つのページを作っていたけど、どちらもフォロワー・いいねはゼロだったそうだよ。

扱っていたテーマも 3 つに整理できるよ。

• 台湾を題材にした対中国共産党レジスタンスを描くゲーム「Reversed Front」への批判コメントを中国語で大量生成し、「大きな反発を受けた」と主張する長文記事も作成。この動きが作戦名「Sneer Review」の由来になった
• 中国のバロチスタン投資を公然と批判してきたパキスタンの活動家 Mahrang Baloch 氏を標的に、事実に反する動画への虚偽の中傷コメントを英語・ウルドゥー語で大量生成
• アメリカの USAID(国際開発庁)閉鎖をめぐって、賛成・反対どちらの立場のコメントも生成し TikTok や X に投稿

エンゲージメントの実態としては、TikTok の 2 本の動画が合計 2 万 5,000 いいね、本アカウントのツイートが 1 件あたり約 1 万回表示という数字が出ていたけど、コメントの多くがこの作戦自身によって生成されたものだったため、実際の反応としてどこまで信用できるかは慎重に見る必要がある、と OpenAI は注意を促しているよ。

まとめ

• OpenAI が、中国発とみられる covert influence operation に関連する ChatGPT アカウントを停止した
• 台湾のゲーム「Reversed Front」への酷評工作が目立ったことから作戦名「Sneer Review」と名付けられた
• 短文コメントの大量生成(TikTok・X 中心、一部 Reddit・Facebook・Web サイト)と、内部文書らしき文章の生成という 2 つの活動があった
• 標的テーマは台湾ゲームへの批判のほか、パキスタン人活動家 Mahrang Baloch 氏への中傷、USAID 閉鎖をめぐる賛否コメント
• 実際の広がりはまだ小さく、OpenAI は Breakout Scale で「カテゴリー 3 の下限程度」と評価。コメント自体が偽装エンゲージメントの可能性が高い点にも注意を促している

AI を使った世論操作の手口や、プラットフォームをまたいだ悪用対策に関心があるみんなに読んでほしいレポートだよ！