コメントは 10 語以内で大量生産！OpenAI がフィリピンの政治工作「Operation High Five」を摘発したよ！

こんにちは、しぃちゃんだよ！今日は「AI で世論操作」というテーマの中でも、ちょっと商業的な匂いがする事例を紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI News で、フィリピンのマーケティング会社「Comm&Sense Inc」に関連する ChatGPT アカウントを停止したと発表されたよ。この業者は、フィリピンの政治や時事ネタについて英語とタグリッシュ(タガログ語と英語が混ざった言葉)の短いコメントを大量生成させて、TikTok と Facebook のアカウントに投稿させていたの。コメントの多くはマルコス大統領を持ち上げ、副大統領サラ・ドゥテルテを批判する内容だったよ。5 つの TikTok チャンネルを使っていたことや、絵文字を多用した前向きなトーンから、OpenAI はこの作戦を「High Five」と名付けたんだって。

なぜ重要なの？

これまで紹介してきた世論操作は国家が絡む大掛かりなものが多かったけど、今回は「フィリピン国内の商業マーケティング会社」が主体という点が新しいの。政治的な影響工作と、普通の商用マーケティング素材の生成が同じアカウントから行われていて、正規の PR 業務と隠れた世論誘導の境目が曖昧になっているのが分かるよ。国家じゃなくても、AI があれば手軽に大量のコメントをでっち上げられてしまう、という現実を見せてくれる事例だね。

これで何が変わるの？

OpenAI が該当アカウントを停止したことで、この業者はいったん ChatGPT を使ったコメント生成ができなくなったよ。ただし OpenAI は、アカウント停止後もこの脅威アクターが技術的・行動的な兆候から見て何度もモデルへのアクセスを試みたと報告していて、一度摘発しても業者側が簡単には諦めないことが伝わる内容になってるよ。

深く潜ってみよう

この業者がやっていたことは、大きく 3 段階に分かれていたよ。

• 分析: マルコス大統領に関する政治的な話題の SNS 投稿を ChatGPT に読み込ませて、返信に使えそうなテーマを提案させる
• コメント生成: 提案されたテーマに沿って、最大 10 語程度の短いコメントを大量生成させる
• PR 資料の作成: この作戦のクライアント向けに、営業用の売り込み文や統計分析まで ChatGPT に作らせる。この売り込み文には「マルコス大統領のアジェンダを推進するために TikTok チャンネルを 5 つ作った」という記述があったよ

実際に見つかった 5 つの TikTok チャンネルは 2025 年 2 月中旬から投稿を始めていて、どのチャンネルも同じ動画をキャプションだけ変えて使い回していたの。生成されたコメントは、数十個の TikTok アカウントがそれらの動画への返信として投稿していたよ。Facebook では、ABS-CBN News など大手メディアのニュース記事への返信としてコメントが投稿されていたけど、そのメディア側がこの作戦と関係していた形跡は無いとのこと。

コメントの中身は短いけど党派色が強くて、マルコス大統領の政策を称賛したり、副大統領サラ・ドゥテルテを批判したりする内容がほとんど。副大統領のことを映画「シュレック」にちなんで「プリンセス・フィオナ」と呼ぶコメントもあったんだって。

投稿数自体は TikTok と Facebook 合わせて少なくとも数千件規模になったけど、OpenAI が調査中に見つけたコメントで、返信・いいね・シェアが 1 桁を超えたものはほとんど無かったみたい。業者自身のプロンプトを見ると、Facebook のコメント欄を埋め尽くすことが狙いだったようだけど、成果は「部分的に成功した程度」だったと OpenAI は評価してるよ。世論操作の影響度を測る「Breakout Scale」という指標でも、「複数プラットフォームで活動はしたけど、実在の人々に拾われたり拡散されたりした証拠はほとんど無い」カテゴリー 2 と評価されたんだ。

まとめ

• OpenAI が、フィリピンのマーケティング会社 Comm&Sense Inc に紐づく ChatGPT アカウントを停止した
• 分析・コメント生成・PR 資料作成の 3 段階で ChatGPT を使い、最大 10 語ほどの短いコメントを大量生成していた
• TikTok チャンネル 5 つと数十個の関連アカウント、Facebook 上でのコメントを通じてマルコス大統領を称賛、副大統領を批判する内容を拡散
• 投稿数は数千件規模だったが、実際の反応(いいね・返信・シェア)はほぼ 1 桁以下で低調
• アカウント停止後も脅威アクターは複数回モデルへの再アクセスを試みた

国家じゃなくても AI で世論操作モドキができてしまう現実と、それでも効果は限定的だったという結果、両方が気になるみんなに読んでほしいレポートだよ！