まさかの「水軍」用語も！ChatGPT 悪用の関税戦争プロパガンダ工作を OpenAI が摘発したよ！

こんにちは、しぃちゃんだよ！今日はちょっとドキッとするニュースを見つけちゃったの。ChatGPT が米中の関税戦争をめぐる世論工作に悪用されてたんだって。しぃちゃんも読んでてびっくりしたから、みんなにも詳しく紹介するね！

OpenAI News openai.com

なにが発表されたの？

OpenAI の News が、「"Tech and Tariffs" Campaign」という名前の世論操作キャンペーンの摘発について発表したよ。これは OpenAI が 2026 年 6 月に公開した、中国発とみられる勢力による対米 AI 世論工作を扱った脅威レポートに載っているケーススタディの 1 つなの。

OpenAI は、中国発とみられる ChatGPT アカウント群を BAN したんだって。このアカウント群は VPN 経由でプラットフォームにアクセスし、簡体字中国語でプロンプトを送っていたのが特徴だよ。ChatGPT を使ってやっていたのは、こんなことみたい。

• 米国のテック政策や関税を批判する短いコメントや政治風刺漫画の生成
• 業務報告書の編集
• ソーシャルメディアの世論監視システムの設計支援

さらにプロンプトには、抗議活動や学校でのいじめ事件、上海での群衆の動き、警察関連の事案、陳情活動、交通取り締まりについて「世論リスク評価」を求めるなど、中国の公安当局に関係する人が使いそうな用語が繰り返し登場していたんだって。あるユーザーは自分が運営する SNS アカウント群を「水軍（すいぐん）」と呼んでいたそう。これは中国語で、批判やトロール行為を組織的に流すアカウント群を指す言葉なの。OpenAI は、こうした兆候から中国共産党の利益に沿った活動を支援していた可能性が高いと見てるけど、運営主体の正確な所属機関までは特定できなかったみたい。

なぜ重要なの？

今回のレポートは、OpenAI が継続的に発表している「AI の悪用を阻止する」シリーズの 1 本。2025 年 10 月にも「Nine-emdash Line」という別の中国関連工作のレポートが公開されていて、今回のアカウント群の一部には、そのときの工作とのコンテンツの重なりも確認されているの（トランプの風刺漫画を投稿したアカウントが、以前フィリピンのマルコス大統領に関する画像も投稿していたんだって）。

タイミングも見逃せないポイントだよ。このキャンペーンが観測されたのは、トランプ大統領が中国製品への追加関税 100 パーセントを発表した頃と重なっていて、しかも中国共産党が「第 15 次五カ年計画」で AI を戦略的優先技術に位置づけ、全国的な「AI+」推進を掲げた四中全会の直後でもあったの。米中のテック覇権争いが激しくなるタイミングで、OpenAI という戦略的に重要な企業自体が標的にされたことが、このレポートが重要な理由なんだね。

これで何が変わるの？

OpenAI はこのアカウント群を BAN しただけじゃなくて、関連する別のネットワークも突き止めたよ。2025 年後半から X（旧 Twitter）上で「ChatGPT のユーザーデータが流出した」という虚偽の主張を拡散していたアカウント群があって、行動パターンの分析から、この「Tech and Tariffs」工作と同じネットワークに属している可能性が高いと評価されたの。

このネットワーク自体は AI 生成コンテンツを投稿していなかったんだけど、「Tech and Tariffs」工作の投稿を繰り返し引用・拡散したり、同じ投稿をほぼ同じタイミングで引用リツイートしたりと、連携している様子がうかがえたみたい。これらのアカウントは 2025 年後半に作られたばかりでフォロワーもほとんどなく、OpenAI の調査とは別に X 側からもすでに凍結されていたそうだよ。

読者にとって嬉しいのは、こういう手口や兆候が具体的に公開されたこと。似たような世論工作のパターンを見分けるヒントが増えるのは、みんなにとってもうれしいポイントだよね。

深く潜ってみよう

技術的に面白いポイントもいくつかあったから紹介するね。

まず生成コンテンツの傾向。英語の短いコメントと風刺漫画が主体で、テーマは米中のテック覇権争い。関税・レアアース・AI・5G・新エネルギー・産業のレジリエンスといったキーワードを軸に、「米国が技術的な優位とルール形成力を独占しようとしている」という論調で構成されていたよ。しかも風刺漫画にはトランプ大統領だけを描くよう指示していて、中国や習近平国家主席を描くことは明確に避けていたのが特徴なの。

このほかにも中国語で大量の短文コメントや記事を生成させていて、内容は米国・イスラエルへの攻撃、「ユダヤ資本が世論を操作している」といった反ユダヤ的な言説の拡散、中国の反体制派への嫌がらせなど。文字数を細かく指定して、口語調で大量生成するよう繰り返し依頼していたみたい。

特に気になったのが、オンライン世論の監視システムの設計を ChatGPT に依頼していたこと。「危険人物」の SNS 投稿から「有害」とみなす情報を自動収集し、ログを保存、動画も自動ダウンロードして大規模な意味解析にかけ、リスク通知を送る、という仕組みを考えさせようとしていたの。これに対して ChatGPT は、データの保存・管理に関する一般的なアドバイスを含む 500 語ほどの回答を返したものの、監視目的でのデータ収集方法そのものは提案しなかったんだって。

言語面でも、英語だけじゃなくイタリア語・日本語・繁体字中国語（台湾の読者向け）でコンテンツを生成させていて、国際的な世論への影響を狙っていたことがうかがえるよ。

影響の大きさについては、OpenAI は「Breakout Scale」という指標を使って評価していて、今回の工作は最も低い「カテゴリー 1」（単一プラットフォームに限定され、拡散の兆候なし）と判定されたの。実際、生成された投稿の多くはほとんど反応を得られておらず、信頼度の高い有力アカウントによる拡散も確認されなかったみたい。OpenAI は、過去にレアアース産業の企業（Lynas Rare Earths など）を標的にした中国発の工作と似た手口だと指摘していて、今回はうまくいかなかったものの、同じような戦略が繰り返されていることに注意を促しているよ。

まとめ

今回のニュースを箇条書きで振り返るね。

• OpenAI は中国発とみられる ChatGPT アカウント群を BAN。米国のテック政策・関税を巡る風刺漫画やコメント生成に悪用されていた
• プロンプトには中国の公安当局を連想させる用語が多数含まれ、「水軍」的な世論工作の運用が疑われた
• 関連する別のネットワークが「ChatGPT データ漏洩」というデマも拡散しており、同じ工作の一部である可能性が高いと評価された
• 世論監視システムの設計を持ちかけられても、ChatGPT は監視目的のデータ収集手法までは提供しなかった
• Breakout Scale では最も低い「カテゴリー 1」評価で、実際の拡散効果は限定的だった

AI の悪用対策や偽情報対策、地政学がらみのセキュリティ動向に関心があるエンジニア・研究者にとって、実例が豊富で読み応えのあるレポートだよ！