# 自分への批判に自分で拍手？OpenAI が中国発の世論操作「Nine–emdash Line」を摘発したよ！

やっほー、しぃちゃんだよ！今日は南シナ海から香港、TikTok まで舞台が広がる、OpenAI の悪用対策レポートを紹介するね。

## なにが発表されたの？

OpenAI の News で、中国を拠点とする世論操作(covert influence operation)に関連する ChatGPT アカウントの小規模なネットワークを停止したと報告されたよ。OpenAI はこの作戦を「Nine–emdash Line」と名付けたんだって。南シナ海の領有権を巡って中国が主張する境界線「九段線(Nine-Dash Line)」と、AI が生成した文章に頻出する em ダッシュ(—)の両方にちなんだ名前なの。

## なぜ重要なの？

この作戦がターゲットにしていたのは、南シナ海(西フィリピン海)を巡ってベトナムやフィリピンなど中国と領土紛争を抱える国々。生成 AI が世論操作のコンテンツ制作だけじゃなく、SNS 運用戦略の相談やリサーチ業務にまで使われ始めていることを示す事例で、AI サービスがこうした悪用をどこまで見つけて止められるかは、地域の情報空間の健全性にも関わる話だよ。

## これで何が変わるの？

OpenAI がこのネットワークに関連する ChatGPT アカウントを停止したことで、Nine–emdash Line は新しいコンテンツを量産できなくなったよ。ただし、フィリピンのニュースサイト Philstar.com が独自に X 上のアカウント群を発見・報道していて、そこでは ChatGPT アカウント停止後も活動が続いていたことが分かっているの。プラットフォームをまたいだ悪用を完全に止めるのは簡単じゃないってことが伝わるね。

## 深く潜ってみよう

Nine–emdash Line が生成していたコンテンツはこんな感じだったよ。

- 英語: ベトナムの南シナ海における環境影響への批判、フィリピンのマルコス大統領を薬物使用や選挙不正で非難する投稿(添付動画はフィリピン政府がすでにディープフェイクと否定済み)
- 英語: アメリカのフェンタニル危機など米国内の政治問題(比重は小さめ)
- 広東語: 香港の民主化運動に関わるジミー・ライ、ネイサン・ロー、周庭(アグネス・チョウ)などの人物を犯罪者・裏切り者として中傷する投稿、逆に香港国家安全維持法を支持する投稿

面白いのは、あるアカウントが香港民主派を批判する投稿をしたあと、別アカウントでその投稿に賛同する返信を自作自演していたケースがあったこと。しぃちゃんも「むむ？」ってなっちゃった。

コンテンツ生成だけじゃなく、リサーチや SNS 運用相談にも使われていたよ。

- ニッチなブログ・フォーラムや、規制の緩い欧米・東南アジアの SNS の洗い出し
- 偽アカウント用にチベット人によくある名前のリストを要求
- TikTok チャレンジの立ち上げ方や、既存の人気ハッシュタグ「#MyImmigrantStory」への便乗方法の相談。TikTok 投稿の台本や BGM・画像の提案までモデルに考えさせていた

OpenAI は、この作戦の SNS アカウントが過去の中国発の作戦「Spamouflage」(2024 年 5 月に OpenAI が報告)と似た特徴を持つと指摘しつつも、技術的な繋がりは確認できなかったとしているよ。一部の動画は Australian Strategic Policy Institute が別の調査ですでに特定していたものだったみたい。

効果の面では、OpenAI の「IO Impact Breakout Scale」でカテゴリー 2(複数プラットフォームで活動していたけれど、拡散はほぼ無かった)と評価されていて、投稿へのリアクションもほとんどが同じネットワーク内のアカウント同士によるものだったよ。

## まとめ

- OpenAI が中国発の世論操作ネットワーク「Nine–emdash Line」に関連する ChatGPT アカウントを停止した
- 南シナ海の領土問題、フィリピンのマルコス大統領批判、香港民主派への中傷・支持など多岐にわたるテーマを扱っていた
- コンテンツ生成だけでなく、リサーチや TikTok 運用戦略の相談にもモデルを使っていた
- 自分への批判に自分で賛同返信をする自作自演のようなケースも見つかった
- OpenAI 独自の評価では拡散の効果は限定的(カテゴリー 2)で、フィリピンのメディアが停止後も一部の活動を報道している

AI の安全対策や地域の情報操作の実態に関心があるみんなに読んでほしいレポートだよ！