アルゼンチンの“教祖”逮捕をめぐるコメント工作、OpenAI が ChatGPT アカウントを一斉 BAN！
みんな、しぃちゃんだよ！今日は国境をまたいだちょっと不思議な工作の話だよ。
OpenAI News
openai.com
なにが発表されたの？
OpenAI News が、アルゼンチンで逮捕されたロシア人の自称「カルト指導者」コンスタンチン・ルドニョフをめぐる案件で、SNS コメントを大量生成していた複数の ChatGPT アカウントを BAN したと発表したよ。活動の発生源はパキスタン・アルメニア・ウルグアイ(さらにアルゼンチン・カザフスタンの活動も)と、かなり広範囲に分散していたみたい。この事件を報じたアルゼンチンの「ローリングストーン」誌を荒らしていたことから、OpenAI はこの作戦を「Trolling Stone」と名付けたよ。
なぜ重要なの？
今回の特徴は、地理的にバラバラの拠点が連携して動く“分散型”の工作だったこと。パキスタン拠点は英語で、他の拠点は主にロシア語でプロンプトを入力していたのに、行動としては足並みが揃っていたんだって。1 つの AI サービスの背後に、複数の実行者がいる分業型の悪用パターンを知る事例になるよ。
これで何が変わるの？
OpenAI はこれらのアカウントを BAN したよ。合わせて、Facebook ページの登録日や管理者情報(国別)、投稿された記事と ChatGPT 生成文の一致など、具体的な裏取り作業の内容も公開されてる。読者にとっては、こうした“やらせ”コメントがどうやって組織的に作られるかの内部構造が見える貴重なレポートだね。
深く潜ってみよう
確認された手口は主に 3 段階に分かれてたよ。
- 偽ニュースサイトの運用: アルゼンチンのニュースメディアを装った Facebook ページを複数開設(いずれも 2025 年 10 月 14〜15 日に登録)。6 ページ中 4 ページで管理者所在地が確認でき、ウルグアイ・アルメニア・パキスタンといった国が表示されていた
- 記事の翻訳・投稿: ルドニョフ事件に関するロシア語記事をアルゼンチン向けスペイン語に翻訳し、上記の偽ニュースページや Facebook・YouTube・Medium の専用アカウント、さらに一部はアルゼンチンの実在ニュースサイトにも掲載。AI 生成であることを隠すため、ダッシュ記号(—)を除去する加工が見られたケースもあった
- コメントの量産: 生成された記事に対し、別の ChatGPT アカウント群がコメントを大量生成し、複数アカウントから投稿。これは草の根の支持があるように見せかける「アストロターフィング」の典型的な手口だよ
特に目立ったのが、ローリングストーン・アルゼンチン版への攻撃。同誌がルドニョフを「風変わりな教祖」と報じた記事に対し、取材姿勢を非難するコメントが大量生成され、同誌の Facebook や Instagram の(音楽関連の)投稿に付けられていたんだって。
運営の内部連携も垣間見えたよ。パキスタン拠点のユーザーは、1 日 20 投稿・進捗の毎日報告といった具体的な運用ルールを ChatGPT に整理させていたし、別のロシア語ユーザーは、同僚向けとみられる運用指示(投稿量の目安やアカウントの“それらしさ”の保ち方)を英語に翻訳させていたことも確認された。また、女性向けグループの勧誘文にオカルト・シャーマニズム・ヨガ・瞑想といった話題を絡めるよう依頼していたケースもあり、こうした要素はルドニョフの“カルト”の勧誘手法と結びつく可能性が指摘されている(ただし OpenAI はこの実態までは独自に確認できていない)。
拡散規模としては、Facebook ページのフォロワーは数百人程度、投稿への反応も一桁台にとどまるなど、SNS 上の見かけの盛り上がりは小さかったよ。一方で、一部の記事はアルゼンチンの地方ニュースサイトに実際に掲載されていたことが確認されてる。Breakout Scale では、カテゴリー 4(主要メディアへの波及)の下位という評価だったよ。
まとめ
- ルドニョフ事件をめぐるコメント・記事を量産していた複数国拠点の ChatGPT アカウントを BAN
- 偽ニュースページの開設から記事翻訳、コメント量産という分業型のアストロターフィング手口が判明
- ローリングストーン・アルゼンチン版の SNS 投稿への組織的な荒らしコメントも確認
- SNS 上の反響自体は小さかったが、一部記事は実際のニュースサイトに掲載されていた
分散型・分業型の AI 悪用パターンや、アストロターフィングの手口に関心があるエンジニアにおすすめだよ。
