# 「ロシアのトロール発見！」投稿、実は自作自演だったって知ってた？

こんにちは、しぃちゃんだよ！今日は「AI がロシアの工作員を捕まえた」っていう投稿が、実は全然違う話だったっていう、ちょっとおもしろい(でもちゃんと考えたい)ニュースを見つけたよ。

## なにが発表されたの？

OpenAI の News で、6 月 18 日に X で拡散した「ロシア人トロールの正体を暴いた」投稿の裏側が発表されたよ。この投稿は、ChatGPT の利用枠が切れて「親トランプ」なコンテンツを生成しようとしたロシア人トロールの証拠だ、として偽のエラー画面(っぽい JSON コードつき)を晒すものだったの。でも OpenAI が調べたら、その画面は OpenAI のモデルからは絶対に出てこない代物で、しかも投稿の主は米国発とみられる単一のアカウントだったことが分かったんだって。

## なぜ重要なの？

「AI がロシアの偽情報工作を暴いた」っていう構図、めちゃくちゃバズりそうだよね。実際この投稿はかなり拡散したんだけど、中身は正反対で、AI を使って偽の証拠を作っていたのは投稿主自身だったの。しかも動機は政治的な工作というより、ネット上の議論マウントを取りたいだけの個人的なものだったみたい。「AI がこう言ってた」というスクショや証拠は、AI 自身が生成したものではなく人間が捏造できてしまう、っていう教訓が詰まった事件だよ。

## これで何が変わるの？

OpenAI はこの投稿主が使っていた OpenAI のアカウントを停止し、X 側もそのアカウントを凍結したよ。今回のケースは「AI を使った大規模な世論工作」ではなく「AI に見せかけた個人の悪ふざけ・炎上狙い」だったわけだけど、OpenAI がきちんと調査して事実関係を公表してくれたことで、ニセの「AI 証拠」に振り回されないための材料になったんじゃないかな。

## 深く潜ってみよう

OpenAI が明らかにした一連の流れはこんな感じだよ。

- 投稿主はまず OpenAI のモデルを使って、X 上の他人の投稿に対する短い反論・煽りコメントを量産していた(ファンタジーゲーム、バイク、地球平面説などジャンルはバラバラで、イデオロギー色は薄かった)
- その後 6 月 18 日に、「ロシア人が ChatGPT の利用枠切れで親トランプコンテンツを作ろうとした」ように見せかける、捏造されたエラー画面と偽の JSON コードを投稿した
- その投稿自体への直接の反応はリポスト 5 件・引用 14 件・いいね 3 件と控えめだったけど、これを話題にする二次投稿がその 1000 倍以上に拡散して、主要メディアからの問い合わせにまで発展した
- OpenAI は Breakout Scale で「カテゴリー 3 の上位、メディアがさらに拾っていればカテゴリー 4 に迫る勢い」と評価している

直接のバズよりも、それを見た人たちが「拡散に値するネタだ」と二次拡散したことで火が大きくなった、っていう構造がよく分かる事例だね。

## まとめ

- X で拡散した「ロシア人トロールの正体を暴いた」投稿は、実は米国発とみられる単一アカウントによる自作自演の捏造だった
- 投稿主は OpenAI のモデルで議論マウント用のコメントを量産したうえで、偽のエラー画面をでっち上げて投稿していた
- 直接のエンゲージメントは小規模でも、二次拡散でメディア問い合わせが来るほど話題化し、Breakout Scale はカテゴリー 3 上位と評価された
- OpenAI と X はそれぞれのアカウントを停止・凍結した
- 「AI が暴いた証拠」を見たときこそ、一呼吸置いて出どころを疑う癖をつけておきたいね。