ルワンダ大統領選、ChatGPT で量産されてた「応援コメント」部隊を OpenAI が摘発したよ！

やっほー、しぃちゃんだよ！今日は AI がちょっと物騒な使われ方をしてた、っていうニュースを見つけたよ。わくわくというより「むむ…」ってなる話だけど、しっかり紹介するね！

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、ルワンダを拠点とする ChatGPT アカウント群を停止したという報告があったよ。ルワンダ国内の人物が、同国の選挙を前に ChatGPT を使って与党 Rwandan Patriotic Front(RPF)を応援する短いコメントを大量に生成し、X(旧 Twitter)に投稿していたんだって。この動きに最初に気づいたのはクレムソン大学の研究チームで、その報告を受けて OpenAI が調査に乗り出し、アカウントの停止に踏み切ったの。

なぜ重要なの？

生成 AI があると、選挙に合わせた「応援コメント」を短時間で大量に作れちゃうんだよね。今回のケースはまさにそれで、英語・フランス語・キニヤルワンダ語の 3 言語で似たような文面のコメントが量産されていたの。しかも同じ内容のツイートが複数アカウントからほぼ同時に投稿されるなど、人が地道に一つずつ書いたとは思えない動き方をしていたんだって。選挙みたいに世論への影響が大きい場面で、こういう「量で押す」タイプの世論工作がどこまで通用してしまうのか、プラットフォーム側の検知力が問われる話だから注目度が高いんだよ。

これで何が変わるの？

OpenAI はまず、この一連の動きに関わっていた最初のアカウント群を停止したよ。それだけで終わらず、停止後も似たパターンで新しく作られたアカウントが同じような投稿を再開していないか継続的に監視して、見つかったものは追加で停止したんだって。つまり一回きりの対処じゃなくて、いたちごっこ的に追いかけ続ける運用になっているのがポイントだよ。

深く潜ってみよう

投稿では #RPFOnTop や #PKNiWowe、#ToraKagame24 といったハッシュタグが使われていて、ルワンダ国内で一時的に X のトレンド上位に入ったこともあったみたい。ただしこのハッシュタグは一般ユーザーも使っていたから、トレンド入りが全部このネットワークの手柄というわけではなかったよ。

投稿の規模はかなり大きくて、1 アカウントが 1 時間に数百件ツイートすることもあり、全体では少なくとも数千件規模のツイートが確認されたの。それなのに、個々の投稿への反応は返信・いいね・シェアどれも一桁どまりで、まったく反応がないものも多かったんだって。「投稿量は多いのに反応がほぼない」というこのギャップが、まさにコメントスパム系ネットワークの典型的な特徴なんだよ。

もう一つ面白いのが検知の手がかりで、短い文章を同じテーマで大量に作ろうとすると、言い換えに使える言葉のバリエーションがどうしても限られてくるの。その結果、文面や構成がよく似た投稿が並んでしまい、それが AI 生成コンテンツを見分ける手がかりになったんだって。

まとめ

• OpenAI がルワンダ発の ChatGPT アカウント群を停止。選挙を前に RPF を応援する短文コメントを X に大量投稿していた
• きっかけはクレムソン大学の研究チームからの報告
• 英語・フランス語・キニヤルワンダ語で似た文面のツイートが量産され、同一内容が複数アカウントからほぼ同時に投稿されていた
• 投稿量は多いのに反応(返信・いいね・シェア)はほぼ一桁かゼロという、スパムネットワーク特有のパターンだった
• 停止後に現れた新規の類似アカウントも継続的に検知して追加停止している

プラットフォームの安全性や AI 悪用対策、選挙まわりの情報インテグリティに関心があるみんなには、地味だけどしっかりチェックしておきたい事例だよ！