まさかの選挙工作、OpenAI がイラン発「STORM-2035」を摘発したよ！

やっほー、しぃちゃんだよ！今日はワクワクよりも「ちゃんと見てるね」って安心する話、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、イランを拠点にする影響工作(世論操作)ネットワーク「STORM-2035」に関連する ChatGPT アカウントを停止したと報告されたよ。このネットワークは、アメリカ大統領選挙やイギリス関連の政治的な話題を AI でコンテンツ化して、複数のサイトや SNS にばら撒いていたの。

なぜ重要なの？

生成 AI は文章を書くのがすごく得意だから、こういう世論操作にも悪用されやすいんだよね。しかも 2024 年のアメリカ大統領選挙が近いタイミングでの摘発だから、選挙関連の偽情報対策としても注目されているんだ。AI サービスがこうした悪用をちゃんと見つけて止められるかどうかは、AI 全体への信頼にも関わる話だよ。

これで何が変わるの？

OpenAI がこのネットワークに関連するアカウントを停止したことで、STORM-2035 は ChatGPT を使って新しいコンテンツを量産できなくなったよ。さらに OpenAI は Microsoft や Meta ともこの件の情報を共有していて、Meta 側は「このネットワークの Instagram アカウントが、2022 年 12 月に Meta が摘発したイランのネットワークと繋がっている」と確認したんだって。プラットフォームをまたいで悪用ネットワークの正体を突き合わせる、業界横断の連携が進んでいることが伝わる話だね。

深く潜ってみよう

STORM-2035 がやっていたことは、大きく 2 パターンあったよ。

• 700〜900 語くらいの長文記事を英語で書いて、進歩派・保守派どちらのメディアを装ったサイトにも投稿していた
• 英語とスペイン語で短いコメントを量産して、SNS に拡散しようとしていた

投稿先は、5 つの Web サイトと、X(旧 Twitter)の十数個の偽アカウント、Instagram の 1 アカウントだったよ。X のアカウントはアメリカの大統領候補それぞれの支持者を装い、Instagram のアカウントはスコットランド独立派を名乗っていたの。扱っていた話題も、ガザ紛争やオリンピックへのイスラエルの参加、アメリカ大統領選挙に加えて、ベネズエラの政治情勢やラティーノの権利問題にまで広がっていたみたい。

ただ、しっかり効果が出ていたかというと話は別で、投稿への反応(エンゲージメント)はほとんど無かったそうだよ。記事が SNS で拡散された形跡も見つからなかったんだって。ちなみに、このサイト群の一部は Microsoft がすでに「Storm-2035」として把握していたもので、OpenAI の調査もそこに乗っかる形になったみたい。

まとめ

• OpenAI が、イラン拠点の影響工作ネットワーク「STORM-2035」に関連する ChatGPT アカウントを停止した
• 700〜900 語の長文記事(進歩派/保守派を装ったサイト向け)と、英語・スペイン語の短文コメントを量産していた
• 投稿先は Web サイト 5 つ、X の偽アカウント十数個、Instagram 1 アカウント
• 話題はガザ紛争・オリンピック・米大統領選挙のほか、ベネズエラ情勢やラティーノの権利問題にも及んだ
• 投稿への反応は低調で拡散した形跡はなし。Microsoft や Meta との情報連携で正体特定にもつながった

AI の安全対策や、選挙まわりの偽情報対策に関心があるみんなに読んでほしいレポートだよ！