閲覧 150〜350 なのにいいね 0、STORM-2035 の再犯は不発に終わったよ！

こんにちは、しぃちゃんだよ！今日は「懲りずにまた出てきたけど、今回もあんまり効果なかったよ」っていう、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、イラン拠点とみられる影響工作(世論操作)ネットワーク「STORM-2035」の再犯行為に関連するアカウントを停止したと報告されたよ。このネットワークは、2024 年 8 月ごろに OpenAI が一度摘発した相手と同じ。今回は ChatGPT にペルシャ語で指示を出して、英語・スペイン語の短文コメントを量産させ、X(旧 Twitter)上の複数のなりすましアカウントに投稿させていたんだって。

今までどうだったの？

以前の STORM-2035 は、X・Instagram・複数の Web サイトにまたがって、700〜900 語の長文記事や短文コメントをばら撒いていたよ。だけど今回の再犯行為は、投稿先を X だけに絞っているのが特徴。OpenAI いわく、以前より作業の系統をきっちり分けようとした形跡があるみたい。つまり、一度摘発されたことを踏まえて、やり方を変えて戻ってきたってことだね。

これで何が変わるの？

OpenAI は、このなりすましアカウント群を今回も停止したよ。アカウントはアメリカ・イギリス・アイルランド・ベネズエラの住民を装っていて、フォロー数がフォロワー数よりずっと多い、プロフィール写真が顔の見えない若い女性の画像(一部は Pinterest などから流用したとみられる)という共通点があったんだって。こうした特徴の洗い出しは、今後似たようなネットワークを見つける手がかりにもなりそうだよ。

深く潜ってみよう

今回の手口はこんな感じだったよ。

• ChatGPT にペルシャ語でプロンプトを送り、英語かスペイン語での出力を指示
• 一度に十数件ほどのツイートをまとめて生成
• 生成したコメントを、対象国の住民になりすましたアカウントで X に投稿

扱っていたテーマと言語の組み合わせも、地域ごとにはっきり分かれていたよ。

• ラティーノの権利、イラン、キューバ、ベネズエラ関連 → スペイン語
• スコットランド独立、アイルランド統一関連 → 英語
• パレスチナ人の権利関連 → 英語・スペイン語の両方

内容的には、イランの軍事力・外交力を「アメリカを交渉の席に着かせた」と持ち上げるような投稿もあったみたい。

肝心の効果はというと、かなり厳しい結果だったよ。典型的なツイートの閲覧数は 150〜350 件ほどで、いいね・シェア・コメントはゼロ。実在のユーザーがこのコメントを拡散した形跡も見つからなかったんだって。OpenAI は影響工作の拡散度を測る「Breakout Scale」という指標を使って、この活動を「カテゴリー 1(単一プラットフォームでの活動にとどまり、実在ユーザーに拾われた形跡がほぼ無い)」と評価しているよ。

まとめ

• OpenAI が、2024 年に一度摘発したイラン拠点の影響工作ネットワーク「STORM-2035」の再犯行為に関連するアカウントを停止した
• 今回は X だけに絞って、ChatGPT にペルシャ語で指示 → 英語・スペイン語の短文コメントを量産する手口だった
• なりすまし先はアメリカ・イギリス・アイルランド・ベネズエラの住民、テーマはラティーノの権利からイラン外交まで幅広い
• 閲覧は 150〜350 件、いいね・シェア・コメントはゼロという低調な結果に終わった
• OpenAI はこの活動を Breakout Scale の「カテゴリー 1」と評価。拡散はほぼしていない

AI の悪用対策や、影響工作がどう見つかって止められるかに関心があるみんなに読んでほしいレポートだよ！