# 偽ジャーナリストの正体は？ChatGPT 悪用の偽装工作「VAGue Focus」を OpenAI が摘発したよ！

こんにちは、しぃちゃんだよ！今日はちょっとドラマチックな話、OpenAI が見つけた偽装工作アカウントの話をするね。

## なにが発表されたの？

OpenAI の News で、ChatGPT を悪用していた小規模なアカウントネットワークを停止したという報告があったよ。このアカウント群は中国語でモデルとやり取りしていて、主に中国本土の営業時間帯に活動していたんだって。

SNS 投稿の生成、データセットの分析、社会工学(ソーシャルエンジニアリング)らしきメールやメッセージの中国語から英語への翻訳などに ChatGPT を使っていたみたい。生成した文章は「Focus Lens News」「BrightWave Media Europe」「Visionary Advisory Group(VAG)」という、地政学をテーマにした 3 つの組織の職員を名乗る内容だったの。工作者たち自身が、これらの組織を「情報収集・分析のための隠れ蓑」と説明していたことから、OpenAI はこの作戦を組織名にちなんで「VAGue Focus」と名付けたよ。

## なぜ重要なの？

これまでの偽装工作(インフルエンスオペレーション)って、SNS に大量の記事やコメントをばら撒いて世論に影響を与えようとするパターンが多かったんだけど、今回はちょっと様子が違うの。ジャーナリストやアナリストになりすまして直接メッセージを送ったり、有料インタビューや機密文書の買い取りを持ちかけたりと、情報収集そのもの(ソーシャルエンジニアリング・諜報活動寄り)を狙っている点が特徴なんだ。AI の翻訳力・文章生成力が、こういう「人に接触して情報を引き出す」タイプの工作にも使われ始めているってことが分かる事例だよ。

## これで何が変わるの？

OpenAI が関連アカウントを停止したことで、このネットワークは ChatGPT を使った新しいコンテンツ生成ができなくなったよ。ただし、この工作がどれくらい「効いていた」かというと、あまり芳しくなかったみたい。

関連する SNS アカウントは、目立った本物のエンゲージメントを獲得できていなかったんだって。唯一フォロワー数が多かった「Focus Lens News」の X アカウントも、17,000 人のフォロワーがいたものの、もともと 2014 年 11 月に別名で作られたアカウントで、3 日間だけ投稿した後 2024 年半ばまで沈黙していたの。これは、乗っ取って使い回された(コンプロマイズされた)アカウントによくあるパターンで、フォロワー数はあまりあてにならないと OpenAI も指摘しているよ。

影響工作の拡散度合いを測る指標「Breakout Scale」で見ると、OpenAI はこの工作の公開活動部分を「カテゴリー 2 の低い方」(複数プラットフォームでの活動はあったけど、実在の人が広く拡散した形跡はほとんどない)と評価したよ。裏側の社会工学・接触活動そのものの影響については、判断できるだけの証拠が十分になかったんだって。

## 深く潜ってみよう

このネットワークは、大きく 4 つの活動をしていたよ。

- **偽ペルソナの投稿・プロフィール生成**: ジャーナリストや地政学アナリストを装うオンライン上の人物像として、SNS 投稿やプロフィール文を ChatGPT で作成。投稿は、記者やアナリストになりすました X アカウントから発信されていた
- **要人向け書簡の翻訳・推敲**: とある政権高官の指名に関して、アメリカの上院議員宛ての書簡を翻訳・推敲していた(実際に送付されたかは OpenAI も確認できていない)
- **サイバー攻撃ツールに関する基礎的な質問**: ネットワーク攻撃・侵入ツールについて質問していたけど、ChatGPT が返したのは一般的な説明どまり。同じレポートに出てくる他の高度なサイバー攻撃者と比べると、技術レベルは低めだったみたい
- **接触・勧誘メッセージの翻訳**: 見知らぬ相手から情報を引き出そうとするような中国語のメッセージを英語に翻訳。一部は記者や研究者への公開リプライとして投稿され、一部は検索に出てこないダイレクトメッセージのようなものだった

ターゲットにしていた「Visionary Advisory Group(VAG)」は、ウェブサイト上ではトルコ拠点の地政学コンサルティング会社を名乗っていたよ。ChatGPT で翻訳された指示文の中には、アメリカの経済・金融政策について 1 時間あたり 2,000 ドルを払ってインタビューしたいという申し出や、機密文書の買い取りを持ちかける内容もあったの。ちなみに VAG のサイトはトルコ語版・英語版があるんだけど、英語版のメニューにだけ「聯絡(連絡先)」という中国語の文字が残っていて、サイト全体で唯一の中国語表記だったんだって。こういう細かい取りこぼしから正体が透けて見えるの、ちょっと面白いよね。

このほか、この工作の宣伝素材らしきものの中には、「機械学習・自然言語処理・自動データ収集を使って、SNS 上の影響力のある人物や話題を特定している」という主張もあったけど、OpenAI はこれを裏付けられていないよ。

## まとめ

- OpenAI が、中国語で ChatGPT を悪用していた小規模なアカウントネットワーク「VAGue Focus」を停止した
- ジャーナリストや地政学アナリストを装う偽ペルソナの投稿生成、要人向け書簡の翻訳、接触・勧誘メッセージの翻訳などに使われていた
- ターゲットの 1 つ「VAG Group」は、1 時間 2,000 ドルでのインタビューや機密文書の買い取りを持ちかけていた
- 唯一フォロワーが多かった X アカウントも、乗っ取り・使い回しの疑いがあるなど、実際の拡散効果は乏しかった
- Breakout Scale ではカテゴリー 2 の低い方と評価。ただし裏側の社会工学活動の影響は証拠不足で評価できず

AI を使った偽装工作や、なりすまし・社会工学の手口に関心があるみんなに読んでほしいレポートだよ！