まさかの AI 活用！？中国系ハッカー集団「Vixen Panda」「Keyhole Panda」を OpenAI が摘発したよ！

こんにちは、しぃちゃんだよ！今日はちょっとドキッとするニュース、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、中国(PRC)に関連すると公に指摘されている脅威アクター「Vixen Panda」「Keyhole Panda」に紐づくアカウントを停止したと報告されたよ。これらのアクターは、脆弱性調査やスクリプト作成、翻訳、運用トラブルシューティングを支援させる目的で ChatGPT を使っていたんだって。中国語と英語の両方でモデルとやり取りしていたみたい。

なぜ重要なの？

生成 AI はコードを書いたり調べものをしたりするのがすごく得意だから、サイバー攻撃の下調べや準備作業にも使われやすいんだよね。しかも今回は、国家と関係があるとされる脅威アクターの調査だから、AI サービスが安全保障に関わる悪用をどこまで見つけて止められるかっていう、けっこう大事な話なんだ。

これで何が変わるの？

OpenAI はこの活動に関連する全アカウントを停止して、関連する情報を業界のパートナーとも共有したよ。ただ興味深いのは、OpenAI 自身が「今回の調査で PRC 関連の脅威アクターのネットワークやワークフローを異例なほど広く観察できたけど、モデルへのアクセスが、他の公開情報源から得られない新しい能力や方向性を与えた証拠は見つからなかった」とコメントしてる点だね。つまり ChatGPT が特別な攻撃力を与えたわけじゃなく、あくまで既存の作業を手伝う道具として使われていた、という位置づけみたい。

深く潜ってみよう

観測された活動は、同じネットワーク由来ながら大きく 2 パターンに分かれていたよ。

• オープンソース調査の支援: 気になる組織や技術トピックの調査を手伝わせていて、技術的なやり取りではスクリプトの修正やシステム設定のトラブルシューティングもしていた。Web アプリの偵察を自動化するフレームワーク「reNgine」や、ログイン突破と認証トークン取得を狙った Selenium 自動化への言及もあったよ
• 開発支援活動: Linux のシステム管理(ファイアウォールやネームサーバーの設定、オフライン展開用のパッケージビルド)、ソフトウェア開発(Web アプリや Android アプリ、C 言語や Golang)、インフラ構築(VPN 設定、ソフトウェアインストール、Docker コンテナのデプロイ、DeepSeek のようなローカル LLM のデプロイ)まで幅広く手伝わせていた

やり取りの中身は、こんな話題にも及んでいたよ。

• パスワードのブルートフォース: FTP サーバー向けに、複数のユーザー名・パスワードの組み合わせを試すスクリプトを書かせようとしていた
• ポートスキャンソフトの改良: 特定ポートをスキャンするスクリプトの修正・改善
• AI によるペネトレーションテストの自動化: Nmap のスキャン結果を分析させ、実行コマンドを組み立て、コマンド出力を繰り返し LLM に渡して次のコマンドを作らせる、という手口
• SNS 自動操作: 大量の Android 端末を管理して SNS 上の操作を自動化するコードの開発
• 米国の国防産業・軍事ネットワーク・政府技術の調査: 米国特殊作戦司令部(US Special Operations Command)、衛星通信技術、地上局端末の所在地、政府の身分証明カード、ネットワーク機器などについて、公開情報を調べさせていた

OpenAI はこれらの活動を LLM ATT&CK フレームワークにも当てはめていて、脆弱性調査支援やスクリプト強化、インフラプロファイリング、戦略立案支援、そしてマルウェア開発向けのコード難読化・リバースエンジニアリング対策といった手口が確認されたと説明しているよ。

まとめ

• OpenAI が、中国(PRC)に関連する脅威アクター「Vixen Panda」「Keyhole Panda」に紐づくアカウントを停止した
• 脆弱性調査、スクリプト修正、システムのトラブルシューティング、翻訳などに ChatGPT を利用していた
• オープンソース調査支援(reNgine・Selenium など)と、Linux 管理やアプリ開発などの開発支援活動の 2 系統が観測された
• ブルートフォース用スクリプト、ポートスキャン、AI 支援ペネトレーションテスト、SNS 自動操作、米国の国防・政府関連情報の調査など、幅広い用途に使われていた
• OpenAI は全アカウントを停止し業界パートナーと情報共有。ただしモデルが公開情報以上の新しい能力を与えた証拠は見つからなかった

国家関連の脅威アクターが AI をどう使っているか、セキュリティに関心があるみんなに読んでほしいレポートだよ！