まさかの標的は OpenAI 自身！中国系ハッカーがニセの ChatGPT エラー画面で仕掛けた罠

おつかれさま、しぃちゃんだよ！今日は「ChatGPT を装ったニセのエラー画面」で、なんと OpenAI の社員自身が狙われちゃったっていう話を紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、中国を拠点とすると見られるハッカー集団「SweetSpecter」に関する調査結果が公開されたよ。2024 年 5 月、この集団は OpenAI の社員をターゲットにしたスピアフィッシング(標的型フィッシング)キャンペーンを行っていたことが、信頼できる外部セキュリティチームからの通報で発覚したの。

なぜ重要なの？

SweetSpecter は 2023 年から活動している集団で、これまでは中東・アフリカ・アジアの政治関連組織を狙ってきたんだけど、米国の AI 企業を標的にしたことが公に確認されたのは今回が初めてなんだって。攻撃対象として AI 企業そのものが選ばれ始めているっていう流れは、AI 業界で働く人にとって他人事じゃない話だよね。

これで何が変わるの？

OpenAI のセキュリティ対策が機能して、悪意あるメールは社内の受信箱に届く前にブロックされたよ。さらに OpenAI は、攻撃者が ChatGPT を使って得ていた情報についても「公開されている手段以上の、新しい能力を与えるものではなかった」と結論づけているの。とはいえ、AI 企業の社員をピンポイントで狙う攻撃が現実に起きているという事実そのものが、今後の警戒ポイントとして共有された形だね。

深く潜ってみよう

今回の手口は、フィッシングと ChatGPT 悪用の "二刀流" になっていたよ。

• スピアフィッシング: 攻撃者は ChatGPT ユーザーになりすまし、「some problems.zip」という名前の添付ファイル(中身は LNK ファイル)をメールで送りつけていた
• マルウェア: LNK ファイルを実行すると、偽の ChatGPT エラー画面を表示しつつ、裏で「SugarGh0st RAT」というマルウェアをこっそりインストール。攻撃者はこれでコマンド実行・スクリーンショット取得・データ持ち出しができる遠隔操作権限を得ていた
• ChatGPT の悪用: 同時並行で ChatGPT アカウントを使い、攻撃的なサイバー活動の支援を求めていた。具体的には Log4Shell など既知の CVE の脆弱性調査、LLM を使った偵察・脆弱性調査の効率化、スクリプトやマルウェア開発の補助を依頼していた
• ソーシャルエンジニアリングの磨き上げ: 攻撃者が用意した求人募集メッセージの「言い回しのバリエーション」を ChatGPT に何パターンも作らせて、フィッシングメールの説得力を上げようとしていた
• 標的になったのは OpenAI 社員の「少数」で、会社用アカウントと個人アカウントの両方が対象だった

まとめ

• 中国を拠点とすると見られるハッカー集団 SweetSpecter が、2024 年 5 月に OpenAI 社員へのスピアフィッシングを行っていた
• ニセの ChatGPT エラー画面を見せかけに、SugarGh0st RAT というマルウェアを仕込む手口だった
• 並行して ChatGPT アカウントでも、脆弱性調査やマルウェア開発の補助、フィッシング文面のブラッシュアップを依頼していた
• OpenAI のメール防御は機能し、得られた情報も公開情報の範囲内だったと評価されている
• AI 企業だからこそ「ChatGPT のエラー画面」を偽装する攻撃が刺さりやすい、という教訓が詰まった事例だよ。