偽ゲームツールにマルウェア！？ ロシア語圏ハッカーの ChatGPT 悪用「ScopeCreep」を OpenAI が摘発したよ！

みんな、しぃちゃんだよ！今日はちょっとひやっとする話、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、ロシア語圏の脅威アクターが操作していたとみられる ChatGPT アカウント群を停止したと報告されたよ。このアクターは、Windows 向けマルウェアの開発・改良や、複数のプログラミング言語にまたがるコードのデバッグ、C2(command-and-control、攻撃者がマルウェアを遠隔操作するための)インフラの構築に ChatGPT を使っていたの。

人気のゲーム用クロスヘア(照準)オーバーレイツール「Crosshair-X」を装ったトロイの木馬化ツールでマルウェアを配布していたことと、その手口の隠密さから、OpenAI はこの作戦を「ScopeCreep」と名付けたよ。

なぜ重要なの？

生成 AI はコードを書いたりデバッグしたりするのが得意だから、マルウェア開発の効率化にも悪用されやすいんだよね。しかも今回のアクターは、Windows の内部構造に詳しく、一定のオペレーションセキュリティ(足がつかないようにする工夫)も持っていた、けっこう手慣れた相手だったみたい。そういう相手でも AI サービス側の検知網に引っかかったっていうのが、今回のレポートのポイントだよ。

これで何が変わるの？

OpenAI はこの活動に関連する ChatGPT アカウントをすべて停止して、コードホスティング事業者とも連携して悪意あるリポジトリを削除させたよ。これによって ScopeCreep は、少なくとも現時点では ChatGPT を使った開発を続けられなくなったの。

OpenAI 自身も「このアクターは AI モデルを使ってマルウェア開発を高速化しようとしていたとみられる」と評価していて、それが皮肉にも、まだ初期段階とみられるうちに脅威を見つけて止める機会になった、と振り返っているよ。

深く潜ってみよう

この脅威アクターのオペレーションセキュリティは、なかなか徹底していたよ。

• 使い捨てのメールアドレスで ChatGPT アカウントを作成
• 1 つのアカウントにつき、コードを 1 か所だけ改良する会話 1 本だけ使う
• 使い終わったらそのアカウントを捨てて、新しいアカウントを作り直す

こうやって足取りを分散させていたみたい。配布したマルウェアは、被害者が偽の Crosshair-X をダウンロード・実行するとローダーが起動し、攻撃者のインフラから追加の悪性ファイルをダウンロード・実行する仕組み。そこから権限昇格、隠密な永続化(再起動後も感染を維持すること)、攻撃者への通知、機密データの窃取までを多段階でこなすように作られていたんだって。

マルウェアが使っていた技術は、OpenAI のレポートによるとこんな感じだよ。

• シグネチャベースの検知を避けるよう設計された C2 通信
• DLL サイドローディングによるステルスな実行
• Themida を使ったカスタムパッキングによる難読化
• 権限昇格と検知回避
• 80 番ポート経由の HTTPS 通信
• 認証情報・セッションの窃取
• Telegram を使った攻撃者への通知
• プロキシ経由での通信の隠蔽

ChatGPT との実際のやり取りでは、Go 言語での HTTPS リクエストのデバッグを頼んだり、Go 経由で PowerShell コマンドを使って Windows Defender の設定を変更し、AV(アンチウイルス)の除外設定を追加する方法を聞いたりしていたそうだよ。OpenAI はこうした事例を LLM ATT&CK フレームワークにも当てはめていて、python.exe 実行時に自分のコードが動くよう python310.dll をコンパイルさせた例は「LLM Aided Development」、Windows Defender の除外設定をさせた例は「LLM-Enhanced Anomaly Detection Evasion」、Telegram 通知まわりのデバッグは「LLM-Assisted Post-Compromise Activity」に分類されていたよ。

影響については、迅速な通報と業界パートナーとの連携で悪性リポジトリを早期に削除できたことで、被害はある程度抑えられたとみられているよ。マルウェア自体が持つ権限昇格・永続化・認証情報窃取・リモートアクセスといった機能は、それほど目新しいものではなかったみたい。VirusTotal 上にサンプルが確認されるなど実際に出回っていた形跡はあるけど、広く関心を集めたり拡散したりした証拠は見つからなかったんだって。

まとめ

• OpenAI が、ロシア語圏の脅威アクターによる ChatGPT アカウント群を停止した
• 人気ゲームツール「Crosshair-X」になりすましたマルウェア「ScopeCreep」の開発・改良や C2 構築に AI を悪用していた
• 使い捨てメール・1 アカウント 1 会話でアカウントを使い捨てるなど、オペレーションセキュリティは徹底していた
• マルウェアは DLL サイドローディング、Themida 難読化、80 番ポート経由 HTTPS など複数の検知回避技術を使用
• コードホスティング事業者と連携してリポジトリを削除、関連アカウントを停止。広範な拡散の証拠は見つからなかった

AI の悪用対策やマルウェア解析に興味があるみんなに読んでほしいレポートだよ！