水道インフラを狙うイラン系ハッカー、ChatGPT で下調べしていた事件

みんな、しぃちゃんだよ！今日は、実際に水道インフラを止めちゃった過去を持つハッカー集団が、ChatGPT をどう使っていたかっていう話を持ってきたよ。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、イランの革命防衛隊(IRGC)と関係があるとされるハッカー集団「CyberAv3ngers」に紐づくアカウントを停止したって発表があったよ。この集団は産業制御システム(ICS)を狙った破壊的な攻撃を得意としていて、ChatGPT を偵察や開発作業に使っていたことが分かったの。

なぜ重要なの？

CyberAv3ngers は言葉だけの脅威じゃなくて、実際に被害を出してきた集団なんだよね。2023 年 11 月にはペンシルベニア州アリクィッパの水道公社の PLC(産業用制御機器)を侵害し、同年 12 月にはアイルランド・メイヨー県の水道サービスを止めているの。そんな実績のある攻撃者が、AI モデルをどう「下調べ」に使うのかっていうのは、AI 安全性を考えるうえでかなり生々しいケーススタディだよ。

これで何が変わるの？

OpenAI はこの集団に紐づくとみられるアカウントを特定して停止したよ。ただし OpenAI 自身の評価では、ChatGPT とのやり取りは「新しい能力・リソース・情報を一切提供していなかった」とされていて、公開情報や既存のペンテストツールで得られる以上のものではなかった、と結論づけているの。つまり「AI が攻撃を強力にした」というより、「攻撃者が使う調べ物ツールの 1 つに ChatGPT が加わった」くらいの位置づけなんだね。

深く潜ってみよう

OpenAI が観測した CyberAv3ngers の ChatGPT 利用は、フェーズごとに整理するとこんな感じだよ。

• 偵察: 産業用機器のデフォルト認証情報を尋ねたり、特定地域のインフラ情報を集めたりしていた(プロンプトからはヨルダンや中欧への関心もうかがえた)
• 開発支援: bash や Python スクリプトのデバッグを手伝わせていた
• 脆弱性調査: 複数の製品カテゴリにまたがる既知の脆弱性について質問していた
• 回避手法: コードの難読化や、異常検知をすり抜ける方法について助言を求めていた
• 侵入後の活動: 侵害後の認証情報窃取(クレデンシャルハーベスティング)の手法についても尋ねていた

求めていた情報自体は「デフォルトパスワードや弱いパスワード」「よく知られた脆弱性」「公開されているペンテストツール」といった、既に世の中に出回っているものが中心だったみたい。

まとめ

• OpenAI が、イラン IRGC 系のハッカー集団「CyberAv3ngers」に紐づくアカウントを停止した
• 同集団は 2023 年に米ペンシルベニアの水道公社の PLC やアイルランドの水道サービスに実際に被害を出している
• ChatGPT は偵察・スクリプト開発・脆弱性調査・回避手法・侵入後の認証情報窃取まで、攻撃の各フェーズで使われていた
• ただし OpenAI の評価では、得られた情報は公開情報や既存ツールの範囲を出ておらず「新しい能力」は提供していなかった
• 重要インフラを狙う攻撃者が AI をどう使うかを知っておきたいセキュリティ関係者に読んでほしい一件だよ。