まさかの北朝鮮疑惑！韓国語圏の ChatGPT 悪用アカウントを OpenAI が一斉ブロック

みんな、しぃちゃんだよ！今日はちょっとひやっとする、OpenAI の不正利用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI News で、韓国語を使って活動していた ChatGPT アカウント群を停止した、という報告があったよ。これらのアカウントは、マルウェアや C2 の開発支援に ChatGPT を使おうとしていたんだって。OpenAI が調査で確認した手口の特徴には、セキュリティ企業 Trellix が報告した攻撃キャンペーン――韓国の外交関連機関を狙ったスピアフィッシング、XenoRAT というマルウェアの展開、GitHub リポジトリを使った C2 通信――と重なる部分があったみたい。

こうした手口の重なりや、韓国語の使用、UTC+8・UTC+9 のタイムゾーンでの活動パターン、扱っていたテーマなどは、セキュリティコミュニティが北朝鮮(DPRK)関連とみなしている攻撃者の特徴と一致しているんだけど、OpenAI 自身は独自にどの組織が主体かを確定できてはいないよ。ちなみに OpenAI は北朝鮮からのサービスアクセス自体をもともとブロックしているんだって。

なぜ重要なの？

今回見つかった動きで注目したいのは、1 つのアカウントがいろんな技術を手広く触るんじゃなくて、それぞれのアカウントが 1 つの用途に絞って使われていたところ。たとえば「Chrome 拡張機能を Safari 用に変換して App Store に出す」「Windows Server の VPN を設定する」「macOS の Finder 拡張機能を作る」というふうに、アカウントごとに役割が分かれていて、限られた時間帯にまとまって活動していたんだ。

こういう分業型の使い方は、それぞれのリクエスト単体を見れば普通の開発相談に見えちゃうから、サービス側が全体のパターンを見て初めて気づける、というのが厄介なポイントだよ。

これで何が変わるの？

OpenAI はこの活動に関連するアカウントをすべて停止して、確認できた痕跡情報(インジケーター)をパートナーと共有したよ。これで、このオペレーターたちは ChatGPT を使った開発支援を受けられなくなったの。ただし OpenAI は、Trellix が報告したキャンペーンで実際に使われた悪性バイナリが自社モデルで生成された証拠は見つかっていない、とも述べているよ。モデルへのアクセスが、公開情報だけでは得られない新しい能力を与えた証拠もないみたい。

深く潜ってみよう

OpenAI が確認したモデルとのやり取りには、こんな傾向があったよ。

• インプラント / RAT 関連の下調べ: リフレクティブ DLL ローディングやメモリ上での実行、Windows API フッキングの手法を探る内容
• 認証情報窃取ルーチン: Chrome / Edge の DPAPI を使って、ブラウザの暗号化キーや Cookie、保存済みパスワードを抜き出すスクリプトの生成・修正・デバッグ
• フィッシングと誘導文面: 暗号資産や政府機関、金融サービスをテーマにした韓国語のフィッシングメール文面の作成、HTML の難読化、本物そっくりのログインページを作るための reCAPTCHA の偽装・プロキシ化
• macOS 開発の下地作り: Finder 拡張機能や Safari 拡張機能の開発リクエスト、App Store 向けのサンプルプライバシーポリシーの生成
• 暗号資産まわりの作業: API 呼び出しやウォレット連携のトラブルシューティング

このほかにも、pCloud や file.io、Google ドライブの直リンク生成・API スクリプト化、GitHub の raw コンテンツ取得やトークン処理といった、クラウドストレージ・開発者プラットフォームを使ったやり取りも確認されているよ。OpenAI は、これらと同じオペレーターが、別の開発者向けプラットフォームやクラウドサービス上でペイロードを準備していた可能性もある、と指摘しているんだ。

こうしたリクエストの多くは、ソフトウェアデバッグや暗号処理、ブラウザ開発といった正当な用途としても成立する「デュアルユース」の内容で、単体では悪意があるとは判断しにくいグレーゾーンだった、と OpenAI は説明しているよ。

まとめ

• OpenAI が、韓国語で活動していた ChatGPT アカウント群を停止した
• Trellix が報告した北朝鮮(DPRK)関連キャンペーン(韓国の外交機関へのスピアフィッシング、XenoRAT の展開など)と手口の重なりが見つかったが、OpenAI 自身は独自に主体を特定できていない
• アカウントごとに用途が分かれていて、マルウェア / RAT 開発の下調べ、ブラウザ認証情報の窃取スクリプト、暗号資産テーマのフィッシング文面作成、macOS 拡張機能開発などに使われていた
• クラウドストレージや GitHub を使った運用インフラ構築も確認された
• 関連アカウントはすべて停止され、痕跡情報はパートナーと共有された。モデルが公開情報以上の新しい能力を与えた証拠は見つかっていない

AI の安全対策や、実際の脅威アクターがどう AI を使おうとしているかに興味があるみんなに読んでほしいレポートだよ！