# ChatGPT 悪用の詐欺工場、OpenAI がカンボジアで摘発！

やっほー、しぃちゃんだよ！今日は「AI がどんな風に悪用されて、それをどう食い止めたか」が分かる、ちょっと重めだけど大事なニュースを見つけたから紹介するね。

## なにが発表されたの？

OpenAI の News で、カンボジア拠点の詐欺オペレーションを摘発したというレポートが公開されたよ。今年に入ってから、投資詐欺・ロマンス詐欺・ギャンブル詐欺・法執行機関へのなりすまし詐欺を支援するために ChatGPT を悪用していたグループを見つけて、対応したんだって。もともとは WhatsApp チームからの情報提供がきっかけで調査を始めて、今回の脅威情報は業界のパートナーや関係当局にも共有されたそうだよ。

OpenAI はこの手のグループについて「1 種類の詐欺だけに絞り込むことはめったにない」と説明していて、実際にこの組織も複数の詐欺の型を状況に応じて使い分けたり、組み合わせたりしていたことが分かっているの。

## なぜ重要なの？

今回の発表が興味深いのは、単に「AI が詐欺に悪用された」という話にとどまらない点だよ。詐欺ネットワークの一部のユーザーが、人身取引や強制労働を疑わせる内容も生成していたことが分かったの。これは東南アジアの組織犯罪グループが、正規の仕事だと偽って労働者を勧誘し、借金による束縛や強制で働かせているという、Wall Street Journal や Amnesty International の報道内容とも一致しているんだって。OpenAI 自身も「詐欺の実行者自身が、人身取引の被害者である可能性がある」と注意を促しているよ。オンライン詐欺・組織犯罪・人身取引の境界線があいまいになっている実態が、あらためて浮き彫りになった発表なの。

## これで何が変わるの？

OpenAI はこの詐欺オペレーションに関連する ChatGPT アカウントを停止したよ。さらに、関連する脅威の指標を業界パートナーや関係当局と共有して、このグループが今後アクセスを取り戻しにくくなるような対策も取ったんだって。

OpenAI は今回のケースから 2 つの傾向を指摘しているよ。

- 組織的な詐欺ネットワークは 1 種類の手口に絞らず、複数の詐欺スキームを同時並行で回していることが多い
- オンライン詐欺・組織犯罪・人身取引の境界はあいまいで、被害者向けの詐欺行為だけでなく、それを主導し利益を得ている犯罪組織そのものを狙わないと、効果的な摘発にならない

エンジニアにとっても、生成 AI がどんな手口で悪用されるか・それをどう検知しているかを知るヒントになる内容だよ。

## 深く潜ってみよう

### どう使われていたの？

このネットワークは ChatGPT を使って、偽のオンライン人格の作成・運用、ターゲットに送るメッセージの生成や翻訳、詐欺スキームの宣伝コンテンツ作成、日々の運営業務のサポートまで幅広くこなしていたよ。過去に摘発された詐欺ネットワークと同じように、一部のユーザーは社内向けのお知らせの下書き、スタッフ間のメッセージ翻訳、採用や在留資格・労働条件・懲戒に関する記録の作成といった、いわば「詐欺組織の総務業務」にも ChatGPT を使っていたんだって。

### 詐欺の手口は「ping → zing → sting」

複数の詐欺の型を組み合わせていたのが特徴で、たとえば出会い系のペルソナで信頼関係を築いてから、暗号資産やスポットゴールド取引を持ちかける投資詐欺に誘導するケースもあったよ。ほかにも、架空の人物になりきった長期間のロマンス詐欺、オンラインギャンブルの運営者を装って偽のボーナスや当選金をちらつかせる手口、法執行機関になりすまして「罰金を払わないと逮捕する」と迫る手口も確認されているの。パスポートや法的通知、株の購入確認書、ギャンブルサイトの画面といった偽造書類の画像まで生成していたそうだよ。

OpenAI はこうした手口を 3 段階に整理しているよ。

- 接触(ping): WhatsApp や Telegram でターゲットとのやり取りを翻訳・生成し、SNS 投稿や出会い系プロフィール用の情報もリサーチする
- 揺さぶり(zing): 「元本保証」「リスクゼロ」といった投資の謳い文句やロマンチックな言い回し、会話を秘密にするよう求める指示、ボーナス期限が迫っているという焦らせ文句などで心理的に追い込む
- 回収(sting): 報酬を受け取るための入金や手数料の支払い、架空の罰金の支払いを指示し、送金の証拠として振込画面や口座情報のスクリーンショットを送らせる

### 人身取引を疑わせる痕跡も

さらに気になるのが、詐欺行為とは別に人身取引や強制労働をうかがわせるやり取りも見つかった点だよ。カンボジアのポイペトで「チャッター」という仕事を募集する SNS 広告を ChatGPT に作らせていて、航空券・宿泊・食事・ビザ・労働許可証の提供までうたっていたんだって。

内部の管理業務にも AI が使われていて、従業員の借金や給与天引き、懲戒罰金、ローン返済の記録づくり、在留資格やビザの期限超過、採用インセンティブに関するやり取りの翻訳などが確認されているよ。中には、拘束や脱走の試み、人身取引された人が負う可能性のある刑事責任について言及した会話もあったそうで、こちらも東南アジアの組織犯罪に関する既存の報道と一致する内容なの。

### 被害の規模は？

被害総額は不明としながらも、詐欺実行者たち自身のやり取りから、このオペレーションが複数の詐欺の型にまたがって数百人規模のターゲットと接触していた可能性があると OpenAI は見ているよ。会話の中には、被害者が数千ドル単位の損失を出したという記述もあったけど、これは OpenAI 側で独自に裏付けが取れているわけではないとのことなの。

## まとめ

- OpenAI が、投資・ロマンス・ギャンブル・法執行機関なりすましの詐欺を支援していたカンボジア拠点のネットワークを摘発
- 発端は WhatsApp チームからの情報提供。関連の脅威情報は業界パートナーや関係当局にも共有された
- 詐欺の手口は「接触(ping)→ 揺さぶり(zing)→ 回収(sting)」の 3 段階で整理されている
- 詐欺以外にも、人身取引や強制労働を疑わせるやり取り(求人広告・従業員管理記録など)も見つかった
- 被害規模は不明ながら、数百人規模のターゲットと接触していた可能性があるとのこと

AI の安全対策や、生成 AI がどんな手口で悪用されているかに関心があるエンジニアのみんなに読んでほしい内容だよ。