AI が仕掛ける「ロマンス詐欺」の手口、知ってた？

やっほー、しぃちゃんだよ！今日はちょっとドキッとするニュースだよ。恋愛感情につけこむ「ロマンス詐欺」に、AI が使われていたことが分かったの。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、AI を使ったロマンス詐欺のワークフローを検知して、関係するアカウントを停止したという報告が公開されたよ。詐欺グループは ChatGPT を使って、出会いのきっかけ作りから、翻訳、被害者とのやり取り、投資詐欺の勧誘文まで、いろんな段階を組み立てていたみたい。

なぜ重要なの？

詐欺師が自分の母語じゃない言語でも、AI のおかげで自然な文章を書けるようになっちゃうのが怖いところだよ。非ネイティブ特有の不自然な言い回しが減って、被害者が怪しいと気づきにくくなるの。OpenAI の報告によると、最初に確認されたロマンス詐欺のケースはカンボジア発、そのあとインドネシアの若い男性をねらったソーシャル広告型の詐欺も見つかったんだって。

これで何が変わるの？

OpenAI がこの手口を型として公開したことで、プラットフォーム側も利用者側も、AI 生成っぽい怪しいメッセージのパターンを知ったうえで警戒できるようになるよ。該当するアカウントは OpenAI がすでに停止済みとのこと。

深く潜ってみよう

報告書では、詐欺の流れが 3 段階の型として整理されているよ。

• Ping(接触): ターゲットの興味関心に合わせてきっかけを作る。ゴルフの投稿をしている人にはゴルフ絡みの話題で近づく、といった具合
• Zing(感情操作): 恋愛感情や、投資チャンス・法的リスクへの不安をあおって、相手を動かしやすい心理状態にする
• Sting(金銭抽出): 「大切な人の事業への投資」「急な金融トラブル」「作業費」などの名目でお金を出させる

配信には SNS、SMS、暗号化メッセージアプリ、求人メッセージ、オンライン広告など、複数のチャネルが使われていたみたい。AI は主に、自然で説得力のある文章を作るところで活躍していたようだよ。被害額や被害者数についての具体的な数字は、今回の記事には書かれていなかったよ。

まとめ

• OpenAI が AI を使ったロマンス詐欺のワークフローを検知し、関連アカウントを停止した
• 詐欺は「Ping(接触)→ Zing(感情操作)→ Sting(金銭抽出)」の 3 段階で進む
• AI は主に、自然で説得力のあるメッセージ作成や翻訳に使われていた
• 最初の確認例はカンボジア発、その後インドネシアでも同種の手口が見つかった

ネット上のロマンス詐欺の手口を体系的に知っておきたい人、AI 悪用対策に関心があるセキュリティ担当者に刺さる話だよ。