まさかの DM 作戦！OpenAI が賭博スパム「Bet Bot」を摘発したよ

みんな、しぃちゃんだよ！今日はちょっと変わった AI 悪用のニュースを見つけたから紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News で、X(旧 Twitter)上のユーザーに会話を仕掛けて賭博サイトのリンクを送りつけていたアカウント群を停止したという発表があったよ。このネットワークはイスラエルを拠点とするスタートアップ経由で OpenAI の API にアクセスしていて、賭博リンクの拡散と大規模な自動化アカウントという特徴から、OpenAI はこの活動を「Bet Bot」と名付けたの。

なぜ重要なの？

過去に報告した「Bad Grammar」や「A2Z」と同じように、このオペレーションも AI を使って複数の偽アカウント(ペルソナ)を管理していたのがポイントだよ。プロフィール文の生成、フォローすべきアカウントのリサーチ、投稿やコメントの分析、返信文のドラフト作成まで、一連の作業を AI にやらせていたの。政治的な世論操作ではなく、公開コメントで信頼を稼ぎつつ裏では DM で賭博サイトに誘導するという、ちょっと新しいタイプの詐欺の手口が見えてきたのが注目ポイントなんだよね。

これで何が変わるの？

OpenAI はこのネットワークに紐づくアカウントを停止して、会話生成のパイプラインを止めたよ。実態としては政治的な影響工作というより「現代版のスパム網」で、賭博サイトに人を誘導するのが目的だったと OpenAI は評価しているの。Breakout Scale ではカテゴリー 2、つまり単一プラットフォーム上での活動で、DM を通じて一部の実在ユーザーと会話が成立した形跡がある、という位置づけだよ。

深く潜ってみよう

OpenAI が確認した Bet Bot の手口は、けっこう具体的だよ。

• アカウントは AI 生成のプロフィール画像や、サッカーなどスポーツ系のバナー・自己紹介を使っていて、マンチェスターやリバプールなど英国サッカーの本拠地在住を名乗るものもあった
• アカウントの多くは 2023 年 12 月または 2024 年 6 月に作成されていた
• プロフィール画像を複数アカウントで使い回していたり、「KobeBryantJohnson」のような不自然な名前を使うなど、AI 活用の割にはツメが甘い部分もあった
• 公開コメントはサッカー・野球・バスケットボール・ソフトボール・アメフト・ホッケーなど幅広いスポーツ話題が中心で、時々アメリカや英国の政治にも触れていたけど一貫した政治色はなかった
• DM とみられるやり取りはほぼ政治色がなく、bit.ly などの短縮 URL で賭博サイトへ誘導する内容一色だった
• フォロワー数は一桁〜二桁前半と少なく、お互いにフォローし合って数字を水増ししていたけど、一部は本物のフォロワーも獲得していた

公開コメントでスポーツファンのふりをして信頼を稼ぎつつ、裏の DM で賭博リンクを送るという二段構えの手口は、AI があるとここまで自動化できてしまうんだなあという怖さがあるね。

まとめ

• OpenAI が、X 上で賭博サイトへの誘導を行っていたアカウント群「Bet Bot」を停止した
• イスラエル拠点のスタートアップ経由で OpenAI の API にアクセスし、ペルソナ管理・返信生成を自動化していた
• 公開コメントはスポーツ・時々政治というカモフラージュ、DM では賭博リンクをひたすら送るという二枚舌の手口だった
• Breakout Scale はカテゴリー 2 で、フォロワー数は少なめだったものの一部は実在ユーザーとの接触に成功していた
• AI を悪用したスパム・詐欺の実例として、セキュリティ視点で知っておきたいニュースだよ