ドイツ選挙に忍び寄るロシアの影？OpenAI が「Helgoland Bite」を摘発したよ！

みんな、しぃちゃんだよ！今日は「AI がここまで使われちゃうんだ…」ってちょっとザワッとする話、OpenAI の悪用対策レポートを紹介するね。

OpenAI News openai.com

なにが発表されたの？

OpenAI News で、ロシアを拠点にしているとみられる ChatGPT アカウント群を停止したと報告されたよ。このアカウント群は、2025 年のドイツの選挙をテーマにしたドイツ語のコンテンツを AI で生成して、アメリカや NATO を批判する論調を広めていたの。生成されたコンテンツは、Telegram と X(旧 Twitter)で拡散されていたんだって。

なぜ重要なの？

生成 AI は多言語で自然な文章を量産できるから、こういう世論操作にも悪用されやすいんだよね。しかも今回はドイツの選挙が絡んでいるタイミングでの摘発だから、選挙関連の偽情報対策としても注目されているんだ。ロシア発とみられるネットワークが AfD(ドイツのための選択肢)支持や反米・反 NATO の論調を広めていたっていうのも、地政学的な意味で見逃せないポイントだよ。

これで何が変わるの？

OpenAI がこのネットワークに関連するアカウントを停止したことで、少なくとも ChatGPT を使って新しいコンテンツを量産することはできなくなったよ。さらに今回の調査では、このネットワークが「Portal Kombat」というモスクワ発の工作ネットワークの一部と繋がっていたことも確認されたの。「Portal Kombat」は、フランス政府の情報操作対策機関 VIGINUM がすでに特定していたネットワークで、既存の対ロシア工作の調査網に今回の発見がしっかり接続された形だね。

深く潜ってみよう

今回のネットワークには「Helgoland Bite」という名前が付けられたよ。由来は 2 つあって、コンテンツの配信元だった Telegram チャンネル「Nachhall von Helgoland(ヘルゴラントのこだま)」の名前と、辛口な(=噛みつくような)論調のコンテンツを量産していたことなんだって。ちなみに「ヘルゴラント」は北海のヘルゴラント湾に浮かぶ島の名前だよ。

拡散の流れはこんな感じだったよ。

• Telegram チャンネル「Nachhall von Helgoland」が、地域密着の独立系ドイツニュースを装って AI 生成コンテンツを配信。調査時点の購読者数は 1,755 人
• その内容が、ドイツ語圏向けサイト「Pravda(DE)」にそのまま転載される
• Pravda(DE)は、モスクワ発の工作ネットワーク「Portal Kombat」の一部として、フランス政府の VIGINUM がすでに特定していたサイト
• X のアカウント(フォロワー 27,000 人超)でも AI 生成のプロフィール画像を使いつつ、AfD を支持する投稿を繰り返していた

投稿内容の一例としては、「AfD が政権を取ったら真っ先に、無駄な経費を洗い出す『DOGE 省』のような仕組みを作るべきだ」といった主張も確認されたよ。

さらに気になるのは、このアカウント群が ChatGPT に対して、ドイツの野党系アクティビストやブロガーの連絡先など、公開情報の調査も依頼していたこと。加えて、ロシア語からドイツ語への短文翻訳も頼んでいて、その内容には投稿タイミングの調整や報酬に関するやり取りらしきものも含まれていたんだって。

効果のほどはというと、OpenAI は独自の指標「Breakout Scale」で「カテゴリー 2 の上位寄り」と評価しているよ。複数のプラットフォームにまたがって活動はしていたものの、実際のユーザーが広く拡散した形跡や、本物のエンゲージメントはほとんど見られなかったみたい。

まとめ

• OpenAI が、ロシア発とみられる ChatGPT アカウント群「Helgoland Bite」を停止した
• 2025 年のドイツの選挙をテーマに、反米・反 NATO 論調のドイツ語コンテンツを生成していた
• Telegram チャンネル(購読者 1,755 人)と、モスクワ発ネットワーク「Portal Kombat」傘下の Pravda(DE)サイトに転載
• X アカウント(フォロワー 27,000 人超)で AfD 支持コンテンツと AI 生成プロフィール画像を使用
• 野党アクティビストの連絡先調査やロシア語→ドイツ語の翻訳も依頼。効果は Breakout Scale で「カテゴリー 2 の上位寄り」と評価

海外発の選挙介入や AI 悪用対策の実態に関心があるみんなに読んでほしいレポートだよ！