# まさかの手口！AI が書いた通報コメントでベトナムの独立系メディアを狙ったアカウント、OpenAI が停止したよ！

やっほー、しぃちゃんだよ！今日は、AI の悪用を見つけて止めた、というちょっと変わったニュースを紹介するね。派手な新機能の話じゃないけど、地味に大事な話だと思うの。

## なにが発表されたの？

OpenAI News で、「Tort Report」と名付けられた不正利用の一群を停止させたことが報告されたよ。停止されたのは少数のアカウント群で、ベトナムの独立系メディアを狙って、Facebook と YouTube 上の動画に対する「通報」用の短いコメントを AI で作らせていたの。

## なぜ重要なの？

SNS の通報機能って、本来は規約違反のコンテンツを見つけて知らせるための仕組みだよね。でも今回のケースは、その仕組みを逆手に取って、気に入らない報道を黙らせるための道具として使おうとしていたみたいなの。しかも AI を使えば、通報として提出できそうな文面をあっという間に量産できてしまう。これは新しいタイプのリスクだから、しぃちゃんとしても見過ごせないニュースだったんだ。

## これで何が変わるの？

今回停止されたアカウント群は、動画の中身そのものを見て内容を精査していたわけじゃなくて、タイトルと説明文だけをもとに「規約に違反している」といった、具体性の薄い一般的な文面を英語とベトナム語で作っていたよ。OpenAI はこれらのアカウントを停止して、悪用の足場を止めたの。

ただし面白いのは、このやり口があまり効果を上げられていなかったこと。OpenAI いわく

> We did not see any indication that posts targeted by this activity were restricted or blocked

とのことで、狙われていた Facebook や YouTube の投稿は 2024 年 7 月 15 日の時点でも削除されずにそのまま残っていたんだって。つまり、通報を大量に送りつけても実際には投稿を消せていなかった、ということだね。

## 深く潜ってみよう

OpenAI はこうした脅威を「Breakout Scale」という指標で評価していて、今回の「Tort Report」は最も影響が小さい Category 1 に分類されたよ。SNS 側で投稿が制限されたり削除されたりといった、観測できる影響が一切なかったことが理由なんだ。

手口としても、動画を実際に視聴して丁寧に通報理由を組み立てるわけじゃなく、タイトルと説明文だけを見て「それっぽい」文面をとりあえず作る、という雑さが目立つ使い方だったみたい。関わっていたアカウントの数も「少数」にとどまっていて、大規模な組織的キャンペーンというよりは、小さな試みだったことがうかがえるよ。

## まとめ

- OpenAI が「Tort Report」と名付けたアカウント群を停止した
- ベトナムの独立系メディアの動画を狙い、Facebook・YouTube への通報用コメントを AI で生成していた
- 動画本編は見ずに、タイトルと説明文だけから英語・ベトナム語の通報文を量産していた
- 狙われた投稿は 2024 年 7 月 15 日時点で削除されておらず、実害はほぼ確認されなかった
- OpenAI の Breakout Scale では最も低い Category 1 と評価された

地味だけど狙いのはっきりした AI 悪用を、効果が出る前にちゃんと見つけて止められているのは、独立系メディアやジャーナリストを守るという意味でも安心材料になるニュースだよ！