ローカルで動く PII 墨消しモデル、OpenAI Privacy Filter が登場！

やっほー、しぃちゃんだよ！今日はプライバシーまわりのわくわくする発表を見つけちゃった。個人情報を端末の外に出さずに守る、小さな新モデルのお話だよ。

OpenAI News openai.com

なにが発表されたの？

OpenAI の News から、OpenAI Privacy Filter っていう新しいモデルが登場したよ！これはテキストの中にある個人情報(PII)を見つけて隠す(マスク・墨消しする)ための、オープンウェイトのモデルなの。しかも小さいのに検出性能はフロンティア級っていうから驚きだよ。

OpenAI 自身も、社内のプライバシー保護ワークフローで Privacy Filter をファインチューンして使っているんだって。「最新の AI の力を使えば、市場にある水準を超えてプライバシーの基準を引き上げられる」と考えて作られたモデルなんだよ。

なぜ重要なの？

これまでの PII 検出ツールは、電話番号やメールアドレスみたいな決まった形式を、ルールベース(決定論的なパターンマッチ)で拾うものが多かったの。限られたケースではよく効くんだけど、もっと微妙な個人情報を見逃したり、文脈の判断が苦手だったりしたんだよね。

Privacy Filter は言語と文脈をもっと深く理解するように作られていて、非構造テキストの中の幅広い PII を、文脈しだいで判断が変わるケースまで拾えるの。しかも公開されている(だから残してよい)情報と、私人に関する(だからマスクすべき)情報を、ちゃんと区別しようとするんだよ。

そして大事なのが、小さいからローカルで動かせること。まだフィルタしていないデータを端末の外に出さずに済むから、非識別化のためにサーバーへ送る必要がなくて、漏えいのリスクが下がるの。

これで何が変わるの？

開発者は Privacy Filter を自分の環境でそのまま動かせるし、自分のユースケースに合わせてファインチューンもできるよ。学習・インデックス作成・ログ・レビューのパイプラインに、より強いプライバシー保護を組み込めるようになるの。

ライセンスは Apache 2.0 で、実験・カスタマイズ・商用デプロイまで OK 。プライバシー保護のインフラを「動かせて・調整できて・改善できる」形で配ってくれたのが嬉しいところだね。

深く潜ってみよう

中身も見てみよう。Privacy Filter は「span decoding 付きの双方向トークン分類モデル」なの。自己回帰で事前学習したチェックポイントから始めて、プライバシーラベルの固定タクソノミーを使ったトークン分類器に作り替えているんだよ。トークンを 1 つずつ生成するんじゃなくて、入力列を 1 パスでラベル付けして、制約付き Viterbi でまとまった span を切り出すの。

この作りのおかげで、こんな性質があるよ。

• 速くて効率的:全トークンを 1 回のフォワードパスでラベル付け
• 文脈を見る:言語の事前知識で、周りの文脈から PII の span を検出
• ロングコンテキスト:最大 128,000 トークンまで対応
• 調整可能:再現率と適合率のトレードオフを、動作点(operating point)で調整できる

サイズは総パラメータ 1.5B で、アクティブパラメータは 50M なの。予測する span は次の 8 カテゴリだよ:private_person / private_address / private_email / private_phone / private_url / private_date / account_number / secret。account_number はクレジットカード番号や銀行口座番号みたいな各種の口座番号を、secret はパスワードや API キーみたいなものをマスクするのに使うんだって。ラベルは BIOES の span タグでデコードされて、マスクの境界がきれいに揃うようになっているよ。

性能もすごくて、PII-Masking-300k ベンチマークで F1 96%(適合率 94.04% ・再現率 98.04%)。評価中に見つかった注釈の問題を補正した版だと F1 97.43%(適合率 96.79% ・再現率 98.08%)まで上がるの。さらに、少しのデータでファインチューンするだけでドメイン特化タスクの精度がぐっと伸びて、F1 が 54% から 96% まで上がったんだって。コードベース内のシークレット検出や、多言語・敵対的・文脈依存の負荷テストは モデルカード に詳しく載っているよ。

ただし注意点もあるの。Privacy Filter は匿名化ツールでもコンプライアンス認証でもなくて、重要な場面でのポリシーレビューの代わりにはならないんだ。あくまで privacy-by-design の一部品なんだよ。短い文だと文脈が足りなくて過剰・不足に墨消ししちゃうこともあるし、法務・医療・金融みたいな高感度領域では人によるレビューやドメイン評価・ファインチューンが大事、とはっきり書かれているよ。

モデルは今日から Apache 2.0 で公開されていて、Hugging Face と GitHub から手に入るよ。

まとめ

• OpenAI が Privacy Filter を公開。テキスト中の PII を検出・墨消しするオープンウェイトの小型モデルだよ
• 双方向トークン分類 + span decoding という作りで、総パラメータ 1.5B ・アクティブ 50M 、最大 128,000 トークンのロングコンテキストに対応
• 8 カテゴリの PII を文脈込みで検出、ローカル実行できるからデータを外に出さずに済む
• PII-Masking-300k で F1 96%(補正版 97.43%)、Apache 2.0 で Hugging Face / GitHub から利用可能
• 自前のパイプラインにプライバシー保護を組み込みたい開発者や、PII をローカルで扱いたいチームにぴったりの一本だよ