【AIx個人情報検出】白金数理、日本語特化の軽量な個人情報検出モデルをオープンモデルとして公開

白金数理、日本語の個人識別情報を検出するAIモデルをオープンモデルで公開。生成AIやLLMへの個人情報送信を防ぐためのPII検出・マスキング基盤として活用可能

白金数理合同会社

白金数理合同会社は、日本語の文章に含まれる個人識別情報(Personally Identifiable Information、以下「PII」)を検出するAIモデル「pii-ja-ner-onnx」を、オープンソースモデルとして Hugging Face に公開しました。本モデルは、文章中の氏名、住所、電話番号、メールアドレス、各種識別番号などを検出する、日本語BERTベースの固有表現抽出モデルです。

あわせて、モデルの動作をWebブラウザ上で確認できるデモページを公開しました。デモでは、入力された文章を外部の推論APIへ送信せず、利用者のブラウザ内でPII検出処理を実行します。

白金数理では、本モデルを企業や開発者が自由に検証・活用できる形で公開するとともに、企業が保有するデータを用いた精度検証、モデルの追加学習、既存システムへの組み込み、PIIマスキングシステムの開発などを提供します。

開発の背景

生成AIや大規模言語モデル(LLM)の業務利用が広がる中、企業が保有するデータを、外部のAIサービスやAPIへ送信する機会が増えています。特に、社会福祉領域では、支援記録、面談記録、相談記録、問い合わせ履歴、音声の文字起こし、さらに社内文書などには、氏名、住所、電話番号、家族関係、施設名、利用者番号などの情報が含まれることがあります。これらの文章データは、LLMによる要約、分類、検索、記録作成支援などとの相性がよく、AI活用による業務効率化の効果が期待される領域でもあります。

一方で、これらの情報は医療や福祉の情報と組み合わさると、極めてセンシティブな情報となりうるため、これらを安易に既存サービスに渡すことは非常に危険です。しかし、一概に生成AIの利用を禁止してしまうと、生成AIの強力な利便性から、シャドーAI(各従業員が自らのアカウントなどで非公式にAIサービスを利用すること)を引き起こすリスクもあり、慎重に対応を検討すべき課題です。

また、生成AIは、単独のチャットサービスとしてだけでなく、業務システム、社内検索、問い合わせ対応、RAG、AIエージェントなど、さまざまなシステムの内部に組み込まれ始めており、特定の生成AIの利用を禁止したとしても、知らずにAIを使っているという状況は今後も増えていくものと予想されます。

そこで白金数理では、AIの利用を全面的に止めることではなく、AIへデータを渡す前に、外部へ送信してよい情報と送信すべきでない情報を識別し、必要に応じてマスキング、匿名化または送信停止を行う仕組みを推奨しています。こうした仕組みが今後のAIシステムにおける基礎的なセキュリティレイヤーの一つになると考え、日本語PII検出技術の研究開発を進めてきました。

公開モデルの特徴

今回公開する「pii-ja-ner-onnx」は、日本語の文章をトークン単位で解析し、文章中に含まれるPIIの位置と種類を検出する固有表現抽出モデルです。主な特徴は以下のとおりです。

  • 日本語BERTをベースとしたトークン分類モデル

  • 18種類のPIIを検出

  • 37個のBIOラベルに対応

  • ONNX形式で配布

  • INT8量子化済み

  • モデルサイズは約105.4MiB

  • Apache License 2.0で公開

  • サーバー、Webブラウザ、モバイル、エッジ環境などへの組み込みを想定

検出対象には、氏名、組織名、住所、電話番号、メールアドレス、マイナンバー、旅券番号、運転免許証番号、社員番号、学籍番号、銀行口座、クレジットカード番号、生年月日、IPアドレスなどが含まれます。

Webブラウザ内で動作するデモを公開

あわせて公開したデモページでは、利用者が任意の日本語文章を入力し、モデルによるPII検出結果をブラウザ上で確認できます。デモはONNX Runtime Webを利用しており、モデルを利用者のブラウザへ読み込み、端末内で推論処理を実行します。入力された文章はPII検出のために白金数理のサーバーや外部のLLM APIへは送信されません。これにより、個人情報を含む可能性のある文章を外部へ送信せず、PII検出モデルの動作を確認できます。

なお、本デモはモデルの挙動を確認することを目的としたものであり、あらゆる個人情報を完全に検出することを保証するものではありません。実際の業務システムへ導入する場合は、対象データを用いた精度評価、正規表現や辞書との組み合わせ、信頼度閾値の調整、マスキング方法の設計などが必要です。

想定される利用用途

本モデルは、以下のような用途への活用を想定しています。

  • LLMや生成AI APIへ送信する文章の事前検査

  • 氏名、住所、電話番号などの自動マスキング

  • 社内AIチャットやLLM Gatewayへの組み込み

  • RAGへ登録する文書の匿名化

  • 問い合わせメールやチャットログの分析前処理

  • 音声文字起こしデータの匿名化

  • アプリケーションログや監視データのPII検査

  • 本番データを開発・検証環境へ移す際の匿名化

  • 医療、介護、福祉、教育領域における記録データの処理

  • オンプレミスや閉域環境におけるPII検出

検出した情報は、単純に削除するだけでなく、用途に応じて匿名IDへの置換、部分マスキング、送信ブロック、人手による確認などの処理と組み合わせることができます。

オープンモデルの公開と商用支援について

本モデルは、Apache License 2.0のライセンスに基づいて利用できます。

一方、PII検出モデルを実際の業務システムで利用する場合、モデル単体の導入だけでは十分でないケースがあります。文章の形式や対象業務によって検出精度は異なるため、自社データを用いた評価や、業務固有の辞書、正規表現、マスキングルールなどを組み合わせる必要があります。

また、本番環境では、処理速度、長文分割、監査ログ、アクセス制御、障害発生時の挙動などを含めたシステム設計が必要です。

そこで白金数理では、以下の支援を提供します。

  • 企業が保有するデータを用いた精度検証

  • 評価データセットおよびアノテーション基準の設計

  • 業界や業務に合わせたモデルの追加学習

  • 検出対象となるPIIラベルの追加

  • 正規表現、辞書、NERモデルを組み合わせた検出基盤の設計

  • PIIマスキング、匿名化、疑似匿名化システムの開発

  • LLM Gateway、RAG、業務システムへの組み込み

  • API、管理画面、レビュー画面、監査ログの開発

  • オンプレミス、閉域ネットワーク、エッジ環境への導入

  • AI活用におけるデータガバナンス、セキュリティ設計

今後の展開

白金数理では、今回公開したモデルについて、検出精度の改善、対応ラベルの拡張、推論性能の最適化などを継続して検討します。また、PII検出を単独の機能として提供するだけでなく、生成AIやLLMを安全に業務へ導入するためのデータ処理基盤として、マスキング、匿名化、アクセス制御、監査などを含むシステムの研究開発を進めます。

基礎となるモデルや技術をオープンに提供し、その上で各企業のデータや業務要件に合わせた精度評価、システム統合、運用設計を支援することで、安全なAI活用の普及に貢献します。

公開情報

本件に関するお問い合わせ

白金数理合同会社

PII検出モデルの精度検証、既存システムへの組み込み、マスキングシステムの開発、生成AI利用時のセキュリティ設計について、ご相談を受け付けています。

すべての画像


ダウンロード
プレスリリース素材

このプレスリリース内で使われている画像ファイルがダウンロードできます

会社概要

白金数理合同会社

4フォロワー

RSS
URL
https://www.shirokane-suri.com
業種
情報通信
本社所在地
千葉県千葉市美浜区若葉3-1-18 幕張ベイパーククロスレジデンスS2-1 TENT幕張内
電話番号
050-1753-2023
代表者名
長谷川知里
上場
未上場
資本金
-
設立
2021年07月