NABLAS、総務省事業において生成AIの「なりすまし電話」検知、偽・誤情報対策技術を開発 〜特殊詐欺や金融犯罪をリアルタイムに防ぐ〜
県警の特殊詐欺対策や、銀行・証券会社の金融犯罪防止に向け実証パートナーを募集
AI総合研究所として活動するNABLAS株式会社 (本社 : 東京都文京区本郷、 代表取締役 所長 : 中山 浩太郎、 以下「当社」)は、総務省「偽・誤情報対策のための技術開発・実証事業（令和7年度）」において、当社とNTT東日本株式会社の両社で構成されるコンソーシアムの取り組みである、AI生成音声によるなりすまし対策を目的とした「電話音声フェイク検知システム」および「偽・誤情報対策」に関する技術開発・実証を実施し、その成果が総務省Webサイトに公開されたことをお知らせします。
本実証では、実際の通信網を通した音声データセットを構築し、通話中にAI生成音声を逐次・低遅延で検知するシステムの検証を実施しました。また、長野県伊那市との連携を通じ、自治体現場における偽・誤情報対策の運用課題整理および実運用上の課題抽出を行いました。
また当社では、生成AIによる音声を用いたなりすまし電話・投資詐欺の被害防止や、特定人物を装った詐欺への対策など、自治体・都道府県警察・銀行・証券会社の実業務における課題解決に関する共同実証パートナーの募集を開始します。
■ 開発の背景
生成AIの急速な普及により、誰もが高精度な画像・映像・音声を容易に生成できる時代になりました。一方で、こうした技術の悪用による「偽・誤情報」の拡散や「特殊詐欺」の発生が、国内外で深刻な社会問題となっています。
特に、生成AIを使ったフェイク音声による「なりすまし電話」は、従来の詐欺手法よりも巧妙かつリアルであり、被害者が偽物と気づかずに騙されるケースが急増しています。また、SNSや動画共有サイトを通じて拡散される偽画像・偽映像は、政治・経済・災害対応などの分野において、誤った判断や混乱を招くリスクを孕んでいます。こうした状況を受け、偽・誤情報を見破り情報の信頼性を守る技術の開発や社会実装が求められています。
当社は、本実証において情報の信頼性を確保し、安全・安心な社会の実現をめざして、AI生成音声によるなりすまし対策を目的とした「電話音声フェイク検知システム」および「偽・誤情報対策」に関する技術開発・実証を完了しました。また、本実証は総務省Webサイトにて公開しています。詳細な開発内容および実証結果は「13 NABLAS株式会社」の欄から閲覧できます。
https://www.soumu.go.jp/main_sosiki/joho_tsusin/d_syohi/taisakugijutsu_fy2025.html
■ 電話音声フェイク検知技術の開発
本実証では、通話中の相手の音声をリアルタイムで解析し、生成AIによるフェイク音声の可能性を判定して利用者に通知するアプリを開発しました。実際の通信網を用いた実網検証を実施し、電話回線特有の音声圧縮やエコーキャンセル処理などが介在する実インフラ環境下での検知性能を測定しました。これにより、実際の電話サービスへフェイク検知エンジンを適用する際の技術的ポイントが明確になり、実運用を見据えた技術開発を進めました。
■ 偽・誤情報対策の取り組み
長野県伊那市と連携し、実運用の中での課題や偽・誤情報の実態をヒアリングを行い、自治体の実務フローに合わせた偽・誤情報対策の実証実験を実施しました。実際の自治体による情報発信と、その情報がSNS等で拡散された場合を想定するとともに、虚偽投稿の発生を仮定した検証を行いました。実証運用の中で明らかになった課題や、伊那市からのフィードバックを反映させることで、電子透かしや証明書の埋め込み処理によるファイルサイズの軽量化や、SNS拡散後でも発信者の真正性が把握できることを確認し、システムを実用可能なレベルへと改善しました。
■ 今後の展望
本実証を通じて得られた実環境でのデータや運用上の課題をもとに、あらゆる環境へ適応可能なモデルの実装や、複数の検知手法を組み合わせた、より強力なフェイク検知体制を構築し、日々巧妙になる最新の生成AIにも柔軟に対応できる検知基盤へと繋げます。電話・通話環境におけるフェイク音声自動検知や、発信者証明技術が社会インフラとして普及し、誰もが安心して電話やデジタル上の情報を信頼できる社会の実現を目指してまいります。
■ 実証パートナー募集
NABLASでは、本実証で開発した音声フェイク検知技術のさらなる精度向上と社会実装を加速させるため、自治体、都道府県警察、金融機関、通信事業者、オンライン会議システムを提供する企業様をはじめとする、あらゆる企業様を対象に共同実証パートナーを募集しています。生成AIによる音声を用いたなりすまし電話・投資詐欺の被害防止や、特定人物を装った詐欺への対策など、実業務における課題解決に向けた連携に関心のある組織、団体、企業様は、ぜひお問い合わせください。
■ お問い合わせ
フェイク検知技術やファクトチェック技術、ならびに共同実証に関するご相談は、以下よりお気軽にお問い合わせください。
◾️NABLAS株式会社について
当社は東大発のベンチャーであり、AI人材教育・育成機関、そして最先端のAI技術、特にDeep Learning技術を活用したソリューションを提供するAI総合研究所です。AI人材育成事業では、東京大学で開発したAI人材教育コンテンツを当社でアップデートしたコンテンツを学習環境iLect Systemと共に、AI人材育成サービスとして提供しています。AIコンサル・R&D事業では、AI技術の導入・研究・開発について技術面でのコンサルティング業務を展開し、クライアントの状況に応じてAI技術の導入・開発など技術面でのサービス提供を行っています。AI技術の社会実装を様々な形で実現し、より良い未来を創造するための技術やサービスを探索・創造し続ける存在として、「Discover the gradients, Towards the future」のミッションのもと次世代を支える技術やサービスの開発に取りんでいきます。
◾️会社概要
社名：NABLAS株式会社
代表者：代表取締役 所長 中山 浩太郎
本社：東京都文京区本郷6-17-9 本郷綱ビル1F
設立：2017年3月
事業内容：AI人材育成事業 / コンサルティング / 研究開発
すべての画像
