日本語文書検索に特化した次世代小型AIモデルの研究開発を開始

NEDO「GENIAC-PRIZE」でのPoCを起点に、Rerankerに依存しない高速検索と長文の重要論点・異同比較を目指す

NEDOでのPoCを起点に研究開発を進める、日本語専門文書向け次世代AI検索・分析基盤

光数株式会社は、日本語の専門文書を高精度かつ高速に検索・理解するための、次世代小型AIモデルの研究開発を開始しました。

本研究では、既存の多言語モデルを日本語向けに追加学習するのではなく、日本語文書を中心としたデータから小型モデルをゼロから事前学習します。

特許・技術・行政・法務などの専門領域に応じた追加学習を可能とし、「関連する文書を探す」だけでなく、長文の中から重要な論点を抽出し、複数文書の共通点や相違点まで捉えられる日本語ネイティブな文書検索AIの実現を目指します。

NEDOでのPoCから見えてきた次の課題

光数は2025年度、NEDO（国立研究開発法人新エネルギー・産業技術総合開発機構）が実施した「GENIAC-PRIZE」の領域02「官公庁等における審査業務等の効率化に資する生成AI開発」に参加しました。

特許審査業務をモデルケースとして、日本語文書に特化したAIモデルを活用し、大量の特許公報から関連文献を検索するとともに、技術的な要点や関連箇所を抽出・比較するプロトタイプを開発しました。

このPoCを通じ、専門文書検索へのAI活用の可能性を確認すると同時に、実運用に向けた二つの課題が明確になりました。

一つは、検索精度を高めるために利用される「Reranker（再ランキングモデル）」の処理負荷です。

一般的な高精度文書検索では、まず関連する候補を検索し、その後Rerankerと呼ばれる別のAIモデルで候補を再評価する二段階構成が広く使われています。一方、文書数や候補数が増えるほど処理負荷も増えるため、大規模運用では応答速度や計算コストが課題になります。

もう一つは、単純な文書単位の類似度だけでは、専門業務に必要な情報を十分に捉えられないことです。

特許や技術資料のような長文では、文書全体が似ているかどうかだけでなく、重要な技術要素や論点がどこにあり、「何が同じで、何が異なるのか」を把握する能力が求められます。

光数では、NEDOでのPoCを通じて得たこれらの知見を、次の研究開発フェーズにつなげます。

「Rerankerを高速化する」のではなく、「Rerankerを必要としない」検索へ

今回の研究では、検索モデルそのものの意味理解能力と関連性判定能力を高めることで、Rerankerへの依存を減らす新しい検索アーキテクチャを目指します。

従来の

「検索モデル → 候補抽出 → Rerankerによる再評価」

という構成から、

「検索モデルによる高精度な直接検索」

への移行を目標とします。

これにより、検索速度の向上だけでなく、GPUなどの計算資源、インフラコスト、システム構成の複雑さの削減も期待できます。

多言語モデルではなく、日本語からゼロから学習

現在広く利用されているAIモデルの多くは、英語、中国語、日本語を含む大規模な多言語データを学習しています。

一方、日本語と中国語のように多数の漢字を共有しながら、同じ文字や単語でも意味・用法・文脈が異なる言語では、モデル内部で言語間の情報が混在する場合があります。

また、日本語に特化したEmbeddingモデルの研究では、比較的小規模なモデルでも高い検索性能を示す例が報告されています。

光数では、既存の多言語基盤モデルを日本語向けにFine-tuningするのではなく、日本語文書を中心としたデータからモデルそのものをゼロから構築します。

日本語固有の語彙、漢字の使われ方、文章構造、文脈を基礎学習の段階からモデル内部に形成したうえで、特許・技術・行政・法務など、各専門分野に合わせた追加学習を可能にします。

小さなモデルで、長い文書の「重要な違い」まで理解する

本研究では、モデルを必要以上に大型化するのではなく、日本語専門文書の検索・理解に必要な能力へ学習資源を集中させた小型モデルを開発します。

研究テーマは主に以下の3点です。

・日本語文書を中心にゼロから学習する「日本語ネイティブ」な意味表現
・Rerankerに依存せず、高速かつ高精度に関連文書を探索する検索能力
・長文から重要な論点を抽出し、複数文書の共通点・相違点を捉える文書理解能力

また、小型化によって高性能GPUを前提とせず、一般的なPCやサーバーのCPU環境でも利用できる軽量な構成を目指します。これにより、大規模なGPU環境だけでなく、企業内PCやオンプレミスサーバー、外部APIを利用しにくい閉域環境への導入も容易になります。

今後は特許文書をはじめとする日本語専門文書を用いて学習・評価を進め、既存の多言語EmbeddingモデルやEmbedding＋Reranker構成との比較検証を行います。

光数は、NEDOでのPoCによって得られた実装上の知見をもとに、「文書を探すAI」から「長文の中の重要な違いまで理解するAI」への発展を目指し、日本語専門文書の検索・分析基盤の研究開発を進めてまいります。

Web：https://ai.wdx.jp
お問い合わせ：[e-mail]