機微データを扱う業務への大規模言語モデルtsuzumi活用に関する実証実験を開始

NTT西日本

2024年9月17日 15時00分

西日本電信電話株式会社（本社：大阪府大阪市都島区、代表取締役社長：北村亮太、以下、NTT西日本）と山口県（知事　村岡　嗣政）は、自治体における働き方改革推進に向けて、庁内業務への生成AI適用、および機微データを扱う業務への大規模言語モデル（LLM※1）「tsuzumi※2」活用に関する実証実験を開始します。

1. 背景・目的

　現在、多くの自治体や企業は、少子高齢化による生産年齢人口の減少や働き方の多様化といった状況に直面しています。このような状況下で、生成AIは業務の効率化を通じて、生産性を向上させるツールとして注目されています。一方、生成AIの利用にあたっては、情報漏洩や著作権侵害、意図しない機微データの学習利用などのリスクが懸念されています。

　NTT西日本では、生成AIを活用した自治体・企業の課題解決を進めており、日本電信電話株式会社（以下 NTT）開発・提供の大規模言語モデル「tsuzumi」の商用提供開始に合わせ、技術検証を進め、適用可能性を模索してきました。安価なGPUでも動作可能な「tsuzumi」は、自治体や企業のオンプレミス環境で扱うことにより、より機密性の高いシステム環境で利用可能となり、特に機微なデータを扱う業務においては、効果的に生成AIの適用ができるという特徴があります。

　山口県では令和3年11月に、NTT西日本との協働の下、やまぐちDX推進拠点「Y－BASE」※3を開設し、DXに関する相談対応やコンサルティング、実証実験等、自治体や企業等への伴走型支援により県内のDXを推進しています。また、生成AIの分野においても、生成AIの利活用による県庁内業務の効率化・高度化に向けて、令和5年度より、「Y－BASE」のクラウドシステムである「Y－Cloud」上に、山口県独自のセキュリティ性の高い生成AIの利用環境を構築し、本格的な業務利用に向けたシステム等の検討を実施し、現在、全庁での本格運用を実施し、その利活用の促進に連携して取り組んでいます。

　このたび、NTT西日本は、これまで共創パートナーとして地域におけるDX推進にともに取り組んできた山口県とともに、Y-BASEを核に、これまでに培ってきた行政DXや生成AIに関する技術・ノウハウを活かし、機微データを扱う自治体業務への本格的な展開も見据えた実証実験を行うこととしました。

　今回の実証実験を通じて、NTT西日本と山口県は、「tsuzumi」の実用性と適用可能性の評価、及び適切なAI利用の推進に向けたAIガバナンスの在り方について検討を進めます。

※1　LLM(大規模言語モデル、Large Language Models)とは、大量のテキストデータを使って学習された言語モデルで、言語の理解や文章の生成に優れた能力を持ちます。　

※2　tsuzumiはNTT版大規模言語モデルです。日本語の処理性能を重視し、独自の大量のテキストデータを使って学習された言語モデルになります。

URL：https://www.rd.ntt/research/LLM_tsuzumi.html

「tsuzumi」は日本電信電話株式会社の登録商標です

※3　山口県が運営する「Y-BASE」 https://digitech-ymg.org/y-base/

2. 実証実験の概要

　本実証実験では、機微なデータを扱うためにオンプレミス環境において小型のGPUサーバでtsuzumiを動作させ、庁内の実データ活用を想定した実証を行います。

　具体的な対象業務としては、業務上の機微なデータを扱う業務の対応記録の要約・校正や、各種業務マニュアルの検索・要約等を想定しています。

　精度向上に向けて業務に特化したチューニング※4を行い、業務への適用性を高め、評価を行います。

※4　AIモデルの性能を最適化するためにパラメータや設定を調整するプロセスのこと