LLMカスタマイズサービスによる、自治体業務を効率化する生成AIソリューションが本格稼働

～独自データベースで区固有の情報を踏まえた回答を生成～

NTTアドバンステクノロジ株式会社（以下：NTT-AT、本社：東京都新宿区、代表取締役社長：伊東　匡）は、東日本電信電話株式会社 東京東支店(以下：NTT東日本、支店長：畑中 直子)と協力して、葛飾区様の職員の業務効率化を支援するため、LLMカスタマイズサービスによる生成AIソリューション（以下：本ソリューション）を提供いたしました。このたび、葛飾区様で本格利用が開始されました。

本ソリューションでは、区独自のデータベースを構築し、汎用LLMと連動させることで、区の固有情報を踏まえた回答生成を実現し、職員の業務効率化を支援します。

■背景
NTT-ATは、2023年5月から、汎用LLMと企業や自治体などが保有する固有の知識を最適に組み合わせたソリューションとして、LLMカスタマイズサービスの提供を行っています。LLMが企業や自治体固有の情報を踏まえた回答を行うことで、LLMによる業務効率化の支援を促進します。

一方、葛飾区様においては、区の計画や議会答弁を考える際、過去の計画や議事録を一つひとつ検索、確認するなど多くの時間が必要なため、職員の負担が大きな課題となっており、負担の軽減に向けて、生成AIの活用による業務効率化の検討を進めていましたが、このたび、本ソリューションを導入され、本格利用が開始されました。過去の情報の抽出や新規施策の提案など、区固有の情報を踏まえた回答により、さまざまな場面で職員の業務を支援します。

■ソリューションの概要
●独自データベースの構築
区固有のさまざまな情報を踏まえた回答の生成を実現するため、区の基本構想や基本計画など、区全体に関わる文書のほか、デジタル推進事業や子育て支援事業などの個別分野の計画、会計事務規則などの各種事務マニュアル、区議会会議録など、計38種の文書による区独自のデータベースを構築しました。本データベースと汎用LLM（ChatGPT）を連動させることで、区の固有情報を踏まえた回答を生成し、汎用LLMによる「情報不足」や「間違った回答」を大幅に回避、削減します。

●参照文書の提示機能
回答の生成に際して、システムが参照した文書を回答とともに提示します。これにより、職員はシステムの回答の適切さを判断することができ、最終的な職員による資料作成の質を向上します。

●用途の切り替え機能
汎用的な問い合わせのほかに、利用が多く見込まれる用途に関しては、「PR文の作成」「施策の課題検討」「新施策提案」など、専用の用途を用意し、職員が指定できるようになっています。用途を選択することで、システムが用途に応じたプロンプトを補完するため、職員は最低限の内容を入力するだけで、適切な回答を得ることができます。

図：職員の利用画面

●セキュアなネットワーク環境
本ソリューションは、汎用LLMとして、マイクロソフト社のAzure OpenAIサービス（以下：AOAI）を使用しています。NTT東日本が提供する、Managed SD-WAN*1とクラウドゲートウェイ クロスコネクトを利用することで、葛飾区様のネットワークとAzureを閉域網接続し、セキュアなネットワーク環境を実現しています。

■今後の展開
NTT-ATは、本ソリューション提供で得られた知見やノウハウの部品化・製品化を推し進め、自治体・企業への水平展開をめざしてまいります。さまざまなLLMを活用し、お客さまの要望に応えるソリューションを提供してまいります。またLLMにとどまらずお客さまの必要とするICT技術の提供を通し、DX（デジタルトランスフォーメーション）をワンストップで推進してまいります。

*1 Managed SD-WAN：
本サービスは、SDN*2技術によりセキュアな拠点間通信とネットワークの集中管理を実現するサービスです。本サービス
の活用により、お客さまのIT管理・運用稼働の軽減・生産性向上を支援します。
*2 SDN（Software Defined Networking）：
ソフトウェアによって仮想的なネットワークを作り上げる技術全般のことを指します。仮想的なネットワークを構築する利
点は、ネットワークの物理的な制約から離れて、目的に応じたネットワークを柔軟に構築しやすくなることです。

※本文中に記載されている会社名および製品名は、各社の商標または登録商標です。
※掲載のデータは発表日現在の情報です。予告なしに変更されることがございますので、あらかじめご了承ください。