鹿児島県奄美市がデジタル庁OSS「源内」をベースとした全国初の完全ローカル生成AI環境を構築

Open GENAIを庁内DGX Sparkで稼働

川口弘行合同会社

2026年10月13日 08時30分

鹿児島県奄美市は、デジタル庁のオープンソースソフトウェア「源内」を基盤とする生成AIサービス「AMAMI GENAI（あまみげんない）」を庁内に構築し、運用を開始しました。

本環境は、NVIDIA DGX Sparkを2台並列配置し、その上でローカルLLMとOpen GENAIを稼働させるもので、外部インターネットとの接続を持たない完全ローカル環境での生成AI運用を実現しています。

Open GENAIを用いた完全ローカル運用は、全国の自治体において初めての取組みです。

システムの設計・構築および構造化RAGの構築は、川口弘行合同会社（代表社員：川口弘行、以下「当社」）が担当しました。

なぜ完全ローカルなのか

自治体が生成AIを活用する際、最大の障壁となるのがデータの外部流出に対する懸念です。

クラウド型の生成AIサービスでは、入力したデータが外部サーバーに送信されます。一方、奄美市が構築した環境では、すべてのデータ処理が庁内のサーバーで完結します。

これにより意図しない情報流出のリスクを根本的に排除します。さらに、ローカルLLMを自前のハードウェア上で稼働させるため、クラウド型サービスで発生するトークン課金が不要であり、職員は利用回数を気にすることなく、日常的な業務の中で生成AIを活用できます。

システム構成

項目	内容
サービス名	AMAMI GENAI（あまみげんない）
構築事業者	川口弘行合同会社
基盤ソフトウェア	デジタル庁OSS「源内」
稼働環境	完全ローカル環境（外部ネットワーク接続なし）
ハードウェア	NVIDIA DGX Spark ×2台（並列稼働）
LLM	ローカルLLM（OpenAI互換API経由、GPT-OSS・Gemma等）
ベクトルデータベース	Qdrant
認証	Keycloak（SAML）

提供機能

構造化RAG: 奄美市の条例・例規、市議会議事録、総合計画等の各種計画を構造化データベースとして蓄積・検索し、事実に基づく高精度な回答を生成。ハルシネーション（事実と異なる回答の生成）を抑制。
音声書き起こし: 会議等の音声からの文字起こし。
多言語翻訳: 多言語での翻訳機能。
政策立案補助（EBPM）: 多様なデータを読み込ませ、客観的根拠に基づく政策立案を支援。

構造化RAGによるハルシネーション抑制

生成AIが「もっともらしい嘘」をつくハルシネーション現象は、自治体における活用において悩みの種です。本サービスでは、奄美市の条例・例規、市議会の議事録、総合計画をはじめとする各種計画書類を構造化データベースとして事前に蓄積しています。生成AIはこのデータベースを検索・参照した上で回答を構築するため、事実に基づかない回答の生成を抑制します。

特に議会議事録や総合計画を処理対象に含めている点が、条例・例規のみの構成と比べて実用性を高めています。議員からの質問に対する過去の答弁や、市が掲げる政策の方向性が回答に反映されるため、より実務に即した回答が得られます。

Open GENAI について

「Open GENAI（オープン・ゲンナイ）」は、デジタル庁が公開した「源内」を基盤としつつ、自治体の規模、既存システム環境、業務課題に応じて機能拡充したオープンソース製品（OSS）です。

「源内」は本来、クラウド環境（Amazon Cognito認証、Amazon Bedrock等）での稼働を前提に設計されています。Open GENAI は、認証をKeycloak（SAML）、LLM呼出しをOpenAI互換API、チャット履歴をSQLite、ベクトル検索をQdrantなど、すべてオープンソースの技術スタックに置き換えることで、クラウド依存を排除しています。

奄美市での導入は、この完全ローカル構成が実際の自治体業務で稼働することを証明する事例となります。

ソースコードはGitHubで公開しています。

https://github.com/hirokawaguchi/open-genai