NEDO事業「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」の成果報告について

株式会社Citadel AI（代表取締役：小林 裕宜、以下「Citadel AI」）は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の委託業務を受託し、2025年度より「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」に取り組んできました。

本事業は、AIの安全性確保に関する研究開発・検証等を推進するものであり、生成AI を適切に管理・利用するために必要となる、AIセーフティ基準の策定・普及と AIセーフティ評価・管理技術の開発を一体的に行うことを目的としています。

このたびその成果の一つとして、「生成AI 実践ガイドと企業事例集〜 品質・安全性・ガバナンスを統合し本番運用へ導くフレームワーク 〜」を取りまとめましたのでご報告いたします。

20社を超える企業にヒアリング調査を実施の上、生成AIの利活用とそのガバナンスに係る課題や対応を、既存の考え方や枠組みを踏まえつつ、実務に即した形で体系化しました。本書は、それらを他組織でも再現可能な企業向け実装解説書として、個別事例も交えながら提示するものです。

1.背景

生成AI はもはや身近な技術となり、AIエージェントが実際のビジネスで利用される事例も増えてきました。その一方で、ハルシネーションや情報漏洩など、セキュリティやレピュテーションに関わるリスクも顕在化しています。

「どこから手をつければ良いのかわからない」「リスクを考えると、なかなか本番投入に踏み切れない」「ガイドラインは存在するが、自社のサービスにどう適用すれば良いのか具体的にわからない」といった課題に直面し、多くの組織が手探り状態で取り組みを進めているのが現状です。

企業として責任を持ってサービスを提供するために不可欠な、「品質保証やリスク管理に係る具体的手法」が確立されていないことが、本格的な導入の大きな障壁となっており、PoC（概念実証）から先の本番運用に踏み切れないケースも少なくありません。

2.成果の概要

本報告書「生成AI 実践ガイドと企業事例集〜 品質・安全性・ガバナンスを統合し本番運用へ導くフレームワーク 〜」では、各企業が現場で直面している課題と、それに対する具体的な解決策や運用手法を共有することで、組織的なAI活用の指針となることを目指しています。

AIエージェントを含む生成AI を活用するための取り組みについて、AIエージェントを実際に開発・運用している20社を超える企業からのヒアリング結果をもとに、これらを通じて得られた具体的な知見・実践的なノウハウを「技術」「プロセス」「組織文化」の観点から整理し、フレームワークとして体系化の上、本報告書に反映しました。

またCitadel AI 自身でも、AIエージェントの開発に取り組み、解決課題の設定から技術選定、必要なデータの収集、想定されるリスクの洗い出し、システム評価までを一貫して行い、フレームワークの有効性を検証しました。

Appendix には、ヒアリングの対象とした各企業がどのような目的でAIエージェントを用いており、どのような課題に対してどのような対策を行っているかといった多数の事例を掲載しています。 あわせて、実際にCitadel AIとして「外国人支援を想定したチャットボット」を実装し、フレームワークの有効性を検証した際の検討事項を共有しています。

本報告書の詳細は、こちらからダウンロードしてください。

3. 本報告書の利用方法

本報告書「生成AI 実践ガイドと企業事例集〜 品質・安全性・ガバナンスを統合し本番運用へ導くフレームワーク 〜」は、生成AIの活用のための取り組みと、AIセーフティ、AIガバナンスを両立させるための方法論をフレームワークとして体系化し紹介するものであり、各組織でAIの利活用を進める場合の参考資料となることを意図しています。

本書は守るべきルールや指針を示すガイドラインや、実行すべき取り組みを網羅的に示したチェックリストではなく、 あくまで、「AI 事業者ガイドライン」のような既存のガイドラインが示す「あるべき姿」に対して、それを具体的にどう実現するかという「方法論」を提示するものであり、両者は相互に補完し合う関係にあります。

AIガバナンスは経営課題です。経営がAIガバナンスの意義を認識し、リーダーシップを発揮しながら組織的に取り組み、それと同時に、活用推進を掲げて実現を試みることが非常に重要です。企業や組織、あるいは企業内のチームがビジネスの状況に向き合ってAIを導入し活用する際に、本報告書が一助となることを願っています。

謝辞

この成果は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の委託業務の結果得られたものです。

【株式会社Citadel AIについて】

Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。

Google米国本社出身のエンジニアをはじめとするインターナショナルなチームが開発をリードしています。導入段階のリスク評価から、運用段階のガードレールまで、生成AIのライフサイクル全体をサポートする独自の「AIガバナンスツール」を提供しています。国際標準業界を代表するBSI等に採用され、国内外の市場で高い評価をいただいています。

会社名　　：株式会社Citadel AI

所在地　　：東京都文京区向丘 2-3-10 東大前HiRAKU GATE 3-1

代表者　　：代表取締役 小林 裕宜

会社設立　：2020年12月10日

URL　　　：https://citadel-ai.com/ja/

X(Twitter) ：https://twitter.com/CitadelAI