AIの品質検証で経営力を強化、Eval Insight 提供開始

AIセーフティを自動検証し、生成AIが重要なポイントを解説

株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、AIシステムの課題や改善すべきポイントを、分かりやすい言葉でまとめて自動解説するLLMサマリー「Eval Insight（イーバル・インサイト）」をリリースします。

お客さまのAIシステムの信頼性や安全性を、当社独自のLLM（大規模言語モデル）を活用した専用アプリケーションが自動で分析して読み解き、重要なポイントを簡潔に取りまとめて提示する画期的なサービスです。

さまざまなAIが、経営部門、研究部門、製造ライン、営業、コンタクトセンターなど、複数の現場で導入され始めています。AIを積極的に活用しつつ、同時にそのセキュリティリスクやレピュテーションリスクから、いかに会社を守るかという「攻めと守り」のバランスが非常に重要です。

しかしながら、全てのAIシステムを人手で評価・管理し、安全安心な運用を維持し続けるためには、専門的な知識に加えて、非常に多くの時間と労力を要します。

Citadel AIは、生成AIから従来の予測型AIまで、同一プラットフォーム上で自動的に品質検証とモニタリングを行う「Citadel Lens（シタデル・レンズ）」を提供しています。医療・自動車・金融・保険業界など、さまざまな企業で導入が進んでいます。

Citadel Lensでは、エンジニア向けの「テクニカルレポート」と、管理部門・内部監査部門向けの「ガバナンスレポート」を自動生成することができます。テクニカルレポートでは、システムの品質を詳細分析し最適化を支援します。一方、ガバナンスレポートでは、ISOなどの国内外の基準に基づいてコンプライアンスを強化し、適切な運用を促進します。

今回新たに加わったLLMサマリー「Eval Insight」は、時間が無い皆さま向けに、こうしたレポートの要点を自動で取りまとめ、業務の効率化をさらに一歩進める非常に便利なサービスです。当社が独自開発したLLM（大規模言語モデル）の専用アプリケーションが、Lensのレポートを技術的な観点あるいは規制や標準の観点から自動で読み解き、重要なポイントをお客さまに分かりやすい言葉で簡潔に解説します。

Eval Insightを導入することで、AIシステムのスナップショットを、即座に把握することが可能となり、限られたリソースの中で、効率的に的を絞って品質改善を進めることができるようになります。システム開発をされるエンジニアの方々のみならず、マネジメントの方々、あるいは管理部門・内部監査部門の方々にとっても、AIセーフティを強化する上で画期的なサービスです。

Citadel LensのLLMサマリー「Eval Insight」の機能例

以下のような機能を順次導入していきます。皆さまからのご要望もお待ちしています。

• 生成AIの評価レポートを、安全性や信頼性の観点から自動解析。評価したアプリケーションについて、セキュリティリスクやハルシネーション問題につながりかねない入出力パターンを抽出し、分かりやすい言葉で理由を解説。

• テクニカルレポートを、エンジニアの技術的観点から自動解析。評価したモデルについて、弱点領域やバイアスの所在、失検知・過検知、ロバストネスなど、AIの品質や信頼性にかかわる重要なポイントを抽出し、分かりやすい言葉で取りまとめて解説。

• ガバナンスレポートを、コンプライアンスやレピュテーションリスク、公平性などAIセーフティにかかわる重要なポイントに力点を置き自動解析。該当する規制や標準の情報とともに抽出し、分かりやすい言葉で解説。
  

【株式会社Citadel AIについて】

Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。

代表取締役　 小林裕宜

設立　　　　 2020年12月10日

企業URL　　 https://citadel-ai.com

X (Twitter)　 https://twitter.com/CitadelAI

お問合せ　　 [e-mail]