NRIセキュア、Allganize社の生成AI・AIエージェント基盤専用のセキュリティ対策支援サービスを提供開始

「Alli LLM App Market」を用いてAIシステムを構築する企業向けに、診断・監視サービスを提供

NRIセキュアテクノロジーズ株式会社（以下、NRIセキュア）は、Allganize Japan（オルガナイズジャパン）株式会社（以下、Allganize）が提供するオールインワン生成AI・AIエージェント基盤「Alli LLM App Market」[i][ii]専用のAIセキュリティ対策支援サービス（以下、本サービス）を本日、提供開始します。企業が「Alli LLM App Market」を用いてAIシステムを構築する際に、NRIセキュアのAIシステム向け診断や監視サービスを組み合わせて導入することで、包括的なセキュリティ対策を組み込んだAIシステムの稼働を実現し、より安全な生成AI・AIエージェントの活用を推進します。

図：Allganizeの生成AI・AIエージェント基盤向けAIセキュリティ対策支援サービスの提供イメージ

企業における生成AI・AIエージェントの活用が進む中、AIシステムの構築は従来に比べて容易になってきました。一方で、AIシステムにはプロンプトインジェクション[iii]といった攻撃に加えて、誤情報や差別的または公正さを欠くコンテンツが生成されて業務判断を誤らせるなどのAIシステム特有のリスクがあります。システムそのもののセキュリティや、利用環境の保護、データの安全な取り扱い、運用管理なども含めると、安全な生成AI・AIエージェント活用のためには幅広い領域のセキュリティ対策が企業には求められています。

◆本サービスの概要と特長

NRIセキュアでは、上記の課題解決を支援するために、様々なAI関連のセキュリティサービスを提供しています。今回「Alli LLM App Market」向けに、企業独自のセキュリティポリシーを踏まえた、より強固かつ包括的なセキュリティ対策を実現するために、既存のサービス「AIセキュリティ診断サービス（AI Red Team）」[iv]と「AIセキュリティ監視サービス（AI Blue Team）」[v]をカスタマイズし、システム構築時の「AIセキュリティ診断」と運用段階における「AIセキュリティ監視」として、提供します。

１）AIセキュリティ診断

「Alli LLM App Market」の導入時に、生成AIに関するリスクに精通しているNRIセキュアの専門家が診断にあたり、AIシステム特有のセキュリティリスクを事前に特定し、より安全な構築を支援します。構築段階の時点でセキュリティ対策をトータルで検討することにより、LLM Ops[vi]も含めたシステム全体の管理・運用コストの最適化が期待できます。

 ２）AIセキュリティ監視

AIシステムにNRIセキュアの「検知API」を連携することにより、継続的なセキュリティ監視サービスを提供します。ユーザが入力した段階で攻撃を検知し、AIモデルで生成された出力内容を検証します。ユーザによる不適切な入出力の検知とブロックも可能です。サイバー攻撃による被害拡大を防止し、AIシステムから出力される情報の機密性を保護する高度なセキュリティ対策を継続的に実施することができます。

「AI Red Team」は企業が「Alli LLM App Market」を用いて、オンプレミスまたはプライベートクラウド環境にAIシステムを構築する際に提供します。「AI Blue Team」は、利用環境を問わずにご利用可能です。
既存システムと「Alli LLM App Market」を新たに連携する場合も同様に、導入から運用フェーズまでセキュリティ対策を包括的に支援します。

本サービスの詳細については、次のWebサイトをご参照ください。

https://www.nri-secure.co.jp/service/assessment/art-abt-for-alli

NRIセキュアは今後も、社会における生成AIの安全な利活用を推進し、継続的なAIセキュリティの強化と最新の脅威への企業の対応を支援してまいります。

[i] Alli LLM App Market：Allganize Japan株式会社が提供する、生成AIと大規模言語モデル（LLM）を業務活用するためのオールインワンプラットフォームです。同プラットフォームでは、すぐに利用可能な業務特化型アプリケーション群を活用でき、ソースコードを記述することなく（ノーコード）、迅速に生成AIを用いたアプリケーション開発・AIエージェントの構築が行えます。詳細については、次のWebサイトをご参照ください。https://www.allganize.ai/ja/alli-llmapp-market

[ii] AIエージェント：置かれた環境に応じて自律的に判断してタスクを実行できるAIを指します。

[iii] プロンプトインジェクション（Prompt injection）：主に、攻撃者が入力プロンプトを操作して、モデルから予期しない、または不適切な情報を取得する試みを指します。

[iv] AIセキュリティ診断サービス（AI Red Team）：サービスの詳細は次のWebサイトをご参照ください。https://www.nri-secure.co.jp/service/assessment/ai-red-team

[v] AIセキュリティ監視サービス（AI Blue Team）：サービスの詳細は次のWebサイトをご参照ください。https://www.nri-secure.co.jp/service/assessment/ai-blue-team

[vi] LLM Ops：Large Language Model Operationsの略称で、AIシステムの開発から運用までの一連のライフサイクルを開発スピードを損なうことなく効率的に行う手法のことです。