LLMアプリケーションのセキュリティ対策を支援する「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」を開始

〜最新のOWASP Top 10に基づいた項目と疑似攻撃テストで診断〜

株式会社NTTデータ先端技術（本社：東京都千代田区、代表取締役社長：藤原 遠、以下：NTTデータ先端技術）は、最新のOWASP Top 10 for LLM Applications 2025に基づき診断を行う「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の提供を開始します。主要なLLM※1（大規模言語モデル）に対応した網羅的なセキュリティ診断を通じ、お客様のLLMアプリケーションのセキュリティ対策を支援します。

「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」では、稼働中のLLMアプリケーションに対する疑似攻撃テストに加え、システムのセキュリティ設定や運用状況のヒアリングとレビューを行い、お客様のLLMアプリケーションの徹底的なセキュリティリスクの診断を実施します。本サービスは、AI・LLMのセキュリティ対策の第一歩として現状のセキュリティ状態を確認したい企業に最適です。

【背景】

昨今、人工知能(AI)の開発やそれを利用したサービスの提供が着実に広がっています。特に、ChatGPTに代表されるLLMは、人間と自然な対話を交わし、様々なタスクをこなすことができる強力なツールとして注目されています。その一方で、LLMのセキュリティに関する懸念も同時に高まっており、AI・LLMを開発・利用する企業にはセキュリティ対策の実施が求められています。

NTTデータ先端技術は1999年からセキュリティ診断サービスを提供し、長年にわたりセキュリティの知見を蓄積してきました。この度、お客様が利用しているAI・LLMにおけるセキュリティリスク対策実現のため、「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の提供を開始します。

【「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の概要】

「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」は、高度な知識とスキルを持つNTTデータ先端技術の技術者が、自動診断ツールや手動操作を用いてお客様のLLMアプリケーションに対し包括的なセキュリティ診断を行います。稼働中のLLMアプリケーションに対し疑似攻撃を仕掛けた結果および、LLMを使ったシステムのセキュリティ設定や運用状況などのヒアリング結果に基づきレビューと分析を行い、分析結果や推奨対策を報告します。

本サービスでは、OpenAIやHugging Faceといった主要なLLMに対応します。また、診断項目はWebアプリケーションのセキュリティに関するベストプラクティスを推進する国際的な非営利団体「OWASP（Open Worldwide Application Security Project）」によるガイダンス「OWASP Top 10 for LLM Applications 2025」をベースとしています。OWASP Top 10は、Webアプリケーションにおける最も重大なセキュリティリスクを体系的に分類し、それぞれのリスクの詳細と対策を提供するもので、業界標準として広く認知されています。特に、OWASP Top 10 for LLM Applications 2025は、LLMに特化したセキュリティリスクとその対策をリスト化したもので、最新のセキュリティ課題に対応するための重要な指針となっています。

図1：「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の概要図

【「INTELLILINK AIセキュリティ診断 for LLMアプリケーション」の特長】

• 主要なLLMに対応

  OpenAIやHugging Faceなどの主要なLLMに対応。平文やJSONを返すRESTエンドポイントにも対応可能です。

• 最新のOWASP Top 10 for LLM Applications ベースの診断項目

  診断項目は、ソフトウェアのセキュリティ環境の現状、またセキュアなソフトウェア開発を促進する技術・プロセスに関する情報共有と普及啓発を目的としたプロフェッショナルの集まるオープンソース・ソフトウェア コミュニティ「OWASP」 が公開するセキュリティ啓発目的の文書で、生成AIおよび大規模言語モデル アプリケーションの開発とセキュリティ保護に関する最新のトップ10のリスク、脆弱性、および軽減策をまとめたガイダンス「OWASP Top 10 for LLM Applications 2025」に基づき、策定しています。

• 効率的＆広範なカバレッジの診断

  自動ツールを使用し効率的＆広範囲の診断を実施します。また、診断員による手動操作も併用し、自動ツールでの診断が困難な脆弱性についても診断を行います。リモートでの疑似攻撃による診断を行うほか、リモートから確認できない一部項目に関しては、セキュリティ対策状況に関するヒアリングを実施し評価します。

【今後について】

本サービスの診断結果に基づく推奨対策は、LLMセキュリティにおける汎用的な内容です。しかし、今後はお客様の環境に即した対策支援サービスの提供を計画しており、より具体的で個別のニーズに対応できるよう取り組んでまいります。また、NTTデータ先端技術と株式会社NTTデータグループ、株式会社NTTデータの3社により提供している「AIガバナンスコンサルティングサービス」とも連携し、お客様のAIリスク診断から対策実行・運用までをトータルでサポートします。

【関連URL】

ニュースレター：AIリスク診断から対策実行・運用まで支援する「AIガバナンスコンサルティングサービス」を提供開始（株式会社NTTデータ先端技術）

https://www.intellilink.co.jp/topics/notification/2024/073100.aspx

※1：LLM (Large Language Model)は、生成AIの一つで、機械学習手法を通して学習したデータを使用し、自然言語を理解して、テキストベースのコンテンツを生成します。

＊「INTELLILINK」は日本国内および米国における株式会社NTTデータ先端技術の登録商標です。

＊その他の商品名、会社名、団体名は、一般に各社の商標または登録商標です。