生成AI活用システムのリスクを可視化する「AIシステムのセキュリティ診断サービス」を提供開始

プロンプトインジェクションや情報漏えいなど、AI特有の脅威に対応

株式会社神戸デジタル・ラボ

2025年11月12日 11時00分

情報セキュリティサービス「Proactive Defense」やシステム開発を提供する株式会社神戸デジタル・ラボ（兵庫県神戸市中央区、代表取締役社長玉置慎一、以下 KDL）は、生成AIを活用したWebアプリケーション向けに、AI特有のリスクを検査・分析する「AIシステムのセキュリティ診断サービス」をリリースしました。

AI技術の業務活用が急速に進む一方で、AIモデルの誤出力や情報漏えい、不正利用といった新たな脅威が増加しています。本サービスは、これらのリスクを事前に把握・対策することを目的としています。

サービス提供開始の背景

近年、生成AIや大規模言語モデル（LLM）を業務システムに活用する企業が増えています。一方で、AI特有のセキュリティリスクも明らかになってきました。

たとえば、ユーザーの入力を悪用してAIの動作を意図的に変える「プロンプトインジェクション」や、内部設定・機密情報がAIの応答に含まれてしまうといったリスクが指摘されています。さらに、誤った回答や不正な利用によって業務に支障をきたすリスクも指摘されています。

こうしたAI特有のリスクに対応するためには、従来のWebアプリケーション向けセキュリティ診断ではなく、AIの特性やふるまいを踏まえた新しい視点でのセキュリティ診断が必要です。

サービス概要

AIシステムのセキュリティ診断は、大規模言語モデル（LLM）を組み込んだWebアプリケーションを対象に、AI機能に起因する脆弱性を診断します。AIモデルへの直接的なプロンプト送信、およびWebアプリケーションの操作を通じて、リスクの有無を検査します。診断によって得られた結果をもとに、Webアプリケーションの改修を行うことで以下のようなリスクを低減できます。

診断項目	内容
プロンプトインジェクション	外部からの入力によりAIの挙動や意図を不正に操作する攻撃を検出
機密情報・システムプロンプトの漏えい	内部情報や設定内容がAIの応答に含まれていないかを確認
コード実行・スクリプト誘発	AIの出力を通じて、任意のコードやスクリプトが実行されるリスクを確認
ツール・外部連携機能の悪用	APIや外部ツール経由での不正利用リスクを評価

サービスの特長

AI活用システムを自社開発しているがゆえの知見

KDLでは、セキュリティサービスの提供に加え、生成AIを組み込んだシステムや業務支援アプリケーションの開発も数多く手がけています。そのため、セキュリティの専門知識と、開発現場で培ったAIシステム構築のノウハウを組み合わせ、開発チームが取り組みやすい形で改善提案を行うことが可能です。システム開発、AI、セキュリティの三要素を理解しているからこそ、実務にフィットした支援を提供できます。

診断サービスの導入実績が豊富

KDLが提供する情報セキュリティサービス「Proactive Defense」では、2008年からWebアプリケーションやプラットフォームなど多岐にわたる診断サービスを実施しており、豊富な実績とノウハウを蓄積しています。これまで培った知見をもとに、AIシステム特有のリスクにも対応した信頼性の高い診断を提供します。