生成AI技術を活用したアプリケーションに対する脆弱性診断サービスを提供開始

LLM(大規模言語モデル)を活用したアプリケーション向けの脆弱性診断は、生成AIに対するナレッジを多く持つサイバーコマンド社にお任せください！

サイバーコマンド株式会社（本社：大阪府大阪市、代表取締役社長：浦中 究）は、生成AI技術を活用したアプリケーションを対象とする脆弱性診断サービスを提供開始したことをお知らせいたします。本サービスは、「OWASP Top 10 for LLM」を参考に設計され、これまでに未知の脆弱性を発見した実績を持つホワイトハッカーが対応する点が特長です。

 

生成AI技術がさまざまな業界で普及する中、生成AI技術を活用したアプリケーションの安全性も求められています。特に、LLM（大規模言語モデル）を活用したアプリケーションでは、新たな種類の脆弱性が発生する可能性があります。本サービスは、OWASP（Open Web Application Security Project）による「OWASP Top 10 for LLM」を参考にしながら、高い技術を持つホワイトハッカーがLLM特有のセキュリティリスクに対する包括的な診断を提供します。

 

▼本サービスの主な特徴は以下の通りです

l   「OWASP Top 10 for LLM」を参考にした診断基準

「OWASP Top 10 for LLM」は、生成AI技術を利用するアプリケーションに共通するリスクを体系化したガイドラインです。本サービスでは、このフレームワークを参考に脆弱性の評価を行い、具体的な改善案を提示します。

l   実績豊富なホワイトハッカーによる診断

本サービスでは、これまでに未知の脆弱性を発見し、実績を積み重ねてきた専門のホワイトハッカーチームが対応します。高度な知識と経験を駆使し、徹底的な診断を実施します。

l   生成AI技術の特性に特化したリスク対応

データ漏洩、プロンプトインジェクション、ジェイルブレイクといった生成AI特有のリスクに加え、既存のアプリケーションセキュリティの課題にも対応可能です。

▼主な診断アプローチは下記となります

l   LLMセキュリティ診断

GPT等のLLM(Large Language Model/大規模言語モデル)を利用して構築したアプリケーションに対し、敵対的プロンプト(Adversarial Prompting)を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。

l   LLM利用システムセキュリティ診断

LLMを利用したシステムは、単体で完結するものではなく、さまざまな周辺システムと連携して動作します。本診断は、LLMと連携する周辺システムに伴うリスクを総合的に調査するサービスです。

 

▼今後の展望

サイバーコマンドは、生成AI技術が安全かつ信頼性の高い形で普及するための支援を続けてまいります。本サービスの提供開始により、生成AI技術を活用したアプリケーション開発者が直面するセキュリティ課題を解決し、持続可能なイノベーションを促進することを目指します。

 

サービスに関するお問い合わせ

マーケティンググループ

サービス企画担当

メールアドレス：[e-mail]

 

サイバーコマンド株式会社について

サイバーコマンドは、これまでに数多くのエンジニアをセキュリティ案件に派遣し、現場対応からコンサルティングに至るまで、一貫して企業の伴走を行ってきました。また、現場で即戦力となる開発エンジニアを育成し、1000人以上が受講した完全内製化された教育カリキュラムを提供しています。実践的な教育体制を整えており、多くの企業が受講してきた実績があります。

 

所在地：大阪本社　⼤阪市東淀川区東中島1-17-26 スキルインフォメーションズビル4階

　　　　東京拠点　東京都渋谷区渋谷1-14-9-5F

設立：2021年5月25日

代表取締役 ：浦中 究

事業内容：

サイバーセキュリティ事業

・サイバーセキュリティトレーニングの提供

・専門人材の提供(コンサル/PM/SOC担当/CSIRT担当等)

・各種ソリューションの提供

・URL:https://cybercom.co.jp/