【京大×東大発AIセキュリティカンパニー】Aladdin Security、AIレッドチーム演習サービスを正式リリース

〜開発/利用しているAIを攻撃者視点で検証・脆弱性を特定〜

Aladdin Security株式会社

2025年9月22日 10時01分

【概要】
AIセキュリティ領域において事業を展開するAladdin Security株式会社（本社：京都市、代表取締役CEO：勘佐圭吾）は、生成AIに対するセキュリティ評価を専門とした「AIレッドチームサービス」を正式にリリースしたことをお知らせいたします。
本サービスは、生成AI／大規模言語モデル（LLM）の安全性・信頼性・法令遵守を検証するための包括的な演習プログラムで、攻撃者の視点からのテストを通じてリスクを事前に発見し、防御体制を強化します。

また当社は、OpenAI主催の国際競技大会「GPT-OSS 20B Red Teaming」において入賞しており、世界的にも認められた技術力を背景に、本サービスを提供いたします。

【背景】

AI技術の急速な普及に伴い、AI/生成AIは業務効率化や新規サービス開発に大きな価値をもたらしていますが、有害出力、バイアス、誤情報、機密情報漏洩、不正利用などのリスクが多様化・高度化しています。

こうした中で、AIシステム全体を対象に、実践的な攻撃・検証を行い、現実世界で発生しうる脅威を先取りして対策を講じるための重要な手段となっています。

【サービス概要】

当社の「AIレッドチームサービス」は、攻撃者視点で生成AIシステムを検証し、リスクを顕在化させるサービスです。

Aladdin SecurityのAIレッドチーム演習サービスは、以下のステップで提供されます。

1.リスクヒアリング・設計

利用中または導入予定のAIシステムに合わせ、対象範囲・攻撃シナリオを設計します。

2.攻撃シミュレーション

ジェイルブレイク攻撃、アドバーサリアルプロンプト、情報漏洩誘発、バイアステストなど、多様な攻撃手法を実施し、AIの脆弱性を検証します。

3.評価・レポーティング

発見されたリスクを体系的に分類し、深刻度・影響範囲を提示。経営層向けサマリーと技術チーム向け詳細レポートを提供します。

4.改善提案

対策案を提示し、継続的にAI防御体制を強化します。

特に、本サービスは以下のような幅広いAIシステムに適用可能です。

・チャットボット・顧客対応AI（コールセンター、FAQ応答など）

・業務支援AI（社内文書検索、RAGシステム、自動要約など）

・生成系アプリケーション（文章生成、コード生成、画像生成AIなど）

【弊社の強み】

・国際的な実績：OpenAI主催「GPT-OSS 20B Red Teaming」に入賞し、世界水準で通用する技術力を証明。

・攻撃観点の網羅性：最新のJailbreak手法やセーフガード回避など、多様な攻撃を実行。

・専門チーム：AI開発者、経験豊富セキュリティ人材による多角的検証。

・継続的評価：モデル更新や運用変更に合わせて再演習を実施可能。

【今後の展開】

今後、Aladdin Securityは AIレッドチーム演習の自動化技術の開発に注力します。

自動攻撃生成や検証フレームワークを高度化することで、従来人手に依存していた演習工程を効率化し、より迅速かつ網羅的にAIリスクを可視化できる仕組みを構築してまいります。

加えて、演習で得られた知見をベースに、企業研修や啓発活動を通じてAIセキュリティリテラシーを広め、社会全体の安全なAI活用を後押ししていきます。

【Aladdin Security株式会社について】

Aladdin Securityは「A Whole New World~新しい世界を創出する~」ことをミッションに掲げるAIセキュリティカンパニーです。企業がセキュアなAI活用を実現するために生成AIに対するシャドーAI検出、AIガバナンスの可視化、AIファイアウォールなどのソリューションを提供し、国内外企業の安全なAI活用を支援しています。