生成AI特有の新たなサイバー脅威に対抗するセキュリティソリューション「AiFort」を提供開始

最新の脅威インテリジェンスに基づき、AIモデル学習用データセットや模擬攻撃を提供 　AIライフサイクル全体をカバーし、継続的なセキュリティレベル維持をサポート

サイバー脅威インテリジェンスを提供するKELA（ケラ、本社：イスラエル）の日本法人であるKELA株式会社 (東京都千代田区、代表取締役 ドロン・レヴィット)は、生成AIセキュリティソリューション「AiFort（エーアイフォート）」を発表し、本日4月19日より国内販売開始することを発表します。

「AiFort」は、生成AI /大規模言語モデル（LLM）をセーフティ、セキュリティ、プライバシーの3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供します。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援します。

「AiFort」は、アンダーグラウンドの犯罪社会を常時監視することで収集・蓄積した膨大なデータに基づいているのが特長で、実際の犯罪の背景にある情報や、最新の脅威動向が反映されているので、より現実的な対策を講じることができます。「AiFort」を継続的に利用することで、犯罪のトレンドや犯罪の新技術に追随することができ、生成AIを利用したシステム/サービスのセキュリティレベルを維持することができます。

●AIの普及により発生している新たなセキュリティ脅威　

近年、多くの分野で生成AI / LLMの利用が増加していますが、生成AIへの期待が高まる一方で、セキュリティ対策は確立されていません。特にAIプラットフォームへの攻撃はAIプラットフォーム自体が攻撃の対象となり、不正なアクセスやデータ漏洩のリスクがあります。

生成AIプラットフォームへの攻撃は、プロンプト（生成指示）の悪用によって機密情報を窃取する「プロンプトインジェクション」や、巧妙な指示を与えて不適切（攻撃的・有害）なコンテンツを表示させる「ジェイルブレイク」、内部的に設定されたプロンプトなど知的財産を窃取する「プロンプトリーク」、もっともらしい誤情報を出力する「ハルシネーション」などがあり、世界中で多くの犯罪事例が発生しています。（*1）

●脅威インテリジェンスに基づく「AiFort」の開発背景

KELAは、サイバー犯罪者が暗躍するアンダーグラウンドに潜入して、ランサムウェアなどの犯罪に関するブログ、犯罪者のフォーラムやTelegramグループ、不正に窃取した情報を売買する闇マーケットなど、様々な活動を常時監視して膨大な情報を収集し、アナリストの分析、知見を活かして、企業・組織、政府などに、脅威インテリジェンスとして提供することで、ランサムウェアなどの脅威に対するアクティブな対策をサポートしてきました。

そして、昨今は、生成AIを悪用するための情報が、アンダーグラウンドで活発に交換、売買されていることから、生成AIのセキュリティ対策に特化した「AiFort」を開発、提供することになりました。

◆「AiFort」の構成

「AiFort suite」として、以下3つの機能とサービスを提供するモジュールで構成されます。

(1) AiFort Data  … AIトレーニングデータセット

生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。

最新の脅威動向や犯罪技術などを反映した「AiFort Data」を利用して、生成AIモデルに学習させることで、セキュリティを強化することができます。例えば、ジェイルブレイクの手口を学習させることで、AIチャットボットによる暴力的な発言や誤情報の流出などの脅威リスクを回避することができます。

(2) AiFort Red  …　レッドチームサービス

AIモデルの脆弱性やセキュリティリスクがないかどうか、信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）。利用ユーザーが簡単な操作でテストプランを作成し、プランに基づいて「AiFort Red」が模擬攻撃を実行し、ユーザーは分析・診断結果をダッシュボードで把握できます。

「AiFort Red」がレッドチームを支援することで、テストを効率化し、テスト漏れを低減します。

「AiFort Red」で、安全性を確認・検証することで、例えば、AIチャットボットやAIヘルプデスクなどのAIアプリケーションを、安全性に⾃信を持って導⼊できるようになります。

運用開始後も継続的に診断を続けることで、システム/サービスのセキュリティレベルを維持するのに役立ちます。

(3) AiFort Protect  …　プロンプトフィルタリング　　※2024年中に提供開始予定

悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防ぐことができます。

生成AIを用いたシステム/サービスの運用開始後、いわば生成AI向けのファイアウォールのように機能します。

※「AiFort Suite」の詳細は以下をご参照ください。

https://www.kelacyber.com/ja/platform/aifort/

◆「AiFort Suite」の販売について

◇販売開始：2024年4月19日

　※AiFort Protectは、2024年中に提供開始予定です。

◇導入方法：クラウド、オンプレミス

◇販売価格：モジュール単体年額300万円（税別）～　

　※ご利用条件によりお見積します。

　　AiFort Suiteとしての提供の他、モジュール単体でも提供します。

◇販売ターゲット：

・生成AI / LLMをスクラッチから開発するユーザー

・⽣成AIをシステムやサービスに統合して利用するユーザー

●AiFort Red　ダッシュボード画面

*1　世界の犯罪事例

金銭的リスク、法的リスク、ブランドイメージ損出などにつながる事件が多数発生しています。

• 自動車メーカー（CHEVROLET）のAIチャットボットで新車を1ドルで販売するよう質問を誘導し、AIアシスタントがそれに従って「新車を1ドルで販売する」と回答。

• ECサイト（amazon）のAIチャットボットが、「悪意のあるコードを教えて」というプロンプトに対して、本当に悪意のあるコードを生成してしまった。

• 配送会社（DPD）のAIチャッボットは、顧客に誘導されて会社の悪口を言い、批判するような回答をした。

• 航空会社（Air Canada）は、AIチャットボットが案内したディスカウントが実際は適用されなかったとして裁判になり、企業側に責任があるとの判決が出て賠償を命じられた。

■KELAについて

https://www.kelacyber.com/ja/

サイバー脅威インテリジェンス企業として数々の受賞歴を誇る KELA（KELA Research and Strategy）の使命は、サイバー犯罪のアンダーグラウンドからの脅威に関して、実用的なインテリジェンスを提供し、サイバー攻撃の防止と無力化をサポートすることです。 2009年に設立されたKELAは、独自の自動化テクノロジーと、高度な技術を持つサイバーインテリジェンスのアナリストを擁しており、数々の成功を収めています。世界中で信頼を得ているKELAのテクノロジーは、隠れたアンダーグラウンドに侵入し、脅威を徹底的に監視、追跡、調査することで、実際のリスクを明らかにし、プロアクティブな保護を可能にします。 KELA の革新的なソリューションは、攻撃者の目から見た、高度にコンテキスト化されたインテリジェンスを顧客に提供し、プロアクティブなネットワーク防御、ならびにブラインドスポットの排除を実現します。KELAの日本法人は、2019年に設立されました。