名大発スタートアップAquaAge、NEDO Challenge「GENIAC-PRIZE」トライアル審査にて受賞

〜マルチターン型ジェイルブレイクに対抗するハニーポット型防御LLMの構築〜

AquaAge

2025年10月15日 08時30分

AquaAge株式会社（本社：愛知県名古屋市、代表取締役社長：石蔡峰、以下：AquaAge）は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が実施する懸賞金活用型プログラム「GENIAC-PRIZE」において、67件の応募の中から8件の受賞プロジェクトの一つに採択され、賞金500万円を獲得したことをお知らせいたします。

■受賞内容の概要

受賞内容：マルチターン型ジェイルブレイクに対抗するハニーポット型防御LLMの構築

近年、大規模言語モデル（LLM）のコンテキストウィンドウの拡大に伴い、AIが過去の対話履歴を長期的に保持・参照できるようになりました。しかしその一方で、攻撃者はこの特性を悪用し、複数ターンの会話を通じてモデルを徐々に安全基準から逸脱させる「マルチターン型ジェイルブレイク（Multi-turn Jailbreak）」と呼ばれる手法を用いるようになっています。従来の単発的な防御ではこうした巧妙な誘導攻撃を防ぎきれず、近年の研究では人間が関与するマルチターン攻撃に対して、既存防御の70%以上が突破されるとの報告もあります。このような状況下で、生成AIの安全性を確保するためには、対話の流れ全体を監視し、攻撃の意図を段階的に検知・遮断できる新たな枠組みが求められています。

AquaAgeはこの課題に対し、「ハニーポット（Honeypot）」概念を応用した防御型LLM構造を提案しました。本システムは、攻撃者による悪意あるプロンプト操作をモデル内部で疑似的に捕捉・隔離し、対話ログを解析することでリスクプロファイルを自動生成します。これにより、AIが攻撃パターンを自律的に学習・可視化し、継続的に防御性能を向上させることを可能にします。

この技術は、LLMの安全性を「静的防御」から「動的・適応的防御」へと進化させるものであり、将来的には自律エージェントや産業用AIシステムへの応用も視野に入れています。

■NEDO Challenge「GENIAC-PRIZE」について

国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）は、技術課題や社会課題の解決に資する多様なシーズ・解決策をコンテスト形式による懸賞金型の研究開発方式を通じて募り、将来の社会課題解決や新産業創出につながるシーズをいち早く発掘することで、共同研究などの機会創出、シーズの実用化、事業化の促進を狙うNEDO懸賞金活用型プログラム“NEDO Challenge”を立ち上げ、実施しています。

2025年5月に募集を開始した「GENIAC-PRIZE」の3領域の一つである本事業では、生成AIの利活用や社会実装の加速を目的とし、生成AIの安全性に関わるリスクを特定すると同時に、当該リスク低減を目的とする技術開発を支援しています。

トライアル審査では、全国から寄せられた67件の応募に対し、書面審査および応募者によるプロトタイプのデモ実演が実施されました。その結果、8件の受賞プロジェクトが選定され、AquaAgeはその一社として採択されました。

※NEDO公式発表：https://www.nedo.go.jp/news/press/AA5_101892.html

■AquaAge株式会社について

名古屋大学発のAIスタートアップであるAquaAgeは、マルチモーダルAIによる自律制御や大規模言語モデル（LLM）の安全性研究といった先端領域に積極的に取り組んでいます。これらの研究開発は、AIの信頼性と社会実装を両立する技術基盤の構築を目指しており、今回のNEDO「GENIAC-PRIZE」受賞もその延長線上にある取り組みです。

また、AquaAgeはフィジカルAI（Physical AI）の研究開発にも注力しており、ドローンとロボットを連携させ、マルチモーダルAIによる自律制御を用いた倉庫（非GPS環境）における点検・棚卸業務の自動化システム「AIRPHA®」を中核事業として推進しています。