OrcaRouter、AIエージェント事故354件を収録したオープンデータベースを公開

AIエージェントのセキュリティ事案は2025年121件、2026年は9カ月で232件。実被害は354件中127件

FlashLabs株式会社（本社：東京都千代田区、代表取締役：細井洋一、以下「FlashLabs」）は、米国のAI研究機関Continuum AIが開発し、当社が日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」において、実世界で起きたAIエージェントのセキュリティ事案を収録したオープンデータベース「Orca AI Incident Archive」が公開されたことをお知らせします（2026年9月18日公開・2026年9月23日時点で354件を収録※1）。

「Orca AI Incident Archive」は、実際に起きたAIエージェントのセキュリティ事案を、発生した月ごとに整理したオープンなデータベースです。各記録には、少なくとも1件の情報源へのリンクと、実際に被害が出たかどうかの判定が付けられています※1。Webページ（https://www.orcarouter.ai/ja/incident-archive）で閲覧できるほか、JSON・CSV形式のデータ一式がGitHub上で公開されており、CC BY 4.0ライセンスのもとで、誰でも無償で閲覧・引用・再利用できます※1。

AIモデルの能力を測るベンチマーク（性能を比較するための試験）は数多く存在しますが、実際に何が起きたのかを示す記録は不足しています。本データベースは、AIエージェントがブラウザやコマンドの実行環境、認証情報、本番システムへのアクセス権を持つようになった現在において、「モデルが何をしうるか」ではなく「実際に何が起きたのか」を追跡できるようにすることを目的としています※1。

主なポイント

• 実際に起きたAIエージェントのセキュリティ事案354件を月単位で収録（2024年12月から2026年9月22日までの22ヶ月分）

• 記録が参照する情報源は593件（リンク総数662件）。情報源のない記録は収録していない

• 深刻度「重大（Critical）」は45件。実際に被害が確認された記録は127件

• 「起きうる」と「起きた」を分けて記録。安全上の制限の回避（ジェイルブレイク）と攻撃の成功、攻撃の成功と実害を、それぞれ別の項目として扱う

• 攻撃タイプを12分類、記録の種別を5分類、情報源の確度を4段階（グレードA〜D）で分類

• 訂正や追加の提案はGitHubの専用窓口で受け付け、修正内容は履歴として残る

• CC BY 4.0ライセンスで公開。日本語を含む7言語でタイトルと要約を提供

• 2026年9月の収録数は51件で月別最多。2025年は通年で121件、2026年は9カ月で232件と増加が続いている

開発の背景

ベンチマークは、モデルが何をしうるかを測る指標です。しかし、評価スコアが高いことは実際に被害が出たことを意味せず、深刻な事故が起きていても評価スコアには表れません。この2つを同じ土俵で語ると、「今年はAI事故が300件以上」といった見出しの数字が、実態を伴わないまま独り歩きしてしまいます※1。

「Orca AI Incident Archive」は、この混同を避けるために作られました。プロジェクトは「ジェイルブレイクは攻撃の成功と同義ではない。攻撃の成功は事故と同義ではない。論文の存在は被害者の存在を意味しない」という区別を、記録の構造そのものに組み込んでいます※1。

どの記録も、何よりも先に答える3つの問い

各記録は、内容の前に次の3点を必ず示します※1。

• 実際に被害が出たか（real_harm）。概念実証ではなく、確認された被害者がいるかどうか

• AIの関与が確認されているか（ai_involvement）。ベンダー、被害を受けた組織、法執行機関、公式レポートといった一次情報源で裏付けられているか

• どの種別の記録か（kind）。事故、脆弱性の公表、研究デモ、脅威レポート、政策動向のいずれか

354件の内訳は、事故138件、研究85件、政策70件、脆弱性46件、脅威レポート15件です※2。このうち実際に被害が確認された記録は127件で、残りには研究デモや政策の動きも含まれます※2。種別を分けずに合算すると、「AI事故○件」という数字が実態からずれていきます※1。

収録数は2025年の通年で121件、2026年は9カ月で232件と増えています。2026年9月の51件が、月別では最も多い月です※2。なお、その後の調査の進展により、過去の月の件数が追加されることがあります※2。

攻撃タイプの12分類

各記録には、攻撃の種類が1つ以上付けられています※1。分類と収録数は次のとおりです（2026年9月23日時点※2）。1つの記録に複数のタイプが付くため、合計は収録数を上回ります。

• ガバナンスと政策（GOV）65件。規制当局やベンダーが、AIエージェントのセキュリティに対して行った動き

• 認証情報の悪用（CRED）55件。盗まれた認証情報を使って、他人のAI利用枠を消費する手口

• 武器としてのエージェント（WEAPON）51件。エージェント自身が攻撃側に回り、偵察・侵入・詐欺を機械的な速度で行う手口

• 間接プロンプトインジェクション（IPI）45件。文書やWebページ、外部ツールの実行結果に紛れ込んだ指示が、AIに届いてしまう手口

• エージェント基盤の露出（INFRA）40件。管理画面、処理待ちのキュー、データ検索用の保管庫が、インターネットから到達できる状態で放置された事案

• サプライチェーン汚染（SUPPLY）36件。汚染されたパッケージ、モデル、スキルが上流から入り込む手口

• MCPとツールチェーン（MCP）31件。外部ツールとの接続部分そのものが攻撃対象になった事案

• データ流出（EXFIL）28件。エージェントが、本来送るべきでない場所へデータを送るよう誘導される手口

• エージェントの暴走（ROGUE）25件。誰も指示していない破壊的な操作を、エージェントが実行してしまった事案

• その他（OTHER）24件。上記11分類に当てはまらないもの

• サンドボックス脱出（SANDBOX）24件。エージェントが実行したコードが、閉じ込めておくはずの環境の外に出た事案

• 評価環境からの逸脱（EVAL）19件。モデルが、測定のために用意された環境の外に出てしまった事案

情報源の確度は4段階

記録は、情報源の確度によって4段階に分類されています※1※2。

• グレードA 302件。一次情報源。ベンダー、被害を受けた組織、法執行機関、公式レポート

• グレードB 47件。調査機関や主要メディアによる、検証可能な詳細を含む報道

• グレードC 2件。一次情報源がなく、二次情報のみ

• グレードD 3件。事実関係や帰属に争いがあるもの

確度は、事案の深刻さではなく情報源の質を示す指標です※1。グレードDは「誤り」を意味するのではなく、当事者の見解が分かれているため、一方の主張だけを引用すべきでないことを示します※1。全体の85%にあたる302件が、グレードAの情報源を持っています※2。

帰属に異論がある記録についても、除外せず、その旨を明示したうえで収録しています（AIの関与について見解が分かれている記録は5件、事実関係や帰属に争いがある記録は14件※2）。

データの提供形式

• Webページ：https://www.orcarouter.ai/ja/incident-archive。月別の推移、攻撃タイプ、深刻度、確度、地域による絞り込みと検索に対応

• データ一式（GitHub）：https://github.com/Continuum-AI-Corp/Orca-AI-Incident-Archive

• 形式：JSON、CSV、情報源URLの一覧、統計データ

• 各記録はMarkdownファイルとして管理し、属性情報、要約、攻撃の流れを示す図、出典リンクを収録

• ライセンス：CC BY 4.0（出典を明示すれば、商用を含めて自由に利用可能）

• 訂正や追加の提案はGitHubの窓口で受け付け、修正内容は履歴として残る仕組み

今後の展望

本データベースは、Continuum AIの研究チームが継続的に更新しています。FlashLabsは、AIエージェントの導入を検討・実施する日本の企業や開発者に対して本データベースを紹介するとともに、OrcaRouterが提供するガードレール（個人情報の検出、コンテンツポリシーの適用、外部ツール利用の制御など）とあわせて、実際に起きた事案から学べる環境づくりを進めてまいります。

OrcaRouterについて

OrcaRouterは、米国のAI研究機関Continuum AIが開発し、FlashLabs株式会社が日本市場向けに独占提供するAI推論ゲートウェイ（AIモデルへのアクセスを1つにまとめる中継サービス）です。OpenAI互換のAPIを備え、Anthropic、OpenAI、Google Gemini、DeepSeek、Grok、Qwenなど200以上のLLM・生成AIモデルを単一のゲートウェイから利用できます。OrcaRouterのAIモデル一覧からすべてのモデルを確認できます。

会社概要

FlashLabs株式会社

• 本社所在地：東京都千代田区一番町10番8号

• 代表取締役：細井洋一

• 設立：2023年7月

• 事業内容：AI応用研究所（Human-AI Hybridで営業・CXの自動化・自律化。OSS音声モデルChromaの開発元）

• URL：https://www.flashlabs.ai/

Continuum AI

• 「次の10年の知能システムを支える基盤インフラを開発する研究機関（米国）」

• OrcaRouterの開発・提供

• URL：https://www.continuum01.ai/

本件に関するお問い合わせ

FlashLabs株式会社 マーケティング部 小林光喜

E-mail：[e-mail]

※1 「Orca AI Incident Archive」の構成・位置づけ・提供形式に関する記述は、GitHubリポジトリ「Continuum-AI-Corp/Orca-AI-Incident-Archive」（2026年9月18日公開）およびOrcaRouter公式サイト「インシデントアーカイブ」ページ（日本語版）、OrcaRouter公式Xアカウント（@OrcaRouter）での発表（2026年9月23日）に基づきます。

※2 収録数および分類別の内訳は、同リポジトリが公開するデータ一式（バージョン2026-09-22・当社調べ・2026年9月23日時点）に基づきます。データベースは継続的に更新されるため、数値は変動します。

※3 本リリースに掲載しているURLは、2026年9月24日時点で当社が確認したものです。収録されている事案の内容・評価は、同データベースの基準と出典情報に基づくものであり、FlashLabsが個々の事案を独自に認定したものではありません。