AI事業者ガイドラインを「仕組みで運用」する。AIサプライチェーンのリスクを可視化する「MODEL SAFE」、β版事前登録開始
AIの変更やリスクを“自動で”可視化し、安心して運用できるAIガバナンスを実現
株式会社MONO BRAIN（本社：東京都渋谷区、代表取締役：加藤 真規）は、AIサプライチェーンセキュリティを実現するプラットフォーム「MODEL SAFE」において、AIの変更やリスクを自動で可視化する機能を開発し、β版の事前登録を開始したことをお知らせいたします。
背景：AI活用の拡大と新たなリスクの顕在化
近年、生成AIをはじめとするAI技術の進化により、企業におけるAI活用は急速に拡大しています。一方で、AIは外部モデルやAPI、ライブラリなど複数の要素から構成され、設定やバージョンの変更も頻繁に発生するなど、従来のソフトウェアとは異なる特性を持っています。
その結果、AIの利用が広がるにつれて、「どのAIが、どの用途で、どのような設定で使われているのか」「いつ、何が変わったのか」を把握しきれないまま運用が進んでしまうケースも増えており、新たなリスクが顕在化しつつあります。
新たなセキュリティリスク
こうした状況のままAIの運用が進むと、企業は知らないうちに大きなリスクを抱え込むことになります。例えば、特定の悪意がなくとも、モデルや設定、利用用途の変化によってAIの挙動や品質が徐々に変わり、気づかないうちに業務やサービスへ影響を及ぼしているケースです。
一方で、外部モデルや依存ライブラリといったAIを構成する要素に悪意あるコードが混入した場合、AIそのものが脆弱性となり、情報漏洩やサービス停止などの深刻な被害につながるリスクも存在します。
新しい考え方：AIサプライチェーンセキュリティ
こうしたリスクに対応するためには、AIを単なる機能やツールとしてではなく、複数の構成要素から成る「サプライチェーン」として捉える必要があります。AIは、モデルやAPI、ライブラリ、設定、利用用途などが組み合わさって成り立っており、そのどこか一つの変化が全体のリスクにつながります。
このAI特有の構造を前提に、構成要素の変化や利用状況を継続的に管理・可視化し、リスクを未然に把握・制御しようとする考え方が、AIサプライチェーンセキュリティです。
解決策：AIの変更と利用を自動で把握する「MODEL SAFE」
MODEL SAFEは、AIサプライチェーン上で発生する変更や利用状況を、人手による確認や属人的な運用に頼ることなく、自動で把握・可視化するプラットフォームです。
AIを導入するたびに台帳を更新したり、変更点を手作業で追い続ける必要はありません。
これにより、企業は
「どのAIが、どの構成で、どのように使われているのか」
「いつ、何が変わり、どこに影響しているのか」
をあとから調べるのではなく、常に把握できる状態でAIを運用することが可能になります。
MODEL SAFEは、AIガバナンスを人の頑張りに依存させるのではなく、仕組みとして実装することで、企業のAI活用を継続的に支援します。
β版でできること：まずは確実に価値が出るリスク可視化
MODEL SAFEのβ版では、AIサプライチェーンにおけるリスクの中でも、導入直後から価値を実感しやすい領域にフォーカスした可視化機能を提供します。
具体的には、以下のような変化やリスクを自動的に把握することが可能です。
-
AIモデルやライブラリなど、構成要素の変更
-
利用用途・利用環境の変化
-
リスクレベルの変化やポリシー逸脱の兆候
これらは、いずれも「変わったかどうか」を確実に捉えることに重点を置いており、誤検知が少なく、AI活用が進む現場において実用性の高い可視化を実現します。
今後の展開：AIサプライチェーンを包括的に守るために
AIサプライチェーンセキュリティを段階的に拡張していくことを目指しています。
まずはリスクの可視化から着手し、AIの利用や変更を正しく把握できる状態を整えることで、企業が安心してAIを活用できる基盤を提供します。
-
今後は、モデルや依存関係に対する脆弱性の検知
-
実行時の挙動を継続的に監視するランタイム監視
-
想定外のリスクを洗い出すレッドチームなど
AIサプライチェーン全体を守るための機能を順次展開していく予定です。
国内外におけるAIを取り巻くルールや規制の動向も踏まえながら、企業のAIガバナンスを実効性のある形で支援していきます。
β版のご利用・ご相談について
MODEL SAFEでは現在、AIサプライチェーンセキュリティに関心をお持ちの企業様向けに、β版の提供に向けたご相談を受け付けています。
本サービスのご利用に限らず、
-
AIの利用状況を把握しきれていない
-
AIの変更やリスク管理に不安がある
-
今後のAIガバナンスや規制対応について相談したい
といった段階からでも、カジュアルにご相談いただけます。
β版のご利用やサービスの詳細については、以下のお問い合わせフォームよりご連絡ください。内容を確認のうえ、順次ご案内いたします。
β版登録フォーム : https://monobrain.jp/contact
株式会社MONO BRAINについて
株式会社MONO BRAINは、「AIを、安全に運用できるシステムにする。」をビジョンに掲げる、AIセキュリティ領域のスタートアップです。
AIが社会インフラや事業の中核を担う時代を見据え、AIサプライチェーンという視点から、AIの変更や利用状況、リスクを自動で把握・管理できるプラットフォーム「MODEL SAFE」を開発しています。
住所 ： 〒150-0043 東京都渋谷区道玄坂1丁目10番8号渋谷道玄坂東急ビル2F−C
設立 ： 2023年3月18日
代表者 ： 代表取締役CEO 加藤 真規
URL ： https://monobrain.jp/
お問い合せ : https://monobrain.jp/contact
■本リリースに関するお問い合わせ
株式会社MONO BRAIN 広報担当 https://monobrain.jp/contact
すべての画像
