AIの信頼性向上に寄与する「AIの動作を短時間で漏れなく検証する技術」を開発

決定木アンサンブルモデルの誤動作リスクを低減し、安心してAIを利用できる社会の実現に貢献

AIの通常の性能評価と網羅検証の比較

　三菱電機株式会社は、決定木アンサンブルモデル（※1）を対象とした「AIの動作を短時間で漏れなく検証する技術」を開発しました。本技術は当社AI技術「Maisart®（マイサート）（※2）」の開発成果で、AIが期待に反する動作（誤動作）を行うリスクを低減し、安心してAIを利用できる社会の実現に貢献します。

　AIが急速に発展して世界的に普及が進む中、AIに関する世界初の包括的な法的枠組みを定めた「欧州AI規制法」が2024年8月1日に発効されました。また各国でも同様に、AIのリスクに対処するための法令やガイドラインの整備が進められており、AIを開発・提供する事業者には、リスクを適切に管理することが求められています。特に、機器の自律制御システム、電力・社会インフラシステム、サイバーセキュリティーシステムなどの安全性が重視されるシステムにおいては、誤動作時に発生する損害の大きさからAIの信頼性が重要となっています。通常、AIの信頼性評価は、AIモデルの学習に用いていない有限個のテストデータで正解率などの指標を評価しますが、AIの動作は非常に複雑で、仮にテストを実施した際の正解率が100％であっても、テストしていないデータでの誤動作リスクを排除できないという問題がありました。この問題に対して、AIに期待する動作をあらかじめ設定し、期待どおりに動作しているかを厳密に漏れなく検証する網羅検証の手法が提案されています。ただし、AIモデルのサイズが大きいと検証に膨大な時間がかかることや、誤動作リスクの大きさが不明で対処の優先度を判断しづらいことなどを理由に、網羅検証を実施するケースは限定的となっていました。

　当社は今回、網羅検証における問題を解決する技術として、数値データの予測などに広く用いられる決定木アンサンブルモデルに対して効率的に網羅検証を行う新たなアルゴリズムと、これを用いた対話的な検証ツールを開発しました。本技術を活用することで、AI開発者は網羅検証のサイクルを高速で循環させることができるため、AIの誤動作リスクを低減することが可能となります。これにより、AIの信頼性を向上し、安心してAIを利用できる社会の実現に貢献します。

■開発の特長

1．効率的に網羅検証を行うアルゴリズムの開発により、AIの誤動作リスクを短時間で検証可能

・決定木アンサンブルモデルに対して、効率的に網羅検証を行うアルゴリズムを開発。これにより、AIが期待どおりに動作しているかを厳密に漏れなく検証可能

・AIに入力するデータの範囲を再帰的に分割して検証することで、網羅検証における従来の手法と比べて数十～数百倍高速（※3）に検証できることを確認

2．直感的に操作できる対話的な検証ツールを開発、誤動作リスクへの適切な対処を支援

・ブラウザベースのGUI（※4）を介して、ユーザーが直感的な操作で網羅検証を実施できるツールを開発。学習済みのAIモデルを読み込み、AIに期待する動作を設定することで、ワンクリックで検証を実行

・検証結果として合否の割合を表示することで、AI開発者が誤動作リスクの大きさを把握可能

・誤動作の発生条件ごとの発生率を色の濃淡で表したリスクマップとして図示することで、AI開発者の誤動作リスクへの適切な対処を支援

本技術を用いた網羅検証のサイクル

■今後の予定・将来展望

　2025年度以降、社内外で開発するAIを対象に実証を進めていきます。またAIの標準化活動とも連携し、開発技術を広く社会に還元していくことで、安心してAIを利用できる社会の実現を目指します。

■商標関連

「Maisart」

三菱電機株式会社の登録商標

■参考情報

　効率的な網羅検証アルゴリズムの詳細はデータマイニング分野の国際会議IEEE ICDM 2024のワークショップ（※5）および人工知能学会全国大会（※6）の論文を参照ください。

■三菱電機グループについて

　私たち三菱電機グループは、たゆまぬ技術革新と限りない創造力により、活力とゆとりある社会の実現に貢献します。社会・環境を豊かにしながら事業を発展させる「トレード・オン」の活動を加速させ、サステナビリティを実現します。また、デジタル基盤「Serendie®」を活用し、お客様から得られたデータをデジタル空間に集約・分析するとともに、グループ内が強くつながり知恵を出し合うことで、新たな価値を生み出し社会課題の解決に貢献する「循環型 デジタル・エンジニアリング」を推進しています。1921年の創業以来、100年を超える歴史を有し、社会システム、電力システム、防衛・宇宙システム、FAシステム、自動車機器、ビルシステム、空調・家電、情報システム・サービス、半導体・デバイスといった事業を展開しています。世界に200以上のグループ会社と約15万人の従業員を擁し、2023年度の連結売上高は5兆2,579億円でした。詳細は、www.MitsubishiElectric.co.jpをご覧ください。

※1　データを条件に基づいて分割して予測を行うモデルである決定木を複数組み合わせて予測精度を向上させるAI手法

※2　Mitsubishi Electric’s AI creates the State-of-the-ART in technologyの略。

全ての機器をより賢くすることを目指した当社のAI技術ブランド

※3　2025年2月26日時点、当社調べ

※4　Graphical User Interface

※5　Saori Matsunaga, and Genta Yoshimura “Efficient and High-Quality Formal Verification for Decision Tree Ensembles” International Workshop on Adaptable, Reliable, and Responsible Learning （ARRL2024）

※6　松永 沙織、吉村 玄太「決定木アンサンブルモデルの形式検証と検証結果の要約」人工知能学会全国大会 （JSAI2024）

＜お客様からのお問い合わせ先＞

三菱電機株式会社　情報技術総合研究所

〒247-8501 神奈川県鎌倉市大船五丁目1番1号

https://www.MitsubishiElectric.co.jp/corporate/randd/inquiry/index_it.html