ミッションクリティカルAIの実現を目指すコーピー、NEDOの「AIセーフティ強化に関する研究開発」に採択

XAI&QAAI技術でミッションクリティカルAI実現に取り組む東京大学・フランス国立情報学自動制御研究所（Inria）発AIスタートアップの株式会社コーピー（本社：東京都千代田区、代表取締役：山元浩平、以下「コーピー」）は、国立研究開発法人新エネルギー・産業技術総合開発機構（以下、NEDO）が公募した「AIセーフティ強化に関する研究開発」事業に、国立研究開発法人産業技術総合研究所（産総研）および株式会社Citadel AIと共同提案を行い、採択されました。

本事業は、生成AIをはじめとする先端AIの安全な社会実装を目指し、AIシステムのリスクを評価・管理するための基盤技術の開発と、ISO/IEC等の国際標準と整合したセーフティガイドラインの策定・普及を図るものです。

AIセーフティへの社会的要請が高まる中、国際対応力が問われる時代へ

近年、ChatGPTをはじめとする大規模言語モデル（LLM）やマルチモーダルAIの台頭により、生成AIは社会インフラにまで浸透しつつあります。その一方で、誤情報の生成やプライバシー侵害、倫理的リスクなど、予測不能な影響を及ぼす懸念が広がっています。

こうしたリスクに対応すべく、欧州では2026年に「AI Act（AI規則）」の本格施行が予定されており、AIの利用にはリスクベースの評価や適合証明が法的に求められます。米国・英国・中国なども相次いでAIセーフティに関する政策と評価機関（AISI等）の設立を進めており、日本国内でも国際的なルール形成に即応できる体制整備が急務とされています。

コーピーの役割：運用計画・管理の観点からの実装解説を企業向けに整備

今回のプロジェクトにおいてコーピーは、生成AIモデルを組み込んだAIシステム（AIエージェントを含む）を対象に、国際標準「ISO/IEC 42001」の8.1項「運用計画および管理」に対応する形で企業向け実装ガイドラインの策定を担当します。具体的には、以下の取り組みを通じて、実践的なセーフティ評価・運用管理の仕組みの構築を支援します。

• ISO/IEC 42001と整合するAIシステム運用管理プロセスの整理

• 生成AIシステムに適用可能な評価指標・テストプロトコルの開発

• 安全性評価結果を標準化する報告書テンプレートの整備

• 上記内容を実証実験・企業フィードバックとともに実装解説としてまとめ、AIガイドラインへ反映

これにより、企業が自社のAI製品・サービスの安全性・信頼性を客観的に示す手段を持ち、国際的な基準に則った形でのAI活用が可能になります。

今後の展望：セーフティ評価を軸に、日本発の国際標準を推進

本事業では、評価技術の開発のみならず、その社会実装にも重点が置かれています。当社は、本事業および関連する活動を通じて、AIセーフティ評価技術の国際標準化と社会実装に貢献し、企業が安心してAIを活用できる環境整備を支援することで、「ミッションクリティカルなAIを実現する」というビジョンの実現を目指してまいります。

■コーピー（Corpy&Co.）について

日本とフランスをベースに「先端AI技術で人命を救い、平等を拡張する」ことをミッションに、失敗の許されないミッションクリティカル領域におけるAI導入を目指し、サービスを展開している東京大学・仏Inria発AIスタートアップです。AIの実運用で必須となる品質保証に焦点を当て、XAI(説明可能AI)技術を用いた説明性向上や、QAAI(AI向け品質検証)技術を用いた実環境における頑健性・脆弱性検証などを行う包括的アルゴリズムの開発とソリューション提供を行っています。 

会社名　　　　：株式会社コーピー（Corpy & Co., Inc.) 

ホームページ　：https://corpy.co.jp/ 

代表取締役　　：山元 浩平

設立　　　　　：2017年3月 

本社所在地　　：東京都千代田区神田神保町1-44-11 

■本プレスリリースに関するお問い合わせ

株式会社コーピー 広報担当：[e-mail]