Citadel AI、内閣府のAI評価環境構築に関する調査業務に参画

日本AISIによるAI安全性評価環境の検討に向け、調査・可能性検証を支援

株式会社Citadel AI（東京都文京区、代表取締役：小林 裕宜）は、経営コンサルティング会社A.T. カーニー（東京都港区、日本代表：針ヶ谷 武文）より再委託を受け、内閣府の「民間企業等の開発したAIを評価するための環境構築調査等」に関する業務に参画いたしました。

本件は、日本AIセーフティ・インスティテュート（以下「日本AISI」）が、国内外の民間企業等が開発したAIを公開前に適切に評価できる環境のあり方を検討するにあたり、関連動向の調査・分析、評価環境の整備に向けた論点整理、可能性検証等を行うものです。

Citadel AIは、AIの安全性・セキュリティに関する国内外の技術動向や知見を統合し、日本におけるAI安全性評価環境に関する検討を支援してまいります。

- 背景

AIの開発・活用が急速に進展する中、AIの性能や信頼性に加え、安全性、セキュリティを客観的に評価するための手法・環境の整備は、国際的にも重要性を増しています。各国のAI安全性関連機関では、AI評価に関する取り組みが進められており、日本においても、AIの安全性確保と活用促進の両立に向け、日本AISIの機能強化や評価基盤の整備に関する検討が進んでいます。高性能なAIシステムの利用・開発が広がることを踏まえ、評価環境のあり方を検討し、評価対象となるAIの特性に応じて、技術的な検証環境、専門的な評価手法、運用体制等を総合的に設計することが重要です。

- 業務の主な概要

本調査では、日本AISIが民間企業等の開発したAI（フロンティアAI、AIエージェント、フィジカルAI）を適切に評価するために必要となる環境・体制・運用のあり方を検討することを目的に、国内外の関連動向の調査・分析、評価環境の要件整理、可能性検証、関係者との議論の支援等を行います。主な支援内容は以下の通りです。

（１）民間企業等の開発したAIを評価するための環境構築に係る調査・分析等

（２）フロンティアAIモデル、AIエージェントを評価するための環境構築に係る可能性検証

（３）フィジカルAIを評価するための環境構築に係る可能性検証

（４）業務を進めるための会議体の運営補助や検討会の設置・運営

このうちCitadel AIは（２）フロンティアAIモデル、AIエージェントを評価するための環境構築に係る可能性検証を担当します。最先端のフロンティアモデルならびにAIエージェント製品の評価環境構築に必要な要素を整理した上で、日本AISIが一貫した評価・判断を行う基盤を中長期的に構築するための技術的課題、必要となる体制等を明らかにします。

 - 代表取締役 小林 裕宜のコメント

近年のフロンティアAIやAIエージェントは、推論、コード生成、サイバーセキュリティ関連タスクなどにおいて急速に性能を向上させており、その安全性やセキュリティリスクに対する懸念が高まっています。アンソロピック社のClaude Mythosのように、特定領域で高度な能力を示す最先端モデルの登場は、日本としても、AIの安全性・セキュリティを客観的に評価するための体制整備と基盤構築が、喫緊の課題であることを示しています。弊社は、国内外の技術動向や知見を統合し、日本における実効性ある評価環境の検討と、安全・安心なAIの社会実装を支援してまいります。

- 受託業務概要

最終発注元：内閣府

委託元：　　A.T. カーニー

業務名：　　民間企業等の開発したAIを評価するための環境構築調査等

- 株式会社Citadel AIについて

Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。Google米国本社出身のエンジニアをはじめとするインターナショナルなチームが開発をリード。導入段階のリスク評価から、運用段階のガードレールまで、生成AIのライフサイクル全体をサポートする独自の「AIガバナンスツール」を提供、国内外の市場で高い評価をいただいています。詳しくはWebサイトをご覧ください。

https://citadel-ai.com/ja/