AI inside、AI推論専用ハードウェアの新アーキテクチャ「AI inside Cube Atlas」を発表―「Sovereign Grid」の分散拠点として稼働

AI inside 株式会社（代表取締役社長CEO：渡久地 択、本社：東京都港区、以下「AI inside」）は、AI推論専用ハードウェア「AI inside Cube」の新アーキテクチャ「AI inside Cube Atlas」の第一弾モデルとして、「AI inside Cube Atlas 192x」の受注を本日より開始しました。

AI統合基盤「Leapnet」*1 の全機能をオンプレミス環境で稼働させる初のモデルであり、国内データセンター分散推論ネットワーク「Sovereign Grid」*2 の拠点としても機能します。

*1 5月13日発表　 AI inside、AI統合基盤「Leapnet」の正式提供を開始 

*2 5月13日発表　AI inside、国内データセンターをAI Factoryに転換する「Sovereign Grid」を始動― AI推論ネットワークを構築

提供開始の背景 

AIの利用拡大に伴い、計算需要の中心が学習から推論へ移っています。学習は一度で完了しますが、推論は業務が動く限り24時間365日稼働し続けるため、今後のAI計算需要の大半を推論が占めると見込まれています。

一方、機密性の高いデータを扱う政府機関・金融機関・製造業では、クラウド経由のAI利用が難しい場面があります。従来の選択肢は、データを外部に出して最新のAIを使うか、閉域に留まり性能を諦めるか、の2つでした。

AI inside は2019年から、ハードウェア「AI inside Cube」を政府機関・民間企業の業務現場に提供してきました。機密データを外部に出さずに、大規模クラウドで動かすクラスのLLMとAIエージェントを自社の閉域内で動かせます。この6年で、AIエージェントが業務で本番稼働するようになり、一筐体に求められる推論計算量が大幅に増えました。この変化に応えるため、新アーキテクチャ「AI inside Cube Atlas」を開発しました。 

AI inside Cube Atlas 192x について 

① 「Leapnet」のオンプレミス対応 

「AI inside Cube Atlas 192x」は、現行の「AI inside Cube」の192倍の計算能力を持つ推論専用ハードウェアです。AI統合基盤「Leapnet」の全機能をオンプレミス環境で稼働させることができます。AIエージェントの並列稼働・LLM推論・マルチモーダルRAGの大規模運用を、単一筐体・閉域内で同時に実行します。導入企業は、機密データを外部に出すことなく、クラウドと同等のAI能力を自社環境で利用できます。提供形態はサブスクリプション形式です。 

② 「Sovereign Grid」の分散拠点 

国内データセンター事業者の施設に「AI inside Cube Atlas 192x」を設置することで、各施設は電力をAIの推論能力に変換する工場（AI Factory）へと転換し、その上で「Leapnet」が稼働します。単一施設へのオンプレミス導入から、複数のデータセンターを束ねる分散推論ネットワークまで、同一のアーキテクチャで対応します。     

代表取締役社長CEO　渡久地 択 コメント 

AIの計算需要は学習から推論へ移り、機密データを扱う政府機関・金融機関・製造業は、データを外部に出して最新のAIを使うか、閉域に留まって性能を諦めるか、の2択を強いられてきました。さらに、クラウド上の最新モデルは、提供事業者や各国の規制の判断ひとつで、予告なく停止するリスクを抱えています。データ主権とアクセス主権の両方が、AI活用の前提条件になりつつあります。

「AI inside Cube Atlas」は、AI統合基盤「Leapnet」の全機能を、自社の閉域内でそのまま稼働させます。同じアーキテクチャで、単一施設のオンプレミスから、複数のデータセンターを束ねる分散推論ネットワークまでに対応します。AI inside は「Sovereign Grid」を通じて、国内のデータセンター事業者と共に日本のAIインフラの自律的な構築を推進していきます。 

今後の展望 

「AI inside Cube Atlas」は、計算能力の異なる構成を1x〜192xのレンジで順次展開します。あわせて、「Sovereign Grid」に参画する国内データセンター事業者への設置を進めており、第1号パートナーを発表します。   

AI inside 株式会社について 

AI inside 株式会社は、生成AI・大規模言語モデル（LLM）や自律型AIの研究開発と社会実装を推進するテックカンパニーです。日本語のドキュメント処理に特化したLLM「PolySphere」の開発をはじめ、政府機関・地方公共団体・民間企業など7万ユーザ超への導入実績を持ち、独自のAI基盤の構築と普及を進めています。主力プロダクトである「DX Suite」は、データ入力業務に特化したAIエージェントとして、前後工程全体の自動化を実現しています。これらの取り組みを通じて、人とAIの協働を推進し、生産性向上と業務効率化によって創出された時間を、より付加価値の高い業務へ移行する「VALUE SHIFT」を実現します。 

https://inside.ai 

※文中の製品またはサービスなどの名称は、AI inside 株式会社の商標または登録商標です。