企業AI支出、重点5領域の管理で12～18カ月に20～40％の削減余地【A.T. カーニー】

推論費用からデータ保存・監視まで、AI支出の継続管理を提言

A.T. カーニー株式会社（東京都港区、日本代表：針ヶ谷 武文）は、論考『AIを実験から企業価値へ：全社規模でAIのコスト曲線を管理する』（英題：From AI experimentation to enterprise value: managing the cost curve of AI at enterprise scale）を公開しました。本論考は、企業のAI活用が実験段階から全社展開へ進む中、構築後の運用費用をどのように管理するかを論じています。

本論考は、データストレージ、MLOps・可観測性ツール、オーケストレーションの乱立、外部データ、推論費用の5領域を重点対象に挙げています。これらに集中的に取り組むことで、12～18カ月で経常的なAI支出の20～40％を削減できるとしています。削減効果を維持するには、用途ごとの費用を把握し、FinOps（利用量に応じて変動するIT費用を継続的に管理・最適化する運営手法）と全社共通の運用基盤を整える必要があると提言しています。

AIの全社展開で、費用の中心は「構築」から「継続運用」へ

本論考は、企業のAI関連費用を人件費、データ、推論・コンピューティング、ソフトウェア・プラットフォームの4つに整理しています。人件費は開発段階、推論費用は本番運用に集中し、ユースケースが増えるにつれて費用構成も変わります。費用の負荷が高い領域として、モデル利用料に加え、検索を支えるデータストレージやエージェントを監視するツールを挙げています。

新世代のエージェントは、単純なチャットボットに比べてタスク当たり5～30倍のトークンを使います。問い合わせ1件当たりの単価が下がっても、利用量の拡大によって請求総額が増え得るため、本論考は現在の費用と増加傾向の両方を見て優先順位を決めるよう促しています。

重点領域ごとに異なる削減余地を、自社の支出に照らして評価

本論考が示す削減幅の目安は、データストレージ・検索でデータ費用の15～40％、オーケストレーションの統合でプラットフォーム費用の20～35％、外部データの調達一元化でデータライセンス費用の10～25％です。一般的なワークロードでは、推論費用についても30～60％の削減余地を挙げています。MLOps・可観測性・FinOpsツールの整備には、単独でも5～15％の削減効果があるとしています。これらは公開ベンチマークやベンダー事例などに基づく目安であり、数値を合算せず、実行前に自社の支出構造に照らして再評価する必要があります。

推論費用ではキャッシュとモデルの振り分けが有力な施策ですが、別々に最適化すると逆効果になる場合があります。会話の途中でモデルを切り替えると、それまで蓄積したキャッシュが失われることがあるためです。本論考は、モデル変更による節約額と失うキャッシュの価値を比較できるよう、両者を一体で設計することを提案しています。

FinOpsの運営規律と共通基盤で、削減効果を継続

本論考は、AIコスト管理を一度限りの施策で終わらせず、測定、統制、予測、最適化の4段階を継続するよう提言しています。用途・チーム別に費用を配賦し、予算や利用上限を設け、将来の利用量と事業成果当たりの費用を見通すことが重要です。最適化の対象には、キャッシュ、モデルの振り分け、バッチ処理などを挙げています。

これらを全社規模で運用するため、論考は統合された推論ゲートウェイ、コストの計測・配賦、予測・予算管理ツール、共有のデータ・検索基盤、エージェントの共有、評価・可観測性、ガバナンスの仕組みを示しています。着手点として、今四半期に支出上位3つのAIユースケースを特定し、それぞれの費用配賦を監査することを提案しています。

論考について

論考名：『AIの実験から企業価値へ：全社規模でAIのコスト曲線を管理する』（英題：From AI experimentation to enterprise value: managing the cost curve of AI at enterprise scale）

URL：https://www.jp.kearney.com/issue-papers-perspectives/from-ai-experimentation-to-enterprise-value-managing-the-cost-curve-of-ai-at-enterprise-scale

 

監修者
大塩 崇 シニアパートナー
早稲田大学理工学研究科卒。NTTデータ、米系戦略コンサルティングファームを経て、A.T. カーニーに入社。ハイテク、通信・ICT、エレクトロニクス、商社を中心に、シナリオプラニング、新規事業構築、Go-to-market、事業ポートフォリオの再構築、中長期経営計画、M&A戦略、収益改善、オペレーション改革などのコンサルティングに従事。

川﨑 健史 パートナー
東京大学理学部卒、Duke University, Fuqua School of Business (MBA) 修了。NTT東日本、米系戦略コンサルティングファーム、Big4コンサルティング部門等を経て、A.T. カーニーに入社。日系及び東南アジアの通信・ハイテク企業を中心に、中期経営計画・グローバル経営マネジメント・テクノロジー戦略・事業モデル変革・業務パフォーマンス変革等の幅広いCXOアジェンダに従事。近年では、戦略コンセプトの立案から実行サポートまで一貫したデジタルトランスフォーメーションのサポートも数多く手掛ける。

A.T. カーニーについて

A.T. カーニー（グローバル・ブランド名：Kearney）は、100年にわたり世界有数の経営コンサルティングファームとして、Fortune Global 500企業の4分の3以上をはじめ、世界各国の政府機関に信頼されるパートナーであり続けてきました。世界40カ国以上に拠点を展開し、私たちの最大の強みは「人」にあります。インパクト・ファーストを掲げ、独創的な発想と実行力をもって、顧客企業が直面する最も困難な課題に挑み、変革の実現をともに推進します。日本には1972年に進出し、主要産業のリーディングカンパニーに、戦略策定から変革の実行まで一貫した支援を提供しています。 https://www.jp.kearney.com/