Dataikuが 生成AIコスト監視ソリューションを発表。企業にリアルタイムの支出管理を提供

Dataiku LLMメッシュの新機能が、企業全体の生成 AIのユースケースを追跡し、最適化するための基準を作成

生成AIが急速に進化する中、大規模言語モデル(LLM)のパワーを活用しようとする動きに伴い、企業がこれを広範に導入するためには、関連コストの包括的な把握と管理が必要であるという課題が明らかになりました。この課題に対応するため、Dataikuは、Dataiku LLMメッシュの新機能であるコスト監視専用ソリューション「LLM Cost Guard」を発表しました。

LLM Cost Guardは、企業のLLM使用状況を効果的に追跡、監視し、生成AIのコストをより適切に予測および管理します。特定のアプリケーション、プロバイダー、ユーザーに起因するコストを可視化し、どのLLMユースケースによりどのようなコストが生じているかをきめ細かく把握することができます。LLM Cost Guardは、Dataiku LLM メッシュの機能です。LLMメッシュは安全なLLMゲートウェイを提供し、OpenAI、Microsoft Azure、Amazon Web Services、Google Cloud Platform、Databricks、Anthropic、AI21 Labs、およびCohereが提供するLLMの統合が可能で、お客様はLLMプロバイダーに関する制約を受けることはありません。

Dataikuの共同創設者兼CEOであるFlorian Douetteauは、次のように述べています。

「AIはあらゆる企業の革新と成長にとって重要な戦略ですが、生成 AIプロジェクトの潜在的なコストだけでなく、生成AIならではのコストのばらつきに関するビジネスリーダーの懸念も絶えず耳にします。LLM Cost Guardは、このようなコストを分かりやすくすることを目的としています。ITリーダーは、Dataiku LLM メッシュ上でLLMへのアクセスを制御、管理できるだけでなく、支出を詳細かつリアルタイムにコントロールできるようになり、構築やイノベーションに時間を集中できるようになります。さまざまなコストを区別し、早期警告を設定することで、当社はITリーダーの皆様が自信を持って生成 AIイニシアチブに取り組んでいけるよう支援します」

生成AIのコストを分かりやすくする

生成AIが業界を再定義するとの期待から、その導入は急速に進んでおり、半数以上の組織が今後1年以内に投資を拡大することを計画しています。しかし、ITリーダーがLLMの導入、熟練した人材の採用、品質、ガバナンス、セキュリティーのための最適なプロンプトの設計を精力的に急ぐ一方で、コスト管理を現実的に検討することは見過ごされてきました。生成AIは、2030年までにAI支出の55％を占めると予測されており、生成AIの取り組みを強力な財務の正当性に裏打ちされたものにすることで、投資の重要な領域となり得ます。

IDCのAI and Automation Research Group VPであるRitu Jyoti氏は、次のように述べています。

「生成AIのコスト監視におけるDataikuのイノベーションは、市場の極めて重要な需要に応えるものです。企業が生成AIをより深く業務に取り込む中で、コストを明確にするだけでなく、ガバナンスをフレームワークに統合するソリューションが必要不可欠になっています。Dataikuは、生成 AIへの投資を包括的に理解し、監視することで、企業が持続可能な成長を追求できるよう支援します」

DataikuのLLMメッシュは、いま最も需要の高いLLMプロバイダーとの接続性を比類なく広範に備えた集中型ソリューションを提供します。今日、企業はさまざまなユースケースに対応するために、複数のLLMベンダーを利用していますが、LLM Cost GuardはLLMプロバイダー間のインサイトを監視しレポートするため、企業はプロジェクトをグローバルで可視化することができます。

LLM Cost Guardにより企業は以下のことが可能なります

● LLMコストのタグ付けと追跡: コストを特定のプロジェクトに割り当てることで、財務状況の透明性を高め、アカウンタビリティーを確保できます。

● コストの区別: 本番稼働におけるコストと開発コストを明確に区分し、戦略的な財務計画を支援します。

● 早期警告システムの導入: コスト超過の可能性を早期に特定し、ガバナンスの不備に関連するものなど、財務リスクを軽減できます。

● 詳細な洞察の獲得: LLMの使用状況と支出に関するダッシュボードへのアクセスにより、情報に基づいた意思決定と投資の最適化が可能です。

LLM Cost Guard はすでに提供を開始しています。詳細は以下を参照ください:

 dataiku.com/solutions/catalog/llm-cost-guard/

関連情報

• 2024年3月18日に開催される生成AIブートキャンプにご参加ください:
  「Using LLMs for Enterprise Use Cases: How Much Does It Really Cost? Dataiku共同創業者兼CTO Clément Stenac、TitanML CEO Meryem Arik氏」

• ブログを参照ください:
  「 Introducing LLM Cost Guard, the Newest Addition to the LLM Mesh」

• Dataiku LLM メッシュの機能についてはこちらをご覧ください。

Dataikuについて

DataikuはEveryday AIのためのプラットフォームであり、高度な分析から生成AIまで、データ専門家とビジネス専門家が日々の業務に共にデータを取り入れていくことを可能にします。Dataikuは2013年に創業し、当時からのビジョンであるEveryday AIを継続して展開しDataiku自身を成長させ続けることで、その能力を実証してきました。200社のForbes Global 2000の企業を含む600社以上の顧客、1,000人以上の献身的な従業員を抱えるDataikuは、データ、アナリティクス、AI、生成AIの可能性を最大限に活用できるよう企業を支援する上で、急速な拡大と極めて重要な役割を担っていることに誇りを持っています。

当社のブログ、YouTube、LinkedInで情報をお届けしています。