Datadog、OpenAI ChatGPTとのインテグレーションにより、企業のAI使用状況、コストおよびパフォーマンスのモニタリングを支援

ChatGPTの使用状況、レイテンシー、トークン消費を一目で把握でき、AIアプリケーションのパフォーマンス、エンドユーザー体験、コストの監視と改善が可能に

ニューヨーク -- クラウドアプリケーション向けの監視およびセキュリティのプラットフォームを提供するDatadog( https://www.datadoghq.com/ ), Inc.（NASDAQ：DDOG）は本日、OpenAIが提供する多様なAPIの使用状況をモニタリングする新インテグレーション( https://www.datadoghq.com/solutions/openai )を発表しました。今回発表したインテグレーションにより、GPT-4およびその他の言語生成モデルを含む各種のOpenAIモデル

について、API使用パターン、コストおよびパフォーマンスのモニタリングが可能になります。Datadogが提供するオブザーバビリティにより、ライブラリを監視してデータを収集するプロセスをシンプルにでき、ユーザー企業はOpenAI使用状況の監視を円滑に開始することができます。

OpenAIによる最新の生成系AIモデルの普及が進み、企業内でさまざまな用途にChatGPTを活用する部署が増える中、GPTアプリケーションの使用状況を把握する機能は、AIモデルのファインチューニングとユーザーエクスペリエンスを改善するために不可欠になっています。一方、APIとトークンの消費状況をモニタリングする機能は、コストの管理とアプリケーションのパフォーマンス向上のために重要です。API使用状況、レイテンシー、コストに関する問題を解決するための情報を取得することで、企業はAIモデルをより有効に活用し、日々のオペレーションを改善して製品やサービスのイノベーションという本来の業務に注力できるようになります。

DatadogのOpenAIインテグレーションの機能は以下の通りです。

・使用状況の把握：Datadogがあらかじめ用意しているダッシュボードにより、OpenAIの全体的なAPI使用状 況、トークン消費状況、コストを、サービスやチーム、APIキー別に簡単な設定を行うだけで確認できるようになります。また、APIレートが上限に達した場合のアラートもあらかじめ設定されているため、超過が発生していないかを簡単にチェックできます。

・パフォーマンスの最適化：Datadog側でAPIエラーレート、レート制限、反応時間を監視でき、APIパフォーマンスの課題と同時に、アプリケーションパフォーマンスの課題を洗い出すことができます。またプロンプトとコンプリーション例を含むトレースおよびログを確認することで、アプリケーションのボトルネックやユーザーのふるまいを把握できます。

・コストの管理：トークンの割当て状況を確認してOpenAIのAPIコールに応じたコストを分析できます。Datadogが算出するモデル別・サービス別・部門別のトークン割当てに関する情報に基づき、各部門は支出をきめ細かく管理し想定外の支出を回避できます。

・複数のAIモデルに対応： Datadogのインテグレーションを利用することで、GPT大規模言語モデル群だけでなくAda、Babbage、Curie、Davinciなど他のOpenAI( https://openai.com/ )モデルのパフォーマンス、コスト、および使用状況も監視できます。

Datadogのプロダクト担当バイスプレジデントであるYrieix Garnierは次のように述べています。「ChatGPTはソフトウェア開発やコンテンツ作成など多様な分野における強力なツールとなりました。ユーザーがさまざまな用途へのAIモデルの活用を試みる中、エンジニアリング、マーケティング、法務、財務など企業内の各部門が、使用しているAIモデルのパフォーマンス状況を監視し、OpenAPIモデルにどの程度の時間、資金、リソースが投入されているかを把握するための手段を必要としています。DatadogのChatGPTインテグレーションは、APIのレート制限状況、組織内の使用パターン、コスト、APIパフォーマンス等をダッシュボード上で即座に監視できるため、組織全体でのChatGPTの割当ておよび消費状況を一目で把握することができます。」

DatadogのOpenAI統合を導入するにはこちらから：

https://www.datadoghq.com/solutions/openai.

またこちらで詳しい情報を確認できます：

https://www.datadoghq.com/blog/monitor-openai-with-datadog.

Datadogについて

Datadogは、クラウドアプリケーション向けのオブザーバビリティおよびセキュリティプラットフォームを提供しています。Datadogの SaaSプラットフォームは、インフラストラクチャのモニタリング、アプリケーションパフォーマンスモニタリング、ログ管理、リアルユーザーモニタリング、その他多くの機能を統合および自動化し、お客様のテクノロジースタック全体に統合されたリアルタイムのオブザーバビリティとセキュリティを提供します。Datadogは、あらゆる規模の企業、幅広い業界で使用され、デジタルトランスフォーメーションとクラウド移行を可能にし、開発、運用、セキュリティ、ビジネスチーム間のコラボレーションを促進し、アプリケーションの市場投入までの時間と問題解決までの時間を短縮し、ユーザーの行動を理解し、主要なビジネス指標をトラッキングします。

将来の見通しに関する記述

本プレスリリースには、新製品および新機能の利点に関する記述を含め、米国1933年証券法（Securities Act of 1933）第27A条および米国1934年証券取引所法（Securities Exchange Act of 1934）第21E条に規定される「将来予想に関する記述」が含まれています。これらの将来予想に関する記述は、当社の製品および機能の強化、またそれらによってもたらされる利益に関する記述が含まれますが、これらに限定するものではありません。実際の結果は、将来見通しに関する記述とは大きく異なる可能性があり、「リスクファクター」の見出しの下に詳述されているリスクをはじめ、2023年2月24日に米国証券取引委員会に提出したForm 10-Kの年次報告書を含む米国証券取引委員会への提出書類および報告書、ならびに当社による今後の提出書類および報告書に記載されている、当社が制御できない様々な仮定、不確実性、リスクおよび要因の影響を受けます。法律で義務付けられている場合を除き、当社は、新しい情報、将来の事象、期待の変化などに応じて、本リリースに含まれる将来の見通しに関する記述を更新する義務または責務を負いません。