Datadogのプラットフォームを拡張し、生成AIアプリケーションの監視とトラブルシューティングを支援

Datadogが大規模言語モデルと生成AIアプリケーションコンポーネントにオブザーバビリティに関する機能を追加

サンフランシスコ -- クラウドアプリケーション向けの監視およびセキュリティのプラットフォームを提供するDatadog, Inc.（NASDAQ：DDOG）（ https://www.datadoghq.com/ja/ ）は本日、生成AIベースのアプリケーションにおける問題の監視とトラブルシューティングを支援する新機能を発表しました。

AIアシスタントやコパイロットなどの生成AIベースの機能は、あらゆるソフトウェア製品のロードマップにおいて、急速に重要な役割を担うようになっています。こうした新機能に期待が高まっていますが、これらを顧客対応アプリケーションに導入すると、コスト、可用性、正確性などの点で多くの課題が生じます。

生成AIで使用される技術スタックが飛躍的な進化を遂げている中、新たなアプリケーションフレームワーク、モデル、ベクトルデータベース、サービスチェーンおよびサポート技術が急速に採用され使用されるようになりました。企業がこのような変化に対応するには、AIスタックに適合し進化できるオブザーバビリティソリューションが必要です。 

本日、Datadogはチームが自信を持って大規模言語モデル（LLM）ベースのアプリケーションを本稼働環境に導入し、健全性、コスト、正確性をリアルタイムでトラブルシューティングできるよう支援する、生成AIオブザーバビリティの広範な機能セットを発表しました。

これらの機能には、以下のようなエンドツーエンドのAIスタックの統合が含まれます。

• AIインフラストラクチャーとコンピューティング：NVIDIA、CoreWeave、AWS、Azure、Google Cloud
• 埋め込みとデータ管理：Weaviate、Pinecone、Airbyte
• モデルサービングとデプロイメント：Torchserve、VertexAI、Amazon Sagemaker
• モデルレイヤー：OpenAI、Azure OpenAI
• オーケストレーションフレームワーク：LangChain

さらにDatadogは、LLM Observabilityの統合ソリューションもベータ版としてリリースしました。LLM Observabilityは、アプリケーション、モデル、およびさまざまな連携機能からデータを収集し、組み合わせることで、エンジニアがモデルコストの急増、パフォーマンスの低下、ドリフト、ハルシネーションなどのアプリケーションの問題を迅速に検出して解決するのを支援し、エンドユーザー体験をさらに向上します。

LLM Observabilityには以下の機能が含まれます。

• モデルカタログ：モデルの使用状況、コスト、APIパフォーマンスを監視しアラートを出します。
• モデルパフォーマンス：プロンプトとレスポンスの長さ、APIレイテンシー、トークン数など、すぐに提供されるさまざまなデータの特性に基づいて、モデルのパフォーマンスの問題を特定します。
• モデルドリフト：プロンプトとレスポンスをクラスタに分類し、時間の経過に伴うパフォーマンスの追跡とドリフトの検出が可能になります。

Datadogの製品担当バイスプレジデントであるYrieix Garnierは次のように述べています。「特に技術スタックの近代化が進む中では、チームがAIモデルに投資している時間とリソースを測定することが欠かせません。これらの最新のLLM監視機能とAIスタックの統合は、組織がLLMベースのアプリケーションと機能を監視し改善するのに役立つとともに、コスト効率も向上させることができます。」

DatadogのAI/LLM統合機能は一般提供を開始しました。詳細については、https://www.datadoghq.com/blog/ai-integrationsをご覧ください。

DatadogのLLM Observabilityは、現在ベータ版をご利用いただけます。詳細については、https://www.datadoghq.com/blog/dash-2023-new-feature-roundup/をご覧ください。

Datadogについて
Datadogは、クラウドアプリケーション向けのオブザーバビリティおよびセキュリティプラットフォームを提供しています。Datadogの SaaSプラットフォームは、インフラストラクチャーのモニタリング、アプリケーションパフォーマンスモニタリング、ログ管理、リアルユーザーモニタリング、その他多くの機能を統合および自動化し、お客様のテクノロジースタック全体に統合されたリアルタイムのオブザーバビリティとセキュリティを提供します。Datadogは、あらゆる規模の企業、幅広い業界で使用され、デジタルトランスフォーメーションとクラウド移行を可能にし、開発、運用、セキュリティ、ビジネスチーム間のコラボレーションを促進し、アプリケーションの市場投入までの時間と問題解決までの時間を短縮し、ユーザーの行動を理解し、主要なビジネス指標をトラッキングします。

将来の見通しに関する記述
本プレスリリースには、新製品および新機能の利点に関する記述を含め、米国1933年証券法（Securities Act of 1933）第27A条および米国1934年証券取引所法（Securities Exchange Act of 1934）第21E条に規定される「将来予想に関する記述」が含まれています。これらの将来予想に関する記述は、当社の製品および機能の強化、またそれらによってもたらされる利益に関する記述が含まれますが、これらに限定するものではありません。実際の結果は、将来見通しに関する記述とは大きく異なる可能性があり、「リスクファクター」の見出しの下に詳述されているリスクをはじめ、2023年5月5日に米国証券取引委員会に提出したForm 10-Qの四半期報告書を含む米国証券取引委員会への提出書類および報告書、ならびに当社による今後の提出書類および報告書に記載されている、当社が制御できない様々な仮定、不確実性、リスクおよび要因の影響を受けます。法律で義務付けられている場合を除き、当社は、新しい情報、将来の事象、期待の変化などに応じて、本リリースに含まれる将来の見通しに関する記述を更新する義務または責務を負いません。