Weights & Biasesが新製品W&B Weaveのエンタープライズ版の提供を開始

LLMオブザーバビリティーと評価を通じて、エンタープライズLLMアプリケーションの実運用化を支援

Weights & Biases Japan

2024年12月3日 11時40分

Weights & Biasesプラットフォームの全体像（左にW&B Models、右にW&B Weave）

Weights & Biases Japan株式会社（以下、W&B Japan）は、Weights & Biases Inc.が開発したLLMOpsプラットフォーム「W&B Weave」のエンタープライズ版を日本国内で販売開始いたしました。エンタープライズ版は、LLMアプリケーションの運用に必要な高度なデータセキュリティを実現するため、お客様のニーズに応じて、パブリッククラウド、デディケートクラウド、カスタマーマネージドの三種類の提供環境をご用意しています。なお、クラウド環境においては高水準の信頼性とデータセキュリティを示すSOC2認証を取得しております。また、製品の紹介やサポートについては、販売パートナーとの技術トランスファーを通じて、国内での製品提供体制を確立いたしました。

これに伴い、従来「WandB」として知られていた製品の名称を「W&B Models」に変更いたしました。「W&B Weave」とともに、AIのモデル開発およびアプリケーション開発を一元的にサポートするプラットフォームとして機能します。このプラットフォームは、AI開発に携わるエンジニアや研究者のみならず、AIを活用したアプリケーションの開発やシステム統合を手掛けるソフトウェアエンジニアの作業効率を向上させるためのワークフローを提供します。

関連リンク：

W&B Weave紹介サイト：https://wandb.ai/site/ja/weave/
W&B Weave利用マニュアル：https://weave-docs.wandb.ai/
W&B Weave利用開始方法：https://wandb.me/howtostart-jp

LLM開発におけるオブザーバビリティーの重要性

LLMアプリケーションの開発においては、LLM特有の確率的な挙動や、全体のチェインが持つ複雑さに起因する多くの課題があります。これらの課題を解決するためには、まずシステムの内部状態を外部から可視化し、入出力を正確に補足可能な状態を担保することが重要です。その上で、開発時および運用時のアプリケーション性能を適切に評価する仕組みを構築する必要があります。

このプロセスにより、システムの「ブラックボックス化」を防ぎ、体系的かつ明確な評価基準を確立することが可能となります。これにより、プロトタイプ段階のアプリケーションを反復的に改善し、最終的なデプロイメントへのスムーズな移行を実現する道筋を描くことができます。

LLMオブザーバビリティーの導入によるアプリケーション品質の向上ワークフローの構築

W&BのWeaveは最先端のLLMOps機能をセキュアに提供

W&B Weaveは現在急速に開発が進められておりますが、以下の主要機能を既に安定的に提供しています：

幅広い開発言語のサポート：PythonやTypeScriptをはじめ、多様な開発言語に対応しています。
トレース機能：既存のコードにごくわずかな変更を加えるだけで、アプリケーションの入出力および中間処理ステップを自動的に記録します。このデータは直感的に操作可能なトレースツリーとして保存され、レイテンシやコストなどのメタ情報も併せて記録されます。
評価機能：W&Bが提供する評価メトリクスに加え、ユーザーが定義した独自の自動評価や人間によるフィードバックも利用可能です。これにより、複数システム間の比較レポートを自動生成し、全バージョンとの差分を簡単に分析できます。
アプリケーションバージョン管理：プロンプト、モデル、データセットの保存・バージョン管理をサポートします。さらに、評価機能と組み合わせることで、開発における変更がシステム性能に与える影響を詳細に把握できます。
広範なインテグレーション：OpenAI、Anthropic、Googleなど、多岐にわたるモデルと簡単に連携できるインテグレーションを提供しており、各モデルにUI上のプレイグラウンドからすぐにアクセスすることも可能です。

W&B Weaveは、W&B Modelsと同様に、企業のニーズに応じて以下の3つの提供形態からお選びいただけます：

パブリッククラウド：短期間で利用を開始できるマルチテナントクラウド環境。
ディケートクラウド（推奨）：シングルテナントでのSaaS提供により、パブリッククラウドの利便性とローカル環境のセキュリティを兼ね備えた選択肢。
カスタマーマネージド：お客様が管理するローカル環境へのインストールにも対応。

特に、利便性とセキュリティを両立するディケートクラウドでの導入を強くお勧めしております。

Weights and Biases, Inc. CEO, Lukas Biewaldからのコメント

「私たちは、生成AIアプリケーションをデモ段階から本番適用へと自信を持って進められるよう、Weaveを開発しました。社内向けツールの構築からプロダクショングレードのサービス開発に至るまで、アプリケーションを構成するすべての入出力をトラッキングし、体系的な評価を実現します。これまでにWeights & BiasesはOpenAI、Meta、NVIDIA、Rocheなど、何千に及ぶ企業のLLM開発企業を支援してきましたが、次は皆さんがその一員となるのを楽しみにしています。」

CEO Lukas Biewaldのグローバルアナウンスメント（12月3日）

責任あるAI開発におけるLLMオブザーバビリティの重要性

日本では2024年4月19日に総務省と経済産業省から「AI事業者ガイドライン（第1.0版）」が公表され、AIの安全安心な活用を促進するための統一的な指針が示されました。このガイドラインはAIの開発・提供・利用を担う全ての事業者を対象とし、AI開発者、AI提供者、AI利用者それぞれに求められる要件を明確化しています。また、AIセーフティ・インスティテュート（AISI）からもAI開発者・AI提供者を対象とした「AIセーフティに関する評価観点ガイド（1.0.0版）」が示されています。これらの動きは特に生成AIの高い汎用性と社会に与えうる大きな影響を考慮すると、AI事業者には従来より大きな責任が求められることを反映しています。そして、その責任を果たすためには、運用しているAIについて記録を残し、追跡可能性と説明可能性を担保する必要が出てきます。

ブログ：「AIセーフティーのためのLLMオブザーバビリティとLLMOps」

Weights & Biases Japan株式会社について

Weights & Biases Japan株式会社は、エンタープライズグレードのML実験管理およびエンドツーエンドMLOpsワークフローを包含する開発・運用者向けプラットフォームを販売する日本法人です。WandBは、LLM開発や画像セグメンテーション、創薬など幅広い深層学習ユースケースに対応し、NVIDIA、OpenAI、Toyotaなど、国内外で80万人以上の機械学習開発者に信頼されているAI開発の新たなベストプラクティスです。