Weights & BiasesがLLMの開発手法にフォーカスしたホワイトペーパーの第2弾をリリース
W&B Fully Connected 2023カンファレンスとAI Expo2023秋にて配布予定
「LLMファインチューニングとプロンプトエンジニアリングのベストプラクティス」概要と目次：
LLMは汎用的な性質を持っているため、チューニングを行わずに領域固有のタスクに使用することもできますが、特定の領域で高い精度のアウトプットを得るためには、通常ファインチューニングを行うか、汎用LLMを下流のタスクに適応さ せるためのプロンプトエンジニアリングを行う必要があります。このホワイトペーパーでは、LLMを使って特定のユースケースに最適なアプローチを選択する上で、ファインチューニングとプロンプトエンジニアリング両トピックについて、最新の手法の概要とその比較に基づき、それぞれの手法の最も適した応用方法を考察しています。ファインチューニングとプロンプトエンジニアリングの概要から、適切なタスクや導入シチュエーションまで掘り下げていきます。
＜本ホワイトペーパーでカバーする内容＞
・ファインチューニング、PEFT、インストラクションチューニング、インコンテクストラーニングなど、代表的手法の概要
・LLMファインチューニングの代表的手法の概要とその比較
・LLMプロンプトエンジニアリングの代表的手法の概要とその比較
・各手法の具体例、メリット・デメリットの比較、各手法の適用機会
本ホワイトペーパーの入手先
本ホワイトペーパーのダウンロード版PDFはこちらのURLから入手できます：https://wandb.me/llm-finetune
また、印刷済み冊子を10月11日開催されるWandBのユーザーカンファレンス（https://fullyconnected.jp/）および10月24日から26日にかけて開催される秋のAI Expo 2023にて配布予定です。
Weights & Biasesの生成AI/LLMにおける取り組み
Weights & Biasesは、ML開発プロセスを可視化・管理・検証するための実験管理・MLOpsを提供するプラットフォームであるWandBにおいて、LLM開発を支援するPrompts機能やデプロイ後のモデルモニタリング機能をLangChainやLlamaIndexなどの主要なLLMアプリケーション開発フレームワークとのインテグレーションとともに提供しています。またこれまでにもLLMホワイトペーパー第1弾「LLMをゼロからトレーニングするためのベストプラクティス」（https://wandb.me/llm-jpdl）の公開などを通じ、速い速度で拡大しているLLMランドスケープに貢献しています。
日本においては、LLMモデルの日本語性能を評価する「Nejumi LLMリーダーボード」（http://nejumi.ai）も運営し、主要なLLMモデルをJGLUEデータセットを使って順次評価し、結果を公開しています。これまでに評価されたLLMモデルの数は25を超え、国内で最大級のLLM評価リーダーボードに成長しています。本リーダーボードはWandBプラットフォームの機能群をもとに構築されており、LLM開発をリードする先進企業において、既に幅広く応用されています。
国内初のユーザーカンファレンス開催
W&B Japanは10月11日に国内初のユーザーカンファレンス、Fully Connected 2023を開催します。生成AI・LLM・クリエイティビティ・自動運転・ヘルスケア、AIの活用分野として注目を集める各分野を代表するMLエンジニアと研究者たちが、ML開発から実世界のAIアプリケーションを生み出すために、どのような工夫をしているのか。WandBを愛用する登壇者たちから、普段は聞く機会のないML開発・運用のベストプラクティスを学べる貴重なイベントです。Weights & Biasesからは創業時から在籍するプロダクトマネージャーのCarey Phelpsが来日し、
WandBの最新機能と今後のプロダクト・ロードマップを発表します
イベントウェブサイト：https://fullyconnected.jp/
＜Fully Connected 2023 Tokyoタイムテーブル＞
1:30PM 開場
2:00PM 「オープニング」（Weights & Biases シバタ アキラ）
2:05PM 「CyberAgentにおける日本語LLMの開発について」（CyberAgent 石上 亮介様）
2:25PM 「日本経済新聞社におけるWandBの活用例」（株式会社日本経済新聞社 青田 雅輝様）
2:45PM 「Turingにおける自動運転モデルの開発とW&Bの活用」（Turing株式会社 井ノ上 雄一様）
3:10PM 「世界の先端AI企業におけるML開発手法と、Weights & Biasesプロダクトロードマップ」（Weights & Biases Carey Phelps）
3:35PM 「リソースを最適化してAIを加速せよ」（Run:ai Nir Lubliner様）
4:05PM 「Woven By Toyota: より安全な移動のためのML技術の開発」（Woven By Toyota Evan Cushing様）
4:35PM 「Dagster, Weights and Biases」（SyntheticGestalt 神谷 幸太郎様）
4:55PM 「AI DJパフォーマンスを通して考える、創造性とAIの未来」（Qosmo 徳井 直生様）
5:20PM 「LLMおよび言語処理研究でのWandB利用例の紹介」（東北大学 鈴木 潤様）
5:40PM 「LLMの開発は難しい？簡単？Stability AIの現場から」（Stability AI 秋葉 拓哉様）
Weights & Biases Japan株式会社について
Weights & Biases Japan株式会社は、エンタープライズグレードのML実験管理およびエンドツーエンドMLOpsワークフローを包含する開発・運用者向けプラットフォームを販売する日本法人です。WandBは、LLM開発や画像セグメンテーション、創薬など幅広い深層学習ユースケースに対応し、NVIDIA、OpenAI、Toyotaなど、国内外で50万人以上の機械学習開発者に信頼されているAI開発の新たなベストプラクティスです。
Weighs & Biases Japan株式会社は、2023年4月に日本ディープラーニング協会に正会員として入会しました。
URL：https://wandb.jp
このプレスリリースには、メディア関係者向けの情報があります
メディアユーザー登録を行うと、企業担当者の連絡先や、イベント・記者会見の情報など様々な特記情報を閲覧できます。※内容はプレスリリースにより異なります。
すべての画像