パナソニックHDとストックマーク、国内最大規模(1,000億パラメータ)の独自日本語LLM「Panasonic-LLM-100b」開発で協業
パナソニック ホールディングス株式会社(以下、パナソニックHD)とストックマーク株式会社(以下、ストックマーク)は、パナソニックグループ専用大規模言語モデル(Large Language Model、以下、LLM)「Panasonic-LLM-100b」の開発で協業することを発表します。協業を通じて、ストックマークが独自に開発したLLM「Stockmark-LLM-100b」に、パナソニックグループの社内データを追加事前学習させた「Panasonic-LLM-100b」を構築していきます。今回開発するLLMのモデルサイズは1,000億パラメータを想定しており、企業が開発する自社専用のLLMとしては国内最大規模(*1)となる見込みです。
◆取り組み概要
本取り組みでは、ビジネス領域における国内最大規模の知識を学習させ、ハルシネーション(*2)を大幅に抑止したストックマークの独自LLM「Stockmark-LLM-100b」に対し、パナソニックグループが保有する社内情報を追加事前学習させることで、パナソニックグループ専用の日本語LLM「Panasonic-LLM-100b」を構築します。
一般的に国内各社が取り組む自社LLMは、70~130億パラメータの小型モデルを採用することが多くなっていますが、今回の取り組みでは、パナソニックグループの膨大な社内データを学習させた国内最大級の1,000億パラメータ規模のLLM開発を行い、パナソニックHDで開発中のマルチモーダル基盤モデルへの統合を目指します。また、セキュリティ面に配慮し、企業の秘匿データを安全性高く学習する仕組みも構築予定です。
*1 2024年7月2日現在(パナソニックHD調べ)
*2 人工知能が学習したデータからは正当化できないはずの回答を堂々とする現象
全文は以下プレスリリースをご覧ください。
▼[プレスリリース]パナソニックHDとストックマーク、国内最大規模(1,000億パラメータ)の独自日本語LLM「Panasonic-LLM-100b」開発で協業(2024年7月2日)
https://news.panasonic.com/jp/press/jn240702-3
<関連情報>
・パナソニック ホールディングス株式会社について
https://holdings.panasonic/jp/corporate/about.html
・ストックマーク株式会社について
すべての画像