開発費30万円のLLM、『AWS Summit Japan2024』のブース出展およびCPOの登壇決定

国産モデルで最高性能「KARAKURI LM」の開発秘話、今後の展望を講演

カスタマーサポートDXを推進するカラクリ株式会社（東京都中央区：代表取締役CEO 小田志門、以下カラクリ）は、2024年6月20日（木）、21日（金）に開催される日本最大のAWSを学ぶイベント「AWS Summit Japan」において、ブース出展および CPO中山の登壇が決定いたしました。カラクリはアマゾン ウェブ サービス ジャパン合同会社（以下、AWSジャパン）の「AWS LLM 開発支援プログラム」を活用し、2024年1月に国産オープンモデルで最高性能※1 を獲得した700億パラメータLLM「karakuri-lm-70b-v0.1」を、同年5月に世界で初めて※2 AWS TrainiumでMoEモデルの学習に成功した「KARAKURI LM 8x7B Chat v0.1」を一般公開しております。本イベントでは両モデルのデモンストレーションやミニセッションにおいて開発秘話や今後の展望についてお話する予定です。

※1．700億パラメータLLM「karakuri-lm-70b-v0.1（https://huggingface.co/karakuri-ai/karakuri-lm-70b-v0.1）」は、2024年1月18日にLLMのベンチマークテスト「Japanese MT-Bench」で性能評価を実施し、国産LLMモデルとして最高性能の評価が採点されました。「KARAKURI LM 8x7B Chat v0.1（https://huggingface.co/karakuri-ai/karakuri-lm-8x7b-chat-v0.1）」も、同様のテストで2024年5月7日に、LLMのベンチマークテスト「Japanese MT-Bench」で性能評価を実施し、オープンな国産オープンモデルとして最高点の評価を得て国産LLMとして最高性能の評価が採点されました。

※2．カラクリ社調べ（2024年5月時点・オープンソースおよびインターネットで情報公開されているLLMとして）

• KARAKURI LMについて

「KARAKURI LM」は、カラクリが開発する大規模言語（LLM)シリーズの総称です。両モデルともに、国産オープンモデルの中で最高性能を獲得した大規模言語モデルです。学習に使うデータさえ質が高ければ、中小企業でもベンチャーでも独自のデータセットをもとに国際的競争力を持つAIモデルを開発可能だということを証明するため、さまざまなシリーズ開発に着手しています。

詳細はこちら：https://ad.karakuri.ai/karakuri-lm

• ブース出展およびミニセッションについて

AWS Summit Japanとは

毎年延べ30,000人が参加する、日本最大のAWSを学ぶイベント。AWS Summitは、クラウドコンピューティングコミュニティが一堂に会して、アマゾン ウェブ サービス（AWS） に関して学習し、ベストプラクティスの共有や情報交換ができる、クラウドでイノベーションを起こすことに興味がある全ての皆様のためのイベントです。

開催概要

・総称 ： AWS Summit Japan

・開催日時 ： 2024年6月20日（木）10:00～18:30、21日（金）10:00～17:00　

・会場：幕張メッセ & ライブ配信

・主催：アマゾン ウェブ サービス ジャパン合同会社

・URL ：https://aws.amazon.com/jp/summits/japan/

・参加費用：無料

• ブース出展エリア：AWS Village　‐生成 AI, AWS for Data & AWS for Every Application Zone‐

AWS Village は、AWS のサービスやインダストリーソリューションを扱う 90 以上のAWS 展示と、50 以上のお客様事例展示が一堂に会した展示エリアです。生成 AI など、テーマごとに4つのエリアに分かれており、カラクリは生成 AI、データ活用、これらを支えるインフラストラクチャをテーマとした「生成 AI, AWS for Data & AWS for Every Application Zone」エリアにブース出展しております。

EC-130

カラクリ株式会社

カラクリはカスタマーサポートに特化したAI SaaSを提供する会社です。今回の展示では AWS LLM 開発支援プログラムで構築した LLM「KARAKURI LM」や生成AIを組み込んだサービス群についてご紹介します。

• CPO中山の登壇概要

・日時：6月20日 （金）13:50～14:05

・会場：AWS Village　‐生成 AI, AWS for Data & AWS for Every Application Zone‐ ミニステージ

・登壇者：カラクリ株式会社 CPO取締役　中山智文

KARAKURI LM: 独自LLMの開発とその現実

概要: 2023年、カラクリはAWS LLM開発支援プログラムに採択され、LLMの開発を行ってきました。2024年1月と5月にAWS Trainiumを用いて学習したKARAKURI LM 70Bと8x7Bモデルをリリース。それぞれリリース時のベンチマークでは国産オープンモデルの中でトップの評価を得ました。特にMoE型である8x7BモデルのTrainiumでの学習は世界初であり、わずか30万円で独自LLMの開発を実現しています。今回の講演ではこの開発の裏側と現実についてお話しします。

•  会社概要

カラクリは「カスタマーサポートをエンパワーメントする」をブランドパーパスに掲げ、大規模言語モデル（LLM）のカスタマーサポートへの実用化を目指した事業を展開しています。2018年よりTransformerを用いた言語モデルBERTを、2022年からはGPTを含めた大規模言語モデルの研究を実施。主力ビジネスである高精度AIチャットボット「KARAKURI chatbot」は、高島屋、SBI証券、セブン-イレブン・ジャパン、SmartHRなど各業界のトップランナーに選ばれつづけています。2018年のICCサミット「スタートアップ・カタパルト」に入賞、2020年には「Google for Startups Accelerator」に採択されました。

住所　　　：　〒104-0045　東京都中央区築地2-7-3 Camel 築地 II 

設立　　　：　2016年10月3日

代表者　　：　代表取締役CEO　小田 志門

事業内容　：　カスタマーサポート特化型AI「KARAKURI」シリーズの開発・提供・運営など

URL　　　：　https://about.karakuri.ai/