自動運転EV開発のチューリング、日英言語対応のマルチモーダル学習ライブラリ「Heron」と最大700億パラメータの大規模モデル群を公開

〜日本語で対話可能な画像-言語複合モデルを実現〜

Turing

2023年9月7日 17時03分

完全自動運転車両の開発・販売に取り組むTuring株式会社（千葉県柏市、代表取締役：山本一成、以下「チューリング」）は、日本語を含む複数言語対応の大規模マルチモーダル学習ライブラリ「Heron（ヘロン）」と、それにより学習した最大700億パラメータのモデル群を公開したことをお知らせします。
チューリングでは高度な自動運転を実現するため、視覚情報によって得られた情報を、人間のように言語化して高度な文脈を理解できるAIモデルを開発しています。今回公開したマルチモーダルモデルの学習技術と知見を活かし、完全自動運転にむけた開発を進めてまいります。

マルチモーダルについて

近年注目されている大規模言語モデル（LLM）は、大量のテキストデータを学習に用いることで、広範な知識の獲得や人間のような応答が可能になります。大規模言語モデルは、一般的にその入力と出力はテキストに限定されるため、画像など視覚情報を用いたタスクには直接適用できないという課題があります。

例えば、「洗面台に横たわる猫」の写真に対し、「この画像の面白い点は何ですか？」という質問に答えるためには、画像と言語の双方を入力情報として扱えなければなりません。このように、入力の形態（モーダル）が複数あることを「マルチモーダル」と呼びます。

マルチモーダルモデルの構造と応答例

今回公開したマルチモーダルモデルは、画像認識用に事前学習された「画像エンコーダ」部分と「大規模言語モデル」部分、およびその間をつなぐ「アダプタ」部分から構成されます。橋渡しするアダプタ部分を学習した後、画像エンコーダおよび大規模言語モデルも追加学習することで、全体として画像に何が写っているかを正確に把握しつつ、豊富な言語モデルの知識を利用して回答することが可能になります。

マルチモーダル学習ライブラリ「Heron」について

チューリングが開発したマルチモーダル学習ライブラリ「Heron」（読み: ヘロン、アオサギの英名）は、画像認識モデルと大規模言語モデルを接続し、各モジュールを追加学習するための学習コード、日本語を含むデータセット、および学習済みのモデル群から構成されます。

Heronのモデル学習の最大の特長は、対話を含むデータセットを用いることにより、自然かつ適切な対話が可能となっている点です。これまでのマルチモーダルモデルでは単純な回答しかできなかった複合的な画像-言語タスクにおいて、より詳細で自然な文章生成が可能となり、前の質問を含む文脈を理解して応答することができます。

公開した日本語マルチモーダルモデルの応答例

学習用ライブラリは、学習する大規模言語モデルを自由に変換可能であり、既存の言語モデルの性能を活かしつつ、今後開発・公開される新たな大規模言語モデルに対しても容易に対応できる柔軟性を有しています。本格的にマルチモーダルモデルを学習するために系統的に学習できるように工夫されており、ソースコード部分については研究・商用利用が可能なApache License 2.0で公開しました。

今回公開した学習済みのマルチモーダルモデル群は、Llama 2-chat、ELYZA-Llama 2、 Japanese StableLMなどをベースにHeronで追加学習を行い、マルチモーダル化させたものです。

こちらの学習したモデルをWebブラウザ上で試すことができるデモページもあわせて公開しました。

https://huggingface.co/spaces/turing-motors/heron_chat_blip

さらに、注釈テキストやQ&Aからなる約15万枚の画像/テキストの英文データセットに対し、独自に日本語に翻訳した大規模な日本語の画像/テキスト情報のデータセットを作成・公開しました。このような対話形式のマルチモーダル学習向けの大規模な日本語データセットの公開は、世界で初めてとなります。

【学習用ライブラリの公開URL】

https://github.com/turingmotors/heron

【マルチモーダルモデル群の公開URL】

https://huggingface.co/turing-motors

【学習用データセットの公開URL】

https://huggingface.co/datasets/turing-motors/LLaVA-Instruct-150K-JA

LLMと完全自動運転の関係性

近年、AI技術の進化に伴い、大規模言語モデル（LLM）が注目を集めています。LLMは、大量のテキストデータから学習し、人間のような自然な文章を生成したり、質問に答えたりすることができるAIモデルです。チューリングは、完全自動運転の実現には人間と同等以上にこの世界を理解した自動運転AIが必要であると考え、言語を通じて極めて高いレベルでこの世界を認知・理解している、LLMを含むマルチモーダルモデルの開発を進めています。

＜参考リリース＞

https://prtimes.jp/main/html/rd/p/000000024.000098132.html

https://prtimes.jp/main/html/rd/p/000000032.000098132.html

チューリングについて

チューリングは、「We Overtake Tesla」をミッションにかかげ、完全⾃動運転EVの量産を⽬指すスタートアップです。世界で初めて名人を倒した将棋AI「Ponanza」の開発者である⼭本⼀成と、カーネギーメロン⼤学で自動運転を研究し、Ph.D.を取得した⻘⽊俊介によって2021年に共同創業され、AI深層学習技術を⽤いた限定領域に留まらない「完全自動運転」の実現を目指しています。