【東大発AIベンチャー】深層学習モデルの量子化により、データ処理速度を最大5倍にすることに成功

〜深層学習モデルの軽量化の実現により「エッジAI」の実用化に貢献する〜

最先端のAI・ロボティクスの技術を活用したソリューション提供を行うTRUST SMITH株式会社(本社：東京都文京区、代表： 大澤 琢真)は、 深層学習モデルの量子化により、データ処理速度を最大5倍にすることに成功した。本技術により、これまで膨大な処理が難しいとされたエッジAIで、深層学習モデルの実装を可能する。

• 開発の背景

昨今のディープラーニング(深層学習)の技術革新は、人工知能(AI)の急速な発展を支えるととともに、その進歩により自動運転、音声認識、画像処理など様々な分野への実用化を推進してきた。

しかし、それらの最先端の深層学習モデルの多くは、人間の神経細胞の仕組みを模したニューラルネットワークを多層に用いるというモデル構造の特性上、その処理に膨大な計算量を要することが知られている。

そのため、電力、ストレージ、メモリ、プロセッサ速度などあらゆる計算リソースに制約がかかるモバイルデバイスやIoTデバイス等では、ディープラーニングの技術を使用することが難しいとされてきた。このようなデバイス側の制限は、IoT分野での深層学習技術の発展の大きな障害の一つとなっていると言える。
 

• 本技術について

TRUST SMITH株式会社は、最新の量子化技術を活用することで、深層学習モデルの精度を維持しながら、モデルの軽量化を行うことに成功した。

従来、深層学習では、学習させたモデルをそのまま推論モデルとして利用しており、積和演算の多さ対応するため、推論を実行するのにGPU等の強力な演算装置が必要不可欠だった。

今回の量子化技術により、これまで一般的だった32bitの浮動小数点数で数値を取り扱っていた演算手法に対し、最低2bitまで演算に必要なbit数の削減を実現した。

同社が開発した量子化技術を適用すれば、あらゆる深層学習モデルに対してそのデータ処理速度を最大5倍まで向上させることができる。

また同技術は、組み込み分野での応用を見据え、Pythonで量子化したモデルをC言語で実行するための独自のライブラリとして開発している。

今後は、あらゆる深層学習モデルへの利用範囲の拡大や、AIアクセラレーターへの対応を進めることで、応用範囲の拡大やより高度な実用化に努めていく方針だ。

将来的には、モデルの量子化作業を自体を自動化したり、ユーザー自身がモデルを量子化できるような仕組みの構築を目指す。
 

• 今後の展望

本技術により、今までエッジAIでは扱えなかった大規模なモデルが、低スペックのマシンで動作するようになる。省電力が求められるドローンの画像処理やリアルタイム性が求められる工場機器への応用など、あらゆる場面での実用化が期待される。

同社は、これまで数多くの製造業や物流業の企業様と、ファクトリーオートメーションや自動倉庫の実現に向け、あらゆる技術開発に着手してきた。

今後は、本技術を工場や物流施設におけるのあらゆるカメラやセンサーに搭載し、より高次元な工場のスマート化・IoT化に取り組んでいく。


■TRUST SMITHについて

TRUST SMITH株式会社は、AI・数理アルゴリズム・ロボティクス分野の最先端のテクノロジーを活用してイノベーションを創造する、東京大学発のベンチャー企業です。
ハード・ソフト問わず、様々な技術領域において自社製品の研究開発に取り組むとともに、オーダーメイドで企業様の課題に合わせたソリューションの提供や研究のご支援を行っています。

■TRUST SMITH 会社概要
社名：TRUST SMITH株式会社
所在地：東京都文京区本郷4丁目1-1 菊花ビル7F
代表：大澤 琢真
事業内容：数理・物理アルゴリズム(AI)の開発
設立日：2019年1月18日
会社HP：https://www.trustsmith.net/
連絡先メールアドレス：[e-mail]


■SMITH&FACTORYについて

最先端のAI・ロボティクスの技術を活用したソリューション提供を行うTRUST SMITHグループ傘下の企業として、製造業・運送業の企業様へ、工場・倉庫の完全自動化へのご支援をしています。スマートファクトリーの実現により、企業様の抱える労働力不足の解消と人件費削減に貢献致します。

■SMITH＆FACTORY 株式会社 会社概要
社名：SMITH ＆ FACTORY株式会社
所在地：東京都文京区本郷4丁目1-1 菊花ビル7F
代表：大澤 琢真
事業内容：無人工場設立コンサルティング
設立日：2020年8月3日
会社HP：https://www.smithfactory.net/
連絡先メールアドレス：[e-mail]