オープンソースソフトウェアスタック「Blueoil」に新ハードウェアアクセラレータの設計を6月下旬リリース。6月28日実施の社外向け講習にも採用

放熱用ファン不要のFPGA上で、高速・低消費電力なディープラーニングモデルの実装を可能に

ディープラーニング技術を活用する企業に向けたソリューションを提供するLeapMind株式会社（所在地：東京都渋谷区、代表取締役CEO：松田 総一、読み方：リープマインド、以下LeapMind）は、当社がオープンソース化したソフトウェアスタック「Blueoil（読み方：ブルーオイル）」に対して、低消費電力なSoC FPGA上に実装可能な新たなハードウェア設計をv0.8.0として6月下旬にリリースすることを決定いたしました。本リリースにより、ディープラーニングモデルの推論速度の向上が実現し、より多くの場面で低消費電力なFPGAのディープラーニング推論をご活用いただけます。また、6月28日開催予定の「エッジディープラーニングトレーニング（https://training.leapmind.io/）」において、本リリースが反映された最新の「Blueoil」および、新しいハードウェアアクセラレータをご体感いただけます。

■ 背景

現在、人工知能(AI)の要素技術であるディープラーニングの可能性に関心が寄せられていますが、その処理にはクラウドや消費電力の大きなプロセッサをはじめとする多大なコンピューティングリソースが必要となります。一方、人々の生活でディープラーニングを活用するためには、電力やスペースなどが限られた環境でも、高い応答性をもつディープラーニングを必要とし、その構築には非常に高い技術が不可欠です。LeapMindでは、ニューラルネットワークモデルの改善や独自のアルゴリズム研究をソフトウェアとハードウェアの両領域から行うことで、低消費電力なFPGAなどの電力が限られた小さなコンピューティング環境でもエッジ側でディープラーニングが稼働する「エッジディープラーニング技術」を実現しました。この独自技術によって実現するディープラーニングには、ターゲットデバイスをGPUとする場合や、クラウドを介したコンピューティングを行う場合と比較して、省スペース、低消費電力、インターネットが不要、リアルタイムでの処理が可能な高い応答性を有するなどのメリットがあります。

従来この「エッジディープラーニング技術」を用いるには、浮動小数点演算器や可変精度デジタル信号処理(DSP)ブロックを使用せず実装できるよう、計算要素の量子化が求められます。特に効果の高い8ビット未満の量子化を行うには特殊な学習手法(Quantization-aware training)を用いる必要がありますが、この学習環境と専用ニューラルネットワークの構築には一定の専門的な知識が必要です。LeapMindでは、この環境を広く簡単にお使いいただくため、これまでの研究成果である「Blueoil」を2018年10月にオープンソースソフトウェアスタックとして公開いたしました。その後も継続的にこのプロジェクトに対してコードを寄贈、9回のリリースを行いプロジェクトの発展に貢献しています。

当初より「Blueoil」には、推論処理をFPGAによって高速化するためのアクセラレータ回路がソースコードの形式で含まれていますが、このたび、LeapMindではこの処理をさらに高速化する回路を新規に設計し、6月下旬に「Blueoil」のv0.8.0としてリリースすることを決定いたしました。(※)

「Blueoil」は今後も性能向上や対応するデバイスの拡充を進める予定です。LeapMindは、本ソフトウェアスタックをより多くのサービスや業務改善、学術分野で活用いただくことで、当分野の更なる発展に寄与することを引き続き目指してまいります。　※本リリースの公開アナウンスはBlueoil Slack（http://urx.blue/v1Wj）にて行います。

■ ベンチマークテスト結果
新規設計した回路は、Cyclone® V SoCを搭載したTerasic社製DE10-Nanoボード(※)上にてLeapMind社の物体検出処理デモを約25~30fpsの速度で実行します。また、物体検出処理の畳み込みニューラルネットワーク(CNN)処理部は約40fpsの処理性能を有しています。本リリースの以下アップデートにより、処理時間の短縮による応答性の向上と計算量の多い複雑なモデルの搭載による推論速度の向上が実現し、より多くの場面で低消費電力なFPGAのディープラーニング推論をご活用いただけます。

• 動作周波数の引き上げ
• 新たな設計で獲得した高いCNN処理性能

ベンチマーク	Arm Cortex-A9 (CPU) 2018年9月	FPGA (DE10-Nano) 2018年9月	FPGA (DE10-Nano) 2019年6月
動作周波数 [MHz]	800	66	100
速度(デモ) [fps]	2.3	10.5	25~30
速度(CNN処理部) [fps]	-	-	40

今回のベンチマークテストに用いたFPGAを搭載したDE10-Nanoは、とりわけ消費電力が小さいことが特長です。そのため、FPGAの表面に取り付ける放熱用ファンが不要です。

※Terasic社「DE10-Nano」http://www.terasic.com.tw/cgi-bin/page/archive.pl?Language=English&No=1046

■ オープンソースソフトウェアスタック「Blueoil」について
「Blueoil」は2018年10月にオープンソース化された、低消費電力FPGAやASIC上でディープラーニングを実現するソフトウェアスタックです。量子化および独自のネットワークのための特別な学習手法が含まれているため、ユーザーは学習データを用意するだけで低消費電力FPGA上で動作する特殊なニューラルネットワークを簡単に生成できます。https://blueoil.org

■ 最新の「Blueoil」を使用した「エッジディープラーニングトレーニング」
LeapMindは、エッジデバイスの高度化に関する知見を広めることで組み込みアプリケーション領域における日本の競争力確保を支援することを目的に社外向け講習「エッジディープラーニングトレーニング」を実施しています。次回、6月28日に開催予定の第5回目のトレーニングでは、最新の「Blueoil」および新しいハードウェアアクセラレータを用います。実際の性能を体感頂ける機会となりますので、ぜひご参加ください。https://training.leapmind.io

■ LeapMind株式会社について2012年に創業。ディープラーニングをコンパクト化することで、あらゆるモノに適用することを目指しています。

• 本社：〒150-0044 東京都渋谷区円山町28-1 渋谷道玄坂スカイビル 5F
• 代表者：代表取締役CEO 松田 総一
• URL：https://leapmind.io
• Blueoil公式サイトURL：https://blueoil.org