NVIDIA、全世界の業界に向けて、リアルタイムで AI の活用を可能にするエッジ コンピューティング プラットフォームを投入

大手コンピューター メーカーが NVIDIA EGX プラットフォームを採用し、通信や医療、製造、小売り、運輸などの業界がリアルタイム ストリーミング データにAI を即座に活用できる、エッジ向けGPU サーバーを導入

2019 年 5 月 27 日、台北 -- Computex -- NVIDIAは本日、企業が低レイテンシの AI をエッジで活用して、5 G 対応の基地局や倉庫、小売店、工場などから継続的に送られてくるストリーミング データをリアルタイムで認識および把握し、活用するための高速化されたコンピューティング プラットフォーム、 NVIDIA EGX を発表しました。
 
NVIDIA EGX は、クラウドに送信しなければならないデータの量を低減しながら、保証されたレスポンス時間で、データが生成されるエッジで瞬間的にハイスループットの AI を実施したいという、増え続けている要望に応えるために開発されました。
 
2025 年までに、1,500 億ものマシン センサーと IoT デバイスによってストリーミング データが継続的に送り出されるようになり、処理が必要になります (1)。そのデータ量は、今日、スマートフォンを使用する個人が生み出すデータ量に比べ、桁違いに大きくなるのです。NVIDIA EGX プラットフォームに含まれるようなエッジ サーバーは、世界中にくまなく浸透し、これらのセンサーから送られるデータをリアルタイムで処理するようになるでしょう。
 
NVIDIA のバイスプレジデント兼エンタープライズ / エッジ コンピューティング担当ゼネラル マネージャーのボブ ペティ (Bob Pette) は、次のように述べています。「企業は、エッジにおける、さらにパワフルな演算性能を求めています。顧客および施設との無数のインタラクションから流れ出してくる生データの海に対処し、AI を活用した、迅速な意思決定によって、事業の促進に結びつけたいと考えているのです。NVIDIA EGXのように拡張可能なプラットフォームがあれば、現場もしくはクラウド、あるいはそれら両方に彼らのニーズを満たしてくれるシステムを容易に展開することが可能となります。」

スケーラビリティ
EGXは、数ワットの電力消費で、画像認識などのタスクを 1 秒当たり 5,000 億回の演算(TOPS) で処理が行える NVIDIA Jetson Nano から、10,000 TOPS の演算能力で、リアルタイムの音声認識や他のリアルタイムの AI タスクにも対処できるフルラックの NVIDIA T4 サーバーを含みます。
 
エンタープライズ向け
NVIDIA は、Red Hat と協力することで、エンタープライズ グレードの代表的な Kubernetes コンテナ オーケストレーション プラットフォームである OpenShift と NVIDIA Edge Stack の統合と最適化を図りました。
 
NVIDIA Edge Stackは、NVIDIA のドライバー、CUDA Kubernetes プラグイン、CUDA コンテナ ランタイム、CUDA-XTM ライブラリ、ならびに TensorRTTM、TensorRT 推論サーバーおよび DeepStream といった、コンテナ化された AI フレームワークおよびアプリケーションで構成される最適化されたソフトウェアです。NVIDIA Edge Stack は、認証されたサーバーのために最適化されており、 NVIDIA NGC レジストリよりダウンロードが可能となっています。
 
Red Hat 社最高技術責任者、クリス ライト (Chris Wright) 氏は、次のように述べています。「Red Hat は、ハイブリッド クラウドからエッジまで、あらゆるワークロード、サイズおよび場所で一貫した体験を提供するのを目標としています。Red Hat OpenShift と NVIDIA EGX 対応のプラットフォームを組み合わせることにより、お客様は、一貫性のある、高性能で、コンテナ中心の環境によって、分散したオペレーションをさらに最適化できるようになります。」
 
オンプレミスの「AI Cloud-in-a-Box」
EGX は、フルレンジの NVDIA AI 演算技術を Red Hat 社の OpenShiftと NVIDIA Edge Stack、ならびに Mellanox と Cisco のセキュリティ、ネットワーキング、および保存の技術を一体化させています。これにより、通信、製造、小売、ヘルスケア、輸送といった極めて大規模な業界の企業は、最新鋭でセキュリティが万全のエンタープライズ グレードの AI インフラを迅速に立ち上げることが可能となっています。
 
Mellanox Technologiesの最高技術責任者、マイケル ケーガン（Michael Kagan）氏は、次のように述べています。「Mellanox Smart NICとスイッチは、エッジからハイパースケールのデータ センターまで拡張するデータ アクセスのための理想的な I/O 接続性をもたらします。高い性能、低い遅延、ならびにより高速のネットワーキングという特性を併せ持つことで、NVIDIA EGX などのエッジ プラットフォーム上で次世代の高度な AI ソリューションを加速させるために必要なデータに効率的にアクセスし、これを供給するために欠かせない演算の新しいインフラ層がもたらされます。」
 
Cisco Computing Systems のバイス プレジデント、カウスタブ ダス（Kaustubh Das）氏は、次のように述べています。「Cisco は NVIDIA と協力することで、Cisco の EGX 対応のプラットフォーム、ならびに Cisco の演算、ファブリック、ストレージ、および管理ソフトウェア、それに当社の主導的な Ethernet および IP ベースのネットワーキング技術を最大限に活用しながらお客様にエッジ ツー コアのスタック ソリューションを供給できるものと期待しております。」
 
ハイブリッド クラウドおよびマルチクラウドのIoTを可能に
NVIDIA AI コンピューティングは大規模なクラウドによってもたらされ、構造的に NVIDIA EGX との互換性を備えています。クラウドで開発された AI アプリケーションは NVIDIA EGX 上で動作することができ、その逆も可能です。NVIDIA エッジ スタックは大規模なクラウド IoT サービスに接続でき、お客様は、AWS IoT Greengrass および Microsoft Azure IoT Edge から、サービスのリモート管理が可能となります。
 
Azure IoT Edge 担当ディレクターのサム・ジョージ (Sam George) 氏は、次のように述べています。「Azure IoT Edge により、お客様は、自身の IoT デバイスにクラウド サービスを迅速かつ安全に展開できるようになります。Azure IoT Edge のデバイスが NVIDIA の EGX エッジ プラットフォームに対応し、お客様が、AI のワークロードを対象とした、EGX 互換ハードウェアを展開できるようになるのを楽しみにしています。」
 
広範囲に提供される開発者によるサポート
NVIDIA EGX は、成長を続けるソフトウェア ソリューションのエコシステムのために、エッジでのAIを最適化しています。
 
これらには、AnyVision や DeepVision、IronYun、Malong Technologies といったソフトウェア ベンダーから出されている、大規模な小売りチェーンおよびスマート シティー向けビデオ アナリティクスや、12 Sigma、Infervision、Qunatib、Subtle Medical などから出されている､医療用ソフトウェアも含まれています。
 
世界中の大手コンピューター メーカーやIoTシステム メーカーが採用
EGX サーバーは、ATOS、Cisco、Dell EMC、富士通、Hewlett Packard Enterprise、Inspur、およびLenovoといった、コンピューティング技術を供給しているグローバルな企業より入手いただけます。また、その他大手のサーバー、およびIoTシステムのメーカーであるAbaco、Acer、ADLINK、Advantech、ASRock Rack、ASUS、AverMedia、クラウディアン、Connect Tech、Curtiss-Wright、GIGABYTE、Leetop、MiiVii, 武蔵精密工業、QCT、Sugon、Supermicro、Tyan、WiBase および Wiwynn からもEGXシステムを入手いただけます。
 
 NVIDIA EGX サーバーは、NVIDIA Edge Stack 向けに調整されており、CUDA で高速化されたコンテナ向けにNGC-Readyの認証を受けています。
 
40社を超える企業や組織からの支持
すでに、40社を超える業界大手の企業や組織が採用しています。
 
代表的な一社として、BMW Group Logistics が挙げられます。NVIDIA の EGX エッジ コンピューティングと Isaac ロボティクス プラットフォームを利用することで、AIの能力を物流プロセスのエッジに直接もたらし、より複雑化する物流をリアルタイムの効率性で取り扱うことが可能となっています。
 
EGXを採用したその他の業界リーダー：
 
「Foxconn PC の生産ラインは、検査スピードが障壁となっています。現在、1 つの部品に 4 秒をかけて手動で検査しているからです。当社の目標は、リアルタイムでインテリジェントな意思決定をエッジでできるようにしてくれる、NVIDIA EGX プラットフォームによって PC 生産ラインのスループットを 40% 以上向上することです。当社のモデルは、NVIDIA GPU を活用した、高速のニューラル ネットワークによって 16 のタイプの不良箇所とその場所を同時に発見および分類しており、人間を上回るスループット レートで 98% の精度を実現しています」
－ Foxconn 社 D Group 担当ゼネラル マネージャー、マーク チェン (Mark Chien) 氏
 
「AI は、正確な医療を実現するための基礎であり、クラウドからエッジまで、さらに医療機器そのものへも広く行き渡る必要があります。NVIDIA の EGX により、GE Healthcare は、NVIDIA T4 GPU を当社の医療機器に直接組み込み、MR の画像取得時間の短縮や画像品質の向上、ならびに変動の減少を可能にできます。これらはすべて、患者の転帰を改善するという、当社の目標に結びつくものです。リアルタイムの救命救急の場合では、エッジで AI を活用することが必要となります。そのため、当社では、インテリジェンスな機能を持つ Edison を開発し、NVIDIA との提携を通じて、AI を医療機器と Edison エッジ アプライアンスに実装しました。さらに、ACR AI-LAB と共同で AI のさらなる普及を進めています」
－ GE Healthcare 社 MR アプリケーション担当ゼネラルマネージャー、ジェイソン ポリツィン (Jason Polzin) 氏
  
「 病院では、患者の病状悪化の予測、診療上の意思決定のサポート、ならびにより効率的な運営のために AI を利用することが増えています。ただし、このような AI の利用は、患者データがもとになっています。NVIDIA の EGX AI エッジ コンピューティング プラットフォームにより、病院は AI インフラストラクチャを簡単に構築し、患者ケアの改善とケア提供の費用削減のために欠かせない、患者データの保護やリアルタイムでの AI 利用、数千の AI アプリケーションの利用が実現されるようになります」
－ Partners Healthcare 最高データサイエンス責任者兼 Harvard Medical School 放射線学准教授、キース ドライヤー (Keith Dreyer) 医師
  
「Seagate では、GPU を活用したインテリジェントなエッジ向け画像ソリューションを製造工場に展開して、ハードディスクの読み書きヘッドの品質を検査しています。NVIDIA EGX プラットフォームは、エッジでの推論を劇的に加速させており、当社では、人間のオペレーターがこれまで発見できなかったような、微妙な欠陥を見つけることができるようになっています。当社では、工場のスループットを最大 10 % 向上させ、効率と品質の改善によって ROI を最大で 3 倍にできると考えています」
－ Seagate Technology社上級主席データ科学者、ブルース キング (Bruce King) 氏