NVIDIA®エッジAIプラットフォームを活用したオープンソースLLMの強化

～エッジにおけるLLMの駆動～

　アドバンテック株式会社（東京都台東区、代表取締役社長 吉永和良）の本社 Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、NVIDIA®エッジAIプラットフォームを用いたオープンソースLLMの強化を発表します。

▶ Advantech Co., Ltd – 発表資料 

プレスリリース：英文

※以下、本プレスリリースの翻訳となります。

---

　NVIDIA®エッジAIプラットフォームを活用したオープンソースLLMの強化

　2025年3月19日 - Advantech Co., Ltd (台湾、TWSE: 2395、以下 アドバンテック)は、最新のNVIDIA®エッジAIコンピュータプラットフォームを活用し、オープンソースの大規模言語モデル（LLM）の導入に新たな進化をもたらします。DeepSeekやLlamaなどのオープンLLMに対応し、NVIDIA®のフルスタックコンピューティングプラットフォームやTensorRT-LLMの最適化、Jetson™プラットフォームを用いて、エッジで高速かつ迅速なAI推論を実現しています。

オープンソースLLM導入のための包括的なエッジAIシステム

　アドバンテックは、軽量な推論から大規模なAIモデルのトレーニングまで、さまざまなLLM導入ニーズに対応するスケーラブルなNVIDIA®エッジAIプラットフォームを提供しています。デバイス上のチャットボット、特定の領域に特化したAI、大規模なLLMのライフサイクル管理等、規模を問わず、アドバンテックのエッジAIソリューションは、異なるAIワークロードにおいて最適なパフォーマンス、効率性、スケーラビリティを実現します。

LlamaとDeepSeek向けに高性能なLLM推論を提供

　アドバンテックのNVIDIA®エッジAIコンピューティングプラットフォームは、LlamaやDeepSeekを含むオープンソースLLM向けにスケーラブルで高速な推論を提供し、コンパクトなエッジデバイスから強力なAIサーバまで、効率的なAI処理を実現します。

アドバンテックのエッジAIシステムにおけるLLMパフォーマンス概要

MIC-711-OX (NVIDIA® Jetson Orin™ NX 16GB) – 軽量AI推論システム（100 TOPS）

特長：リアルタイムエッジ処理向けの低消費電力・コンパクトなAI推論

対象アプリケーション:

　● AI搭載スマートデバイス（IoTアシスタント、AIロボット）

　● 顧客対応向けエッジAI（小売キオスク、音声応答自動化システム）

　● 産業向けAI監視（予知保全、品質管理）

　● モバイルおよびオフライン使用向け軽量AIアシスタント

MIC-770V3 + MIC-75M20 (Intel® Core™ i7-12700E + NVIDIA RTX™ 4000 SFF Ada Generation) – 最適化されたLLM推論プラットフォーム（300 TOPS）

特長：高速で効率的なLLM推論を実現する強化された計算能力

対象アプリケーション:

　● 企業向けAIアシスタント（AIを用いたメールおよびドキュメント要約）

　● AIによる顧客サポート（チャットボット、音声AI）

　● コーディングおよび生産性向上ツールに対応したオンデバイスAI

　● サイバーセキュリティおよび不正検出AI

SKY-602E3 (AMD EPYC™ 8534P+ 2x NVIDIA RTX™ 4500 Ada Generation) – 特定分野向けAIトレーニング（1000+ TOPS）

特長：

　● Llamaモデルの調整やドメイン適応に対応

　● 特定業界向けのカスタムLLMを提供

対象アプリケーション:

　● 財務・法務向けAIモデル（カスタム法的文書分析、リスク評価）

　● ヘルスケアAIアシスタント（診断サポート、患者データ分析）

　● AIを活用した情報管理（企業向けAI検索、エンタープライズチャットボット）

　● AIベースのソフトウェア開発アシスタント（コード生成、バグ検出）

　アドバンテックのエッジAIプラットフォームは、NVIDIA推論加速技術、最適なメモリ割り当て、電力効率の良いコンピューティングにより、さまざまな業界で高速かつスケーラブルなLLM推論を提供します。 

エッジAIの未来を切り開く 

　アドバンテックのフルスタックエッジAIコンピューティングプラットフォームは、NVIDIA® Jetson™とデータセンターGPUを活用し、リアルタイムかつ迅速な処理でAIネイティブアプリケーションを提供します。さらに、NVIDIA®の技術により、エッジAIの加速とオープンソースLLM導入の限界を広げ、業界におけるAIを活用した変革を支援します。詳細については、Advantechのウェブサイトまたは営業担当者にお問い合わせください。

---

※ 本リリースに記載されている会社名、サービス名、商品名は、各社の登録商標または商標です。

※ 本商品の仕様は予告なく変更になる場合がございます。予めご了承ください。

【会社概要 ： アドバンテック株式会社】

　1983年台湾にて、アドバンテック(研華股份有限公司)を創設。40年以上にわたり産業向けに高品質・高性能のパソコンを開発して参りました。2024年現在、3,000を超える様々なIoT機器をラインナップ。世界26か国95都市にて拠点を構えた産業用パソコン市場の世界シェアNo.1※メーカーとして、「Enable an Intelligent Planet」のビジョンを掲げ、AI × IoTプラットホームサービスを通じ社会課題を解決することで豊かな未来を育むことを目指しています。

※出典元：OMDIA - 産業用PCの市場の世界シェア1位。42.5% (2023年版)

　日本においては、1997年に「アドバンテック株式会社」を設立。2018年にオムロン直方株式会社と資本業務提携をし、さらなる販売拡充とともに、市場のご要望に迅速にお応えできるよう設計から生産までを請け負う（DMS/ODM）サービスも展開しています。台湾のスピードとこれまで培ってきた技術力を融合させることで、パートナー様と一緒にエコシステムの共創活動に取り組んでいます。 

会社サイト：https://www.advantech.co.jp/

紹介動画 ：公式Youtube「Advantech Connect -Japan-」