iWaveのVersal AIエッジボード上のVitis AI NPUでエッジAI推論を高速化

エッジ人工知能（AI）は、組み込みシステムがリアルタイムデータを処理し、そのデータに対応する方法を急速に変化させています。エッジにおけるインテリジェンスへの高まる需要に応えるため、iWave Globalは、Vitis AI NPU（ニューラルプロセッシングユニット）をVersal™ AIエッジVE2302システムオンモジュール（SoM）とその評価プラットフォームに統合することに成功しました。

この統合は、高性能で電力効率に優れ、超低レイテンシのAI推論ソリューションで開発者を支援するというiWaveのコミットメントを示すものです。iW-RainboW-G57D SoM上に構築されたこのプラットフォームは、リアルタイム物体検出などの複雑なAIワークロードを高速化し、データ生成源に近い場所でエッジインテリジェンスを実現します。

Vitis AI：AIワークロードにFPGAアクセラレーションを提供

Vitis AIは、Versal Adaptive SoCを含むFPGAベースのハードウェアプラットフォーム向けに設計されたAMDの統合AI推論ソフトウェアスタックです。GPU用に学習させたAIモデルを、大幅な変更なしでFPGAアーキテクチャにシームレスに移行できます。

Vitis AIは、TensorFlow、PyTorch、ONNX、Caffeといった一般的なディープラーニングフレームワークをサポートしており、開発者は並列性と低消費電力向けに最適化されたハードウェア上に、学習済みのニューラルネットワークを効率的に導入することができます。

その結果、FPGAの柔軟性と専用ニューラルアクセラレータの性能を融合したAIアクセラレーションパイプラインが実現され、レイテンシが重要なエッジアプリケーションに最適です。

システム概要とデモセットアップ

iWaveのVE2302 Versal AIエッジ評価キット上で動作するVitis AI NPUのライブデモンストレーションでは、リアルタイムの物体検出機能を紹介しています。

デモ用コンポーネント：

• iWave VE2302 Versal AIエッジ開発キット
• HDMIディスプレイ
• ライブビデオ入力用USBウェブカメラ
• 12V/5A電源およびデバッグケーブル

AI推論のデータフロープロセス

iW-RainboW-G57D上のAI推論ワークフローは、VART X APIモジュールを活用し、リアルタイム処理向けに構成されています。SoM上でNPUアプリケーションを実行するためのスクリプトが作成されます。このスクリプトは、USBカメラを使ってビデオをキャプチャし、NV12フォーマットに変換します。変換されたビデオはNPUによって処理され、検出された物体はHDMIディスプレイ上でハイライト表示されます。

データフロープロセスは以下の通りです。

ライブデモの実演

VE2302 Versal AIエッジSoMでリアルタイムの物体検出を体験しましょう。iWaveのエキスパートによるデモをご覧ください。このデモでは、NPU IPを使用したAI推論により、正確で効率的な物体検出を実現しています。

エッジAIにVersal AIエッジを選ぶ理由

AMDのVersal AIエッジファミリは、プログラマブルロジック、AIエンジン、ヘテロジニアスプロセッシングシステムをシングルチップに統合しています。このアーキテクチャは、確定的リアルタイム制御を維持しながら、センサフュージョン、ビジョン分析、AI推論を1つのプラットフォーム上で可能にします。

主な特長は以下の通りです。

• ビジョン、レーダ、LiDARワークロード向けのAIエンジンおよびDSPエンジン
• 最大8MPの解像度に対応するネイティブMIPIサポート
• 多様なAIおよび信号処理タスクに対応する単精度および半精度浮動小数点のサポート

AIコンピュートとプログラマブルロジックの組み合わせは、ロボティクスから産業用オートメーションまで、幅広いエッジAIのユースケースに対応するスケーラブルな基盤を提供します。

iWaveのVersal AIエッジシステムオンモジュールの特長

• VE2302 / VE2202 / VE2102 / VE2002デバイスと互換性あり
• デュアルコアArm Cortex-A72およびCortex-R5Fプロセッサ
• 最大328Kのロジックセルおよび150KのLUT
• 8つのGTYPトランシーバ（32Gbps）
• 最大8GB LPDDR4 RAMと128GB eMMCストレージ
• 拡張用デュアル240ピン高速コネクタ
• 接続性：PCIe Gen4、Ethernet、USB 3.0

コンパクトでありながら堅牢なSoMは、40G Ethernet、MIPIカメラインターフェース、122の設定可能I/Oをサポートし、高速データ移動とリアルタイム推論を必要とするエッジAIシステムへのシームレスな統合を保証します。

実世界のアプリケーション

iWaveのVersal AIエッジSoMに搭載されたVitis AI NPUは、幅広い産業分野において新たな可能性を拓きます。

• スマート監視：リアルタイムの物体・顔認識により、インテリジェントな監視を実現
• 自動車 & ADAS：交通標識と歩行者の高速検出
• 産業オートメーション：オンデバイス分析により、不具合検出と予知保全を実現
• ヘルスケア：AIを活用した画像診断と患者モニタリング
• スマートリテール：自動チェックアウトと顧客分析
• スマートシティ：ライブビデオ分析を用いた適応型交通管理

このソリューションは、高スループットのAI処理と電力効率を融合させ、ミリ秒単位が重要な環境において、正確でリアルタイムなパフォーマンスを提供します。

エッジAIツールで開発者を支援

iWaveは、VersalプラットフォームでのAI開発サイクルを簡素化するために、ソフトウェアツール、ライブラリ、ボードサポートパッケージ（BSP）の完全なスイートを提供しています。Vitis AI、OpenCV、Linuxベースの開発をサポートすることで、エンジニアはAIワークロードの導入、テスト、最適化を迅速に行うことができます。

包括的なドキュメント、長期供給保証（10年以上）、ODM設計サービスにより、iWaveはお客様がプロトタイプから量産まで確実にスケールアップできることを保証します。

iWave Globalは、産業、自動車、医療、防衛市場向けのFPGAベースのシステムオンモジュール（SoM）とODM設計サービスを専門とする、信頼できるエンジニアリングソリューションプロバイダです。iWaveは、数十年にわたる組み込みの専門知識を活用し、信頼性と拡張性に優れた高性能ハードウェアプラットフォームを通じて、エッジにおけるイノベーションを実現します。

Versal AIエッジSoMがお客様の次のAIイノベーションにどのように貢献できるかについては、www.iwave-global.comをご覧いただくか、mktg@iwave-global.comまでお問い合わせください。