推論エンジン - Zebra

時間と労力をかけずにFPGAを使った推論を高速化が可能に

FPGAを利用したニューラルネットワーク推論実装は低消費電力、高パフォーマンスを求められる組込みの世界で期待が高まっています。 MipsologyのZebraは、ニューラルネットワーク推論に最適なディープラーニング用コンピューティングエンジンです。ZebraはCPU / GPUをシームレスに置換または補完し、あらゆるニューラルネットワークがより低消費電力且つ低いコストで高速に処理できるようにデザイン変換をします。Zebraは、基盤となるハードウェア(FPGAカード)の知識を必要としません 通常ご利用の、ニューラルネットワーク、トレーニング、フレームワーク、アプリケーションは其のままで、迅速かつシームレスにFPGAカードへの推論実装を可能とします。

Fastest Inference最速の推論

ワールドクラスのNN推論処理性能を実現

Straightforward to Use使いやすい

FPGA設計フローを隠蔽することでAIエンジニアフレンドりな環境を提供

Works with all Neural Networks幅広いNN対応

ユーザ定義を含む幅広いNNを高速化。GPUベースのトレーニング済みNNを変更せずに同精度で処理可能

 

Supports most popular Frameworksフレームワーク

Caffe, Caffe2, MXNET, TensorFlow, PyTorch, 等、利用中のフレームワークで動作します

No changes to the software environmentソフトはそのまま

ソフトウェア環境は変更不要。新しい言語、フレームワーク、ツールを学ぶ必要もありません

 

推奨FPGAカード

Zebra エンジンは各種カードに実装可能

量産用FPGAカードをサーバに搭載したら、後はZebraツールのコマンド操作だけで評価が始められます。

Mipsology社 Zebra エンジンはザイリンクス社や3rdParty製FPGAカードで評価・実績があります。 お客様は各種量産用カードからサイズ・搭載デバイス・推論性能から最適なものを選ぶ事が可能です。 ザイリンクス社量産用カードは製品保証も3年と保証期間が長く組み込み用途に最適です。

 

高性能・サーバ用

ザイリンクス社製 Alveo U200, U250

 

小型・低消費・組み込み用

ザイリンクス社製
Alveo U50

Alveo U50

アドバンテック社製
VEGA4000

 

VEGA4000

TUL社製
KU1500

 

KU1500

 

 

Zebraエンジン

Zebra エンジンについてもう少し。ラーニング済NN処理をZebraコア処理に再マッピング。

Zebra Tools はサーバコマンド操作でセットアップを行う事ができます。FPGAカードへのZebra Coreの搭載は自動的に行われるため、FPGA設計知識は必要としません。ドライバセットアップ後はラーニング済NNを所定ディレクトリに保存、マッピングツールを起動させるだけで、NN処理を指定した対象Zebaraコアに最適マッピング致します。マッピング後は判定対象画像を複数キャプチャしてキャリブレーションを行い対象環境に合わせた調整を行います。マッピング・キャリブレーション時間は僅か10分程度で、迅速な評価が直ぐに始められます。

FPGA内のZebraコアイメージ

  • GPUコアと同様の動作をするZebraコアを既に構築しており、FPGAを意識する必要なし
  • Zebraは実行前に設定ファイルを読み込むだけ
  • CPU/GPUと同じコマンドでCPU/GPUで行った学習済みのNNとWeightを使用し、Zebraの高速推論エンジンが起動
 

Zebra実行デモ

一般公開されているYoloV2をGitHubからダウンロードし、CPUと同じ環境/コマンドで 、Zebraを実行するデモです。

 

実行環境作成編

始めに、GitHubに一般公開されているdarkflowとyolov2の重み、ネットワークをダウンロードし、実行環境を作成します。

*再生される動画の解像度が低い場合は、こちらをお試しください

CPU・FPGA実行編

先ほどの環境をCPUだけを使ってチェック後に、同じ環境でCPUと同じコマンドを使いZebraを実行します。

*再生される動画の解像度が低い場合は、こちらをお試しください

キャリブレーション編

今度はMipsology社が特許を取得した認識精度を落とさないキャリブレーションを行った後に推論を実行します。

*再生される動画の解像度が低い場合は、こちらをお試しください

複数のNNを同時実行

ZebraはGPUと違って、複数の異なるNNを同時に実行する事が出来ます。使用するカードによって異なりますが、現時点では1枚のFPGAカードで最大8つの同時実行が可能です。
使用するFPGAカードの枚数を増やすことにより、NNの同時実行をスケーラブルに変更できます。

*再生される動画の解像度が低い場合は、こちらをお試しください

小型産業用PCによる低遅延デモ

Zebraは75W制限のあるロープロファイルFPGAカード製品にも搭載することができます。ロープロファイル製品でも低遅延を実現しており、10ms以内での物体認識を可能としています。

*再生される動画の解像度が低い場合は、こちらをお試しください

製品のお問い合わせ

製品の購入や仕様に関するお問い合わせはこちらから。※お問い合わせ内容の欄に「機材貸し出し希望」「Zebraの詳細が聞きたい」など、ご要望を記入下さい

お問い合わせ