[論文レビュー] SNE: an Energy-Proportional Digital Accelerator for Sparse Event-Based Convolutions

Alfio Di Mauro, Arpan Suravi Prasad+4 more|arXiv (Cornell University)|Jan 1, 2022

Advanced Memory and Neural Computing被引用数 3

ひとこと要約

本稿では、時間的・空間的イベント位置を明示的に符号化することで、スパースなイベントベースの畳み込みニューラルネットワーク（eCNNs）のエネルギー比例型推論を実現するデジタルニューロモルフィックアクセラレータSNEを提案する。SNEは、IBM DVS-Gestureデータセットで92.8%の精度を達成し、4.54 TOP/s/Wのエネルギー効率と0.221 pJ/SOPの最小エネルギー/操作を実現し、デジタルニューロモルフィックプラットフォームにおいて報告された最低の操作あたりエネルギーを達成した。

ABSTRACT

Event-based sensors are drawing increasing attention due to their high temporal resolution, low power consumption, and low bandwidth. To efficiently extract semantically meaningful information from sparse data streams produced by such sensors, we present a 4.5TOP/s/W digital accelerator capable of performing 4-bits-quantized event-based convolutional neural networks (eCNN). Compared to standard convolutional engines, our accelerator performs a number of operations proportional to the number of events contained into the input data stream, ultimately achieving a high energy-to-information processing proportionality. On the IBM-DVS-Gesture dataset, we report 80uJ/inf to 261uJ/inf, respectively, when the input activity is 1.2% and 4.9%. Our accelerator consumes 0.221pJ/SOP, to the best of our knowledge it is the lowest energy/OP reported on a digital neuromorphic engine.

研究の動機と目的

• イベントベースセンサから得られるスパースで非同期なイベントストリームを処理する際の従来型アクセラレータのエネルギー非効率性に対処すること。
• 入力アクティビティに応じて演算がスケーリングされるエネルギー比例型計算を可能にすることにより、エネルギーと情報の比例関係を維持すること。
• スパースなスパikingニューラルネットワークにおいて、データおよび重みの再利用を最大化し、メモリトラフィックを最小限に抑えるデジタルアクセラレータを設計すること。
• スパースで非構造的なデータワークロードにおいて、従来のDNNアクセラレータと同等の最先端のエネルギー効率を達成すること。

提案手法

• SNEは、入力イベントの時間的・空間的座標を明示的に符号化することで、メモリ容量を削減し、データ再利用を向上させる。
• アーキテクチャは、密な計算フェーズにおいて同期的・並列的に処理を行い、スパースな入力インターバルを圧縮する。
• 可変トポロジを備えた4ビット量子化eCNN推論エンジンを採用し、畳み込み層およびプーリング層をサポートする。
• パイプライン化された、サステリックに似た処理アレイを採用することで、スパースな活性化および重みを効率的に処理する。
• イベントが到着する場合にのみニューロン状態を更新することで、メモリアクセスを最小限に抑え、不要な演算を削減する。
• 22nmデジタル技術を最適化し、400MHz動作で高効率かつ低消費電力な性能を達成する。

実験結果

リサーチクエスチョン

• RQ1 デジタルニューロモルフィックアクセラレータは、スパースなイベントベースのデータストリームに対してエネルギー比例型計算を達成できるか？
• RQ2 高い精度を維持したまま、デジタルeCNNアクセラレータで達成可能な最小の操作あたりエネルギーは何か？
• RQ3 明示的なイベント符号化は、スパースなSNN推論におけるメモリ効率と計算スループットをどのように向上させるか？
• RQ4 デジタルアクセラレータは、アナログニューロモルフィックプラットフォームのエネルギー効率にどの程度まで近づけるか？
• RQ5 スパースで非構造的なデータワークロードにおいて、デジタルアクセラレータは従来のDNNアクセラレータと同等の最先端のエネルギー効率を達成できるか？

主な発見

• SNEは4.54 TOP/s/Wのエネルギー効率を達成し、Peiら（2021）による最先端のニューロモルフィックプラットフォーム比で3.55倍の改善を達成した。
• アクセラレータは操作あたり0.221 pJ/SOPを消費し、これまでに報告されたデジタルニューロモルフィックプラットフォームで最小のエネルギー/操作を達成した。
• IBM DVS-Gestureデータセットにおいて、SNEは推論エネルギーが1.2%アクティビティ時で80 µJ/inf（最良ケース）から4.9%アクティビティ時で261 µJ/inf（最悪ケース）の範囲で92.8%の分類精度を達成した。
• 400MHzで動作するSNEは、入力アクティビティに応じて141 inf/s（最良ケース）から43 inf/s（最悪ケース）までの推論レートをサポートする。
• SNEはスパースな入力ストリームにもかかわらず、最大51.2 GSOP/sの高スループットを実現した。
• SNEは0.9V動作に拡張しても高いエネルギー効率を維持し、4.03 TOP/s/Wと0.248 pJ/SOPを達成した。