[論文レビュー] Always-On, Sub-300-nW, Event-Driven Spiking Neural Network based on Spike-Driven Clock-Generation and Clock- and Power-Gating for an Ultra-Low-Power Intelligent Device

Dewei Wang, Pavan Kumar Chundi+7 more|arXiv (Cornell University)|Jun 22, 2020

Advanced Memory and Neural Computing参考文献 14被引用数 4

ひとこと要約

本稿では、スパイク駆動型クロック生成と組み合わせたクロック・ゲーティングおよびパワーゲーティング技術を活用することで、300 nW未満の消費電力を達成するイベント駆動型スパイクニューラルネットワーク（SNN）アーキテクチャを提示する。この設計により、動的および静的電力の低減を活動感知型クロックと電力管理によって実現し、高い推論精度を維持しながら常にオンのキーワードスプライティングや類似したAIワークロードを実現できる。これにより、超低消費電力のインテリジェントエッジデバイスに最適である。

ABSTRACT

Always-on artificial intelligent (AI) functions such as keyword spotting (KWS) and visual wake-up tend to dominate total power consumption in ultra-low power devices. A key observation is that the signals to an always-on function are sparse in time, which a spiking neural network (SNN) classifier can leverage for power savings, because the switching activity and power consumption of SNNs tend to scale with spike rate. Toward this goal, we present a novel SNN classifier architecture for always-on functions, demonstrating sub-300nW power consumption at the competitive inference accuracy for a KWS and other always-on classification workloads.

研究の動機と目的

• バッテリ駆動やエネルギー制約のあるシステムにおいて、超低消費電力デバイスで常にオンのAI機能（例：キーワードスプライティング）の高い消費電力の問題を解決すること。
• 常にオンのワークロードにおける入力信号の時間的スパarsity（疎らさ）を活用してエネルギー効率を向上させること。
• 300 nW未満で動作しながらも、競争力のある推論精度を維持するスパイクニューラルネットワーク（SNN）分類器を開発すること。
• スパイク駆動型クロック生成とクロック・ゲーティングおよびパワーゲーティングの統合により、動的およびリーク電力を最小限に抑えること。
• バッテリ駆動およびエネルギー制約のあるシステムにおける、実際に利用可能な常にオンのAIの実装を可能にすること。

提案手法

• SNNはスパイク駆動型クロック生成を採用しており、入力スパイクが発生する場合にのみクロック信号が活性化され、スリープ時のスイッチング活動が低減される。
• 無効な処理ユニットに対してはクロックゲーティングを選択的に適用し、非活動期間中の動的電力を最小限に抑える。
• 使用されていない機能ブロックに対してはパワーゲーティングを適用し、リーク電力を顕著に低減する。
• イベント駆動動作と階層的クロックおよび電力制御を統合することで、スパイクレートに応じて消費電力をスケーリング可能となる。
• 低電圧動作に最適化されており、非同期論理を活用することでさらに電力オーバーヘッドを低減する。
• 標準CMOSプロセスでプロトタイピングされ、キーワードスプライティングや類似タスクにおけるリアルタイム推論の検証が行われた。

実験結果

リサーチクエスチョン

• RQ1 スパイク駆動型クロック生成は、性能に影響を与えることなく、常にオンのSNNにおける動的電力の低減に有効に機能するか？
• RQ2 スパイクが疎らな入力信号におけるSNNに、クロック・ゲーティングとパワーゲーティングを併用することで、どの程度の電力低減が達成できるか？
• RQ3 キーワードスプライティングタスクにおいて、競争力のある推論精度を維持しつつ、SNNが達成可能な最小消費電力はどの程度か？
• RQ4 イベント駆動動作と電力管理技術の統合が、面積および遅延オーバーヘッドにどのように影響を与えるか？
• RQ5 提案されたアーキテクチャは、超低消費電力エッジデバイスにおける実際に利用可能な常にオンのAIの実装を可能にするか？

主な発見

• 提案されたSNNは、推論中に300 nW未満の総消費電力を達成し、300 nW未満の動作を実証した。
• システムは、キーワードスプライティングタスクにおいて、従来のDNNと同等の推論精度を維持した。
• スパイク駆動型クロック生成により、静止期間中のアイドルクロックサイクルが排除され、動的電力が低減された。
• クロック・ゲーティングとパワーゲーティングを併用することで、動的およびリーク電力が抑制され、超低消費電力動作に貢献した。
• 最小限のエネルギーオーバーヘッドで常にオンの機能を実現でき、バッテリ駆動エッジデバイスに適した。
• コンactで低エネルギーなインテリジェントシステムに統合可能な、適切な電力-面積効率を達成した。