[論文レビュー] Efficient and Accurate Conversion of Spiking Neural Network with Burst Spikes

Yang Li, Yi Zeng|arXiv (Cornell University)|Apr 28, 2022

Advanced Memory and Neural Computing被引用数 8

ひとこと要約

本論文は、バーストスパイクとラテラルインヒビションプーリング（LIPooling）を備えた、人工ニューラルネットワーク（ANN）をスパイキングニューラルネットワーク（SNN）に変換する新規手法を提案する。100ステップ未満のシミュレーション時間で最先端の精度を達成し、従来手法の10％未満にまで性能の低下とエネルギー消費を低減する。これにより、神経形状ハードウェア上で効率的で低遅延なSNN推論が可能になる。

ABSTRACT

Spiking neural network (SNN), as a brain-inspired energy-efficient neural network, has attracted the interest of researchers. While the training of spiking neural networks is still an open problem. One effective way is to map the weight of trained ANN to SNN to achieve high reasoning ability. However, the converted spiking neural network often suffers from performance degradation and a considerable time delay. To speed up the inference process and obtain higher accuracy, we theoretically analyze the errors in the conversion process from three perspectives: the differences between IF and ReLU, time dimension, and pooling operation. We propose a neuron model for releasing burst spikes, a cheap but highly efficient method to solve residual information. In addition, Lateral Inhibition Pooling (LIPooling) is proposed to solve the inaccuracy problem caused by MaxPooling in the conversion process. Experimental results on CIFAR and ImageNet demonstrate that our algorithm is efficient and accurate. For example, our method can ensure nearly lossless conversion of SNN and only use about 1/10 (less than 100) simulation time under 0.693$ imes$ energy consumption of the typical method. Our code is available at https://github.com/Brain-Inspired-Cognitive-Engine/Conversion_Burst.

研究の動機と目的

• 制限されたシミュレーション時間下でのANNからSNNへの変換における性能の低下と長時間の推論を解消すること。
• ReLUニューロンとIFニューロンの違い、時間的ダイナミクス、プーリング操作に起因する変換誤差を分析・緩和すること。
• シミュレーション時間とエネルギー消費を最小限に抑えることで、神経形状ハードウェア上での効率的で正確なSNN推論を可能にすること。
• 情報伝達の向上を図るため、MaxPoolingの代わりに生物学的にインスパイアされたラテラルインヒビションプーリング（LIPooling）機構を導入すること。
• 元のANNの学習プロセスを変更せず、追加層を追加せずに、ほぼ損失のないSNN変換を実現すること。

提案手法

• クロック駆動SNNにおける残留情報を高周波数スパイクバーストとして放出するバーストスパイクニューロンモデルを提案。これにより、ANNの活性化に近い発火レート近似が向上する。
• ラテラルインヒビションプーリング（LIPooling）を導入。これは神経系のラテラルインヒビションを模倣し、SNNにおいてMaxPoolingよりも正確に最大活性化値を保持できる。
• 3次元での変換誤差を分析：ReLUとIFニューロンの違い、時間的統合効果、プーリングの不正確さ。
• VGG16やResNet20といった標準的なネットワークに、アーキテクチャの変更なしに適用。事前学習済みANNからの重みマッピングのみを用いる。
• 理論的枠組みを用いて、特に初期ステップでの残留情報損失を定量化・最小化する。
• 平均発火レートとMACのエネルギーコストに基づくエネルギー推定を用い、神経形状プラットフォームにおけるハードウェア効率を評価する。

実験結果

リサーチクエスチョン

• RQ1 ReLUとIFニューロンの違いが、ANNからSNNへの変換における性能の低下にどのように寄与するか？
• RQ2 時間的統合とプーリング操作が、SNN変換中に情報にどの程度歪みを生じるか？
• RQ3 バーストスパイク放出は、短時間のシミュレーションウィンドウ内において、残留情報を効果的に回復させ、発火レートの正確性を向上させることができるか？
• RQ4 ラテラルインヒビションプーリング（LIPooling）は、MaxPoolingを上回り、SNNにおける活性化の大きさをより正確に保持できるか？
• RQ5 制限された時間ステップ下で、推論速度、精度、エネルギー効率のトレードオフはどのように変化するか？

主な発見

• ResNet20を用いたCIFAR-10では32ステップで96.59％の精度を達成し、先行SOTA手法を上回った。
• VGG16を用いたCIFAR-100では64ステップで80.72％の精度を達成。元のANNと比較して1％未満の性能損失にとどまった。
• ImageNetではVGG16を用いて128ステップで74.26％のトップ-1精度を達成。RMPや他のSOTA変換手法を上回った。
• 変換後のSNNのエネルギー消費は、元のANNの69.3％にまで低下し、高いエネルギー効率を示した。
• 通常の手法の1/10未満のシミュレーション時間で、ほぼ損失のない精度を維持。100ステップ以下で十分な性能が得られた。
• LIPoolingは、MaxPoolingを上回り、最大活性化を正しく同定・伝達する。誤差閾値e < 2/Tの下で、正しく発火された正の活性化の割合が95％以上に上昇した。