[論文レビュー] Spike time displacement based error backpropagation in convolutional spiking neural networks

Maryam Mirsadeghi, Majid Shalchian+2 more|arXiv (Cornell University)|Aug 31, 2021

Advanced Memory and Neural Computing被引用数 4

ひとこと要約

本論文は、1スパイク時間符号化を用いた深層畝乗スパイクニューラルネットワーク（CSNN）のトレーニングのため、STiDi-BPアルゴリズムの拡張を提案する。誤差の逆伝播に再帰的バックプロパゲーションを回避するため、スパイク発火時刻のずれを用いる。MNISTでは99.2%、Fashion-MNISTでは92.8%の精度を達成し、バイナリ重みバージョンを導入することでメモリと計算コストを削減しつつ、精度は0.6–0.8%の低下に抑える。

ABSTRACT

We recently proposed the STiDi-BP algorithm, which avoids backward recursive gradient computation, for training multi-layer spiking neural networks (SNNs) with single-spike-based temporal coding. The algorithm employs a linear approximation to compute the derivative of the spike latency with respect to the membrane potential and it uses spiking neurons with piecewise linear postsynaptic potential to reduce the computational cost and the complexity of neural processing. In this paper, we extend the STiDi-BP algorithm to employ it in deeper and convolutional architectures. The evaluation results on the image classification task based on two popular benchmarks, MNIST and Fashion-MNIST datasets with the accuracies of respectively 99.2% and 92.8%, confirm that this algorithm has been applicable in deep SNNs. Another issue we consider is the reduction of memory storage and computational cost. To do so, we consider a convolutional SNN (CSNN) with two sets of weights: real-valued weights that are updated in the backward pass and their signs, binary weights, that are employed in the feedforward process. We evaluate the binary CSNN on two datasets of MNIST and Fashion-MNIST and obtain acceptable performance with a negligible accuracy drop with respect to real-valued weights (about $0.6%$ and $0.8%$ drops, respectively).

研究の動機と目的

• 完全結合SNN向けに開発されたSTiDi-BPアルゴリズムを、単一スパイクに基づく時間的符号化を用いた、より深い畝乗アーキテクチャに拡張すること。
• 局所的な誤差計算に再帰的バックプロパゲーションを用いずに、スパイク発火時刻のずれを用いることで、誤差逆伝播における再帰的勾配計算を排除すること。
• 推論時に符号ベースの重み、学習時に実数値重みを用いるバイナリ重みCSNNの変種を導入し、SNNのメモリと計算コストを低減すること。
• 時間的符号化を用いた深層CSNNを直接的・エンドツーエンドでトレーニング可能とし、事前に訓練されたANNへの変換を回避すること。
• バイナリ重みCSNNが、エネルギー効率の高い神経形状ハードウェアに適した近い性能を達成しつつ、最小限の精度低下で実現できることを示すこと。

提案手法

• スパイク発火時刻のずれによる予測スパイク時刻の計算を畝乗層に適応させ、再帰的バックプロパゲーションを回避する局所的誤差計算を可能にする。
• 膜電位に対するスパイク遅延の微分の線形近似を用いて、効率的な勾配計算を実現する。
• 区分線形の後突触電位とReLUベースのPSPモデルを採用し、神経動態を単純化し、計算複雑性を低減する。
• 前方伝播ではバイナリ重み（実数値重みの符号）を用い、逆伝播では勾配降下法により実数値重みを更新するバイナリ重みCSNN（BCSNN）を導入する。
• 1層または1フィルタあたり1つのフル精度スケーリング係数を適用し、32ビット浮動小数点重みと比較して32倍のメモリ容量削減を実現する。
• 受容野内での最初のスパイク発火時刻に基づくマックスプーリングを採用し、これは時間的符号化と自然に適合し、計算負荷を低減する。

Figure 1 : The piecewise linear postsynaptic potential caused by the presynaptic spike time $t_{j}$ .

実験結果

リサーチクエスチョン

• RQ1 STiDi-BPアルゴリズムは、単一スパイク時間符号化を用いた深層かつ畝乗スパイクニューラルネットワークのトレーニングに効果的に拡張可能か？
• RQ2 スパイク発火時刻のずれを用いることで再帰的バックプロパゲーションを回避した場合、標準的なBPと比較して深層SNNにおける計算コストとメモリコストが低減するか？
• RQ3 STiDi-BPでトレーニングされたバイナリ重みCSNNは、高い精度を達成しつつ、性能低下を最小限に抑え、効率的なハードウェア実装が可能か？
• RQ4 提案手法のCSNNは、MNISTやFashion-MNISTといった標準ベンチマークで、既存の最先端SNNと比較してどの程度の性能を示すか？
• RQ5 時間的単一スパイク符号化と最初のスパイクプーリングの使用が、神経処理をどの程度単純化し、計算オーバーヘッドを低減するか？

主な発見

• 提案されたSTiDi-BPベースのCSNNは、単一スパイク符号化を用いた深層畝乗SNNの効果的なトレーニングを実証し、MNISTデータセットで99.2%の精度を達成した。
• より複雑なFashion-MNISTデータセットでは、CSNNが92.8%の精度に達し、挑戦的な画像分類タスクへの適性を確認した。
• バイナリ重みバージョン（BCSNN）は、実数値CSNNと比較して、MNISTで0.6%、Fashion-MNISTで0.8%の精度低下にとどまり、性能低下がほとんどないことを示した。
• BCSNNはメモリ使用量を32倍削減し、浮動小数点乗算器を単純なインクリメント/デクリメント演算に置き換えることで、効率的な神経形状ハードウェア実装を可能にした。
• 再帰的勾配計算を回避したため、1層あたりの空間計算量が、レート符号化方式のO(NT)からO(N)に低減され、メモリと計算要求が顕著に低下した。
• 最初のスパイクに基づくマックスプーリングは、自然にサポートされ、計算的にも効率的であり、SNNのイベント駆動特性と整合し、処理コストをさらに低減した。

Figure 3 : The mean required number of spikes in the input, convolutional, hidden, and total layers in R-CSNN.