[論文レビュー] Classifying Images with Few Spikes per Neuron

Christoph Stöckl, Wolfgang Maass|arXiv (Cornell University)|Jan 31, 2020

Advanced Memory and Neural Computing参考文献 8被引用数 6

ひとこと要約

この論文では、フィードフォワードReLUベースのCNNをスパikingニューラルネットワーク（SNN）に変換する新規手法FS-conversionを紹介している。この手法により、遅延を著しく低減し、スループットを向上させることができる。漏れのある膜電位の代わりに指数関数的に減少する発火閾値を持つスパイクニューロンモデルを用いることで、情報理論的に最適な性能をlog Nステップで達成し、ImageNetおよびCIFAR10で元のANNの精度と同等の性能を発揮しながら、スパイク数と遅延を標準的なレートベース変換よりも削減する。

ABSTRACT

Spiking neural networks (SNNs) promise to provide AI implementations with a drastically reduced energy budget in comparison with standard artificial neural networks (ANNs). Besides recurrent SNN modules that can be efficiently trained on-chip, many AI applications require the use of feedforward convolutional neural networks (CNNs) as preprocessors for visual or other sensory inputs. The standard solution has been to train a CNN consisting of non-spiking neurons, typically using the rectified linear ReLU function as activation function, and then to translate these CNNs with ReLU neurons via rate coding into SNNs. However this produces SNNs with long latency and small throughput, since the number of spikes that a neuron has to emit is on the order of the number N of output values of the corresponding CNN gate which subsequent layers need to be able to distinguish. We introduce a new ANN-SNN conversion - called FS-conversion - that needs only log N many time steps for that, which is optimal from the perspective of information theory. This can be achieved with a simple variation of the spiking neuron model that has no membrane leak but an exponentially decreasing firing threshold. We show that for the classification of images from ImageNet and CIFAR10 this new conversion reduces latency and drastically increases the throughput compared with rate-based conversion, while achieving almost the same classification performance as the ANN.

研究の動機と目的

• フィードフォワードCNNにおける標準的なレートベースのANNからSNNへの変換手法に起因する高い遅延と低いスループットを解消すること。
• SNNにおける正確な画像分類に必要なニューロン1つあたりのスパイク数を削減すること。
• 情報理論的に最適なANNからSNNへの変換を可能にするスパイクニューロンモデルの開発。
• 元のANNと同等の分類性能を達成しながら、スパイク数と遅延を最小限に抑えること。

提案手法

• 膜の漏れのないが、指数関数的に減少する発火閾値を持つ修正されたスパイクニューロンモデルを提案する。
• このニューロンモデルを用いることで、N個の出力クラスに対して必要な時間ステップをlog Nにまで削減し、情報理論的な下界に一致させる。
• ReLUベースのCNNをSNNに変換する際、標準的な漏れ積分・発火ニューロンの代わりに、この新しいニューロンモデルを適用する。
• レート符号化によるANNからSNNへの変換を実施するが、新しい閾値ダイナミクスを用いることで、必要なスパイク数を著しく削減する。
• 元のReLU CNNを通常通り訓練した後、再訓練を一切行わずに、FS-conversion手法を用いてSNNに変換する。
• 標準ベンチマークを用いてImageNetおよびCIFAR10で検証を行い、精度、遅延、スループットを比較する。

実験結果

リサーチクエスチョン

• RQ1 標準的なレートベース変換と比較して、事前に訓練されたReLU CNNからSNNを構築することで、顕著に遅延を低減できるか？
• RQ2 標準的なレート符号化と比較して、はるかに少ないニューロン1つあたりのスパイク数で、SNNにおいてほぼ同一の分類精度を達成できるか？
• RQ3 指数関数的に減少する閾値を持つスパイクニューロンモデルは、情報理論的に最適なSNN変換を可能にするか？
• RQ4 標準的な画像分類データセットにおいて、提案されたFS-conversion手法は、既存のレートベース変換技術と比較して、スループットと遅延の面で優れているか？

主な発見

• FS-conversionにより、SNN推論に必要な時間ステップ数がlog Nにまで削減され、情報理論的に最適な性能が達成された。
• この手法により、ImageNetおよびCIFAR10における分類精度が元のReLUベースのANNとほぼ同一の水準を維持した。
• 標準的なレートベース変換（O(N)ステップ必要）と比較して、遅延が著しく低減された。
• ニューロン1つあたりのスパイク数が減少し、推論ウィンドウが短くなったため、スループットが顕著に向上した。
• 指数関数的に減少する閾値を持つ提案されたニューロンモデルにより、元のネットワークの再訓練を必要とせず、効率的で正確なSNN変換が可能になった。
• スパイク数と遅延の両面で、標準的なレートベース変換を上回る性能を発揮し、高い分類性能を維持した。