[論文レビュー] Exploiting Neuron and Synapse Filter Dynamics in Spatial Temporal Learning of Deep Spiking Neural Network

Haowen Fang, Amar Shrestha+2 more|arXiv (Cornell University)|Feb 19, 2020

Advanced Memory and Neural Computing参考文献 25被引用数 9

ひとこと要約

本稿では、ニューロンとシナプスを無限インパルス応答（IIR）フィルタとしてモデル化することで、時間的ダイナミクスを活用する、深層スパikingニューラルネットワーク（SNN）のための新規トレーニングフレームワークを提案する。合成シナプス重みとフィルタインパルス応答カーネルを同時に最適化することで、MNIST（99.46%）、NMNIST（99.39%）、DVS128（96.09%）、TIDIGITS（99.13%）およびオーストラリア手話（98.21%）といった時系列データセットにおいて、既存のSNNおよびDNNベースラインを上回る最先端の精度を達成した。

ABSTRACT

The recent discovered spatial-temporal information processing capability of bio-inspired Spiking neural networks (SNN) has enabled some interesting models and applications. However designing large-scale and high-performance model is yet a challenge due to the lack of robust training algorithms. A bio-plausible SNN model with spatial-temporal property is a complex dynamic system. Each synapse and neuron behave as filters capable of preserving temporal information. As such neuron dynamics and filter effects are ignored in existing training algorithms, the SNN downgrades into a memoryless system and loses the ability of temporal signal processing. Furthermore, spike timing plays an important role in information representation, but conventional rate-based spike coding models only consider spike trains statistically, and discard information carried by its temporal structures. To address the above issues, and exploit the temporal dynamics of SNNs, we formulate SNN as a network of infinite impulse response (IIR) filters with neuron nonlinearity. We proposed a training algorithm that is capable to learn spatial-temporal patterns by searching for the optimal synapse filter kernels and weights. The proposed model and training algorithm are applied to construct associative memories and classifiers for synthetic and public datasets including MNIST, NMNIST, DVS 128 etc.; and their accuracy outperforms state-of-art approaches.

研究の動機と目的

• 時空間的ダイナミクスを効果的に捉えることができる、大規模SNN向けの強力で生物学的に妥当なトレーニングアルゴリズムの欠如を解消すること。
• 周波数ベースの符号化の限界を乗り越え、スパイク列の時間的構造を動的シナプスおよびニューロンモデルを用いて活用すること。
• 深層SNNにおける合成シナプス重みとフィルタインパルス応答カーネルの両方をエンドツーエンドで学習可能にすることにより、時空間パターン認識を向上させること。
• データの前処理や特別な回路構成を必要とせず、さまざまなSNNアーキテクチャやデータセットに適用可能な汎用的なトレーニングフレームワークを構築すること。

提案手法

• SNNを、ニューロン膜電位ダイナミクスとシナプスフィルタ効果を両方モデル化する無限インパルス応答（IIR）フィルタのネットワークとして定式化する。
• ニューロンモデルは、二重指数関数的シナプスを備えた漏れ積算・発火（LIF）形式を用い、膜電位とシナプス電流を連続時間のODEで表現する。
• 合成シナプス重みとシナプスのインパルス応答カーネルの両方を最適化する微分可能トレーニングアルゴリズムを導出することで、勾配ベースの学習を可能にする。
• IIRフィルタドSNNの時間的ダイナミクスをアンロールすることで、バックプロパゲーション・スパン・タイム（BPTT）をサポートし、エンドツーエンド学習を実現する。
• 入力信号をリアルタイムで時間変動するスパイク列に変換する、電流ベースのLIFニューロンを用いたスパイク符号化を実施する。
• 分類タスクのためのフィードフォワードおよびスタックドアーキテクチャに、視覚および時系列データセットを用いてフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 ニューロンとシナプスをIIRフィルタとしてモデル化することで、深層SNNにおける時空間パターンの学習が向上するか？
• RQ2 合成シナプス重みとフィルタインパルス応答カーネルを同時に最適化することで、固定カーネル手法に比べて一般化性能と収束性が向上するか？
• RQ3 本手法は、データ前処理を必要とせず、MNIST、NMNIST、DVS128、TIDIGITS、オーストラリア手話といったベンチマークデータセットで最先端のパフォーマンスを達成できるか？
• RQ4 学習されたシナプスフィルターカーネルは、標準的な固定カーネルと比較して、時間的記憶能力とパフォーマンスに優れているか？

主な発見

• 提案手法はMNISTで99.46%の精度を達成し、最先端のSNNを上回り、DNNベースラインと同等またはそれを上回った。
• 動的NMNISTデータセットでは99.39%の精度に達し、シナプスフィルターカーネルの学習により0.15%の向上を示した。
• DVS128ジェスチャー認識データセットでは、フィルターカーネルの学習により精度が94.14%から96.09%に向上し、収束速度も向上した。
• 時系列分類においては、TIDIGITSで99.13%、オーストラリア手話で98.21%の精度を達成し、SNNおよびDNNベースラインを上回った。
• 学習されたシナプスインパルス応答カーネルは、標準カーネルよりも遅延が遅く、LSTMゲートと同様に強化された時間的記憶を示した。
• 本手法は、データ前処理や特別なニューロン回路、出力層のWTAメカニズムを必要とせず、スパイクストリームを直接入力可能である。