[論文レビュー] EventProp: Backpropagation for Exact Gradients in Spiking Neural Networks

Timo C. Wunderlich, Christian Pehle|arXiv (Cornell University)|Sep 17, 2020

Advanced Memory and Neural Computing参考文献 55被引用数 8

ひとこと要約

EventProp は、漏れ積分・発火型ニューロンを備えたスパikingニューラルネットワークにおける誤差逆伝播法を、最適制御理論を用いて、スパイクの不連続性を通り抜けても正確な勾配を計算するアルゴリズムを提供する。この手法により、スパイク発火時刻や膜電位に関する損失関数の勾配を正確に算出し、スパイク発火時のみに状態を保存することで、最小限のメモリ使用量で任意のネットワークアーキテクチャ（順方向、再帰的、畳み込み型）の学習が可能になる。

ABSTRACT

We derive the backpropagation algorithm for spiking neural networks composed of leaky integrate-and-fire neurons operating in continuous time. This algorithm, EventProp, computes the exact gradient of an arbitrary loss function of spike times and membrane potentials by backpropagating errors in time. For the first time, by leveraging methods from optimal control theory, we are able to backpropagate errors through spike discontinuities without approximations or smoothing operations. As errors are backpropagated in an event-based manner (at spike times), EventProp requires storing state variables only at these times, providing favorable memory requirements. EventProp can be applied to spiking networks with arbitrary connectivity, including recurrent, convolutional and deep feed-forward architectures. While we consider the leaky integrate-and-fire neuron model in this work, our methodology to derive the gradient can be applied to other spiking neuron models. We demonstrate learning using gradients computed via EventProp in a deep spiking network using an event-based simulator and a non-linearly separable dataset encoded using spike time latencies. Our work supports the rigorous study of gradient-based methods to train spiking neural networks while providing insights toward the development of learning algorithms in neuromorphic hardware.

研究の動機と目的

• スパイクの不連続性を近似や平滑化を用いずに厳密に扱う、スパイキングニューラルネットワークのきめ細やかな誤差逆伝播法の開発。
• 連続時間スパイキングネットワークにおけるスパイク発火時刻および膜電位の任意の損失関数に対する勾配計算の実現。
• 連続的ではなくスパイク発火時でのみ状態を保存することにより、メモリ使用量の低減。
• 深層、再帰的、畳み込み型スパイキングネットワークなどの複雑なアーキテクチャの学習を、正確な勾配を用いて可能にする。
• 神経モルフィックコンピューティングに応用可能な、スパイキングニューラルネットワークにおける勾配ベース学習の理論的基盤の構築。

提案手法

• 最適制御理論を活用し、連続時間スパイキングネットワークにおけるスパイク不連続性を通過する正確な勾配を導出する。
• 漏れ積分・発火型ニューロンの随伴系を導出し、時間的に逆方向に誤差を伝搬させることで正確性を保持する。
• イベントベースの誤差逆伝播を適用し、誤差信号をスパイク発火時でのみ伝搬させることで、メモリオーバーヘッドを低減する。
• 随伴法を用いて、シナプス重みおよびニューロンパラメータに関する損失関数の勾配を計算する。
• 再帰的および深層アーキテクチャを含む、任意のネットワーク接続性へのフレームワークの拡張。
• 非線形分離不可能なデータセットをスパイク発火遅延で符号化し、イベントベースシミュレータを用いて実現可能性を確認した。

実験結果

リサーチクエスチョン

• RQ1 連続時間スパイキングニューラルネットワークにおいて、近似や平滑化を用いずにスパイク不連続性を通過する正確な勾配を計算できるか？
• RQ2 状態をスパイク発火時でのみ保存するという点で、誤差逆伝播をイベントベースにどのように適合できるか？
• RQ3 最適制御原理を用いて、スパイキングネットワークにおける正確な勾配を計算する理論的基盤は何か？
• RQ4 提案手法により、非線形分離が困難な複雑なタスクにおいて、深層・再帰的・畳み込み型スパイキングネットワークを正確な勾配で学習可能か？
• RQ5 従来の誤差逆伝播法と比較して、イベントベース勾配計算のメモリ効率はどの程度向上するか？

主な発見

• EventProp は、連続時間スパイキングニューラルネットワークにおいて、スパイク発火時刻および膜電位の任意の損失関数に対して正確な勾配を計算可能である。
• 最適制御理論を用いることで、近似や平滑化を用いずにスパイク不連続性を通過する誤差逆伝播が可能である。
• スパイク発火時でのみ状態変数を保存することで、大幅なメモリ使用量の低減が達成され、スケーラブルな学習が可能になる。
• EventProp は、深層・再帰的・畳み込み型スパイキングネットワークの正確な勾配を用いた学習をサポートする。
• スパイク発火遅延で符号化された非線形分離不可能なデータセットを用いた実験により、複雑な学習タスクにおける有効性が確認された。
• フレームワークは漏れ積分・発火型モデルに限らず、他のスパイキングニューロンモデルへも一般化可能である。