[論文レビュー] Surrogate Gradient Learning in Spiking Neural Networks

Emre Neftci, Hesham Mostafa+1 more|arXiv (Cornell University)|Jan 28, 2019

Advanced Memory and Neural Computing参考文献 40被引用数 149

ひとこと要約

本論文はスパイキングニューラルネットワーク(SNN)の訓練を検討し、非微分可能なスパイキングダイナミクスを克服するための代理勾配法を提案し、SNNがRNNへどうマップされるかとSGが学習を有効にする方法を詳述する。

ABSTRACT

Spiking neural networks are nature's versatile solution to fault-tolerant and energy efficient signal processing. To translate these benefits into hardware, a growing number of neuromorphic spiking neural network processors attempt to emulate biological neural networks. These developments have created an imminent need for methods and tools to enable such systems to solve real-world signal processing problems. Like conventional neural networks, spiking neural networks can be trained on real, domain specific data. However, their training requires overcoming a number of challenges linked to their binary and dynamical nature. This article elucidates step-by-step the problems typically encountered when training spiking neural networks, and guides the reader through the key concepts of synaptic plasticity and data-driven learning in the spiking setting. To that end, it gives an overview of existing approaches and provides an introduction to surrogate gradient methods, specifically, as a particularly flexible and efficient method to overcome the aforementioned challenges.

研究の動機と目的

• 隠れ層を持つ深いスパイキングニューラルネットワークの訓練における課題を説明する。
• 微分不能なスパイキング非線形性に対する柔軟な解決策として代理勾配法を紹介・分類する。
• SNNsを再帰型ニューラルネットワークとして定式化してRNNの訓練技術を移転できることを示す。
• ニューロモーフィックやハードウェア指向プラットフォーム上での訓練実装における実用的な考慮事項を論じる。

提案手法

• 現在ベースのシナプスを持つスパイキングLIFニューロンを等価なRCNN/RNNとして定式化し、訓練視点を統一する。
• シナプス電流と膜電位の離散時間ダイナミクス方程式（式2–5）を記述し、RNNの状態更新と関連付ける。
• RNNの訓練手法（BP/Backpropagation Through Time、フォワード法、局所性）をレビュー・分類し、それらをSNNに適用する。
• スパイキング非線形性の微分不可能性に対処する代理勾配（SG）アプローチを導入し、SGが標準的な勾配法と組み合わせる方法を含める。
• 平滑化アプローチ（ソフト/非線形モデル、確率モデル、レート符号化、単一スパイクタイミング）とSGベースのアプローチ（代理導関数を通じた勾配）の違いを区別する。
• SGがさまざまな符号化方式とハードウェアの考慮を含むSNNのエンドツーエンド訓練を可能にする方法を要約する。）

実験結果

リサーチクエスチョン

• RQ1 隠れ層を持つ深いSNNの訓練における主な課題は何か。
• RQ2 代理勾配法は非微分可能なスパイキング非線形性にどのように対処してSNNで勾配ベースの学習を可能にするか。
• RQ3 SNNはBP Tやフォワード法などRNNベースの技術を用いてどのように効果的に訓練できるか。
• RQ4 ハードウェア実装とローカル学習則におけるSG法の実用的影響は何か。

主な発見

• SNNはRNNの一形態として扱うことができ、RNNからSNNへの勾配ベース訓練技術の移転を可能にする。
• 代理勾配法はスパイキング非線形性への連続・微分可能な近似を提供し、効果的な勾配ベース最適化を可能にする。
• SGは従来のバックプロパゲーション（BPTT）やフォワード法（適格性痕跡を含む）と組み合わせてSNNを訓練できる。
• 平滑化ベースのアプローチとSGベースのアプローチを比較し、代理の厳密な選択よりも有用な勾配信号を保持することが重要である、と強調する。
• SG技術はさまざまな符号化方式（レート、タイミング）に対応でき、完全なBPTTが実用的でないハードウェア制約にも適応できる。
• 文献調査は一連の代理導関数（階段的線形、速いシグモイド、指数関数）とそれらのRCNNおよび深いSNNへの成功した適用を網羅している。