[論文レビュー] VOWEL: A Local Online Learning Rule for Recurrent Networks of Probabilistic Spiking Winner-Take-All Circuits

Hyeryung Jang, Nicolas Skatchkovsky+1 more|arXiv (Cornell University)|Apr 20, 2020

Advanced Memory and Neural Computing参考文献 48被引用数 8

ひとこと要約

本論文では、局所的でオンライン学習可能なルールであるVOWELを提案する。この手法は、確率的スパイク型WTA（Winner-Take-All）回路の再帰的ネットワークを対象とし、バックプロパゲーションを回避し、ニューロモルフィックハードウェアの制約に適合する。学習には局所的な事前・事後のシナプス情報とグローバルな報酬信号のみを用い、効率的なスパイク型ニューラルネットワーク（SNN）の訓練を可能にする。変分推論、制御変数、正則化を活用することで、特にリソースが限られた環境下でも、空間的・時間的パターンや多値スパイク情報の有効な捉え込みが可能となり、最先端のSNN学習手法を上回る性能を発揮する。

ABSTRACT

Networks of spiking neurons and Winner-Take-All spiking circuits (WTA-SNNs) can detect information encoded in spatio-temporal multi-valued events. These are described by the timing of events of interest, e.g., clicks, as well as by categorical numerical values assigned to each event, e.g., like or dislike. Other use cases include object recognition from data collected by neuromorphic cameras, which produce, for each pixel, signed bits at the times of sufficiently large brightness variations. Existing schemes for training WTA-SNNs are limited to rate-encoding solutions, and are hence able to detect only spatial patterns. Developing more general training algorithms for arbitrary WTA-SNNs inherits the challenges of training (binary) Spiking Neural Networks (SNNs). These amount, most notably, to the non-differentiability of threshold functions, to the recurrent behavior of spiking neural models, and to the difficulty of implementing backpropagation in neuromorphic hardware. In this paper, we develop a variational online local training rule for WTA-SNNs, referred to as VOWEL, that leverages only local pre- and post-synaptic information for visible circuits, and an additional common reward signal for hidden circuits. The method is based on probabilistic generalized linear neural models, control variates, and variational regularization. Experimental results on real-world neuromorphic datasets with multi-valued events demonstrate the advantages of WTA-SNNs over conventional binary SNNs trained with state-of-the-art methods, especially in the presence of limited computing resources.

研究の動機と目的

• 非微分可能なしきい値関数と再帰的トポロジーにおける責任割り当ての課題に取り組むこと。
• バックプロパゲーションを回避し、神経モルフィックハードウェアの制約と互換性を持つ局所的でオンライン学習可能なルールを開発すること。
• ニューロモルフィックカメラからのような多値スパイク情報を持つ空間的・時間的イベントを処理するWTA-SNNにおける有効な学習を可能にすること。
• 限られたニューロン数と粗いサンプリングレートによって既存のSNN学習手法の性能が低下するリソース制約環境での性能向上を図ること。
• 任意のネットワークトポロジー（再帰的・深層構造を含む）に適用可能な汎用的でスケーラブルな学習フレームワークを提供すること。

提案手法

• VOWELは、観測されたスパイクパターンの対数尤度の下界を最大化することで、変分推論に基づいて導出される。
• スパイクニューロンの挙動を確率的一般化線形モデルで表現し、非微分可能なしきい値関数の微分可能な近似を可能にする。
• オンライン学習における勾配の分散を低減するために制御変数が用いられ、サンプル効率が向上する。
• KLに基づく正則化が導入され、学習の安定性を高め、過学習を防止する。
• 学習ルールは完全に局所的である：可視回路の重みは、事前・事後のスパイク活動のみを用いて更新され、隠れ回路の重みは共通のグローバル報酬信号を用いる。
• フレームワークは再帰的・深層構造（自己ループや有向フィードバックを含む）を含む任意のネットワークトポロジーをサポートする。

実験結果

リサーチクエスチョン

• RQ1 再帰的WTA-SNNに対して、バックプロパゲーションを回避し、ニューロモルフィックハードウェアと互換性を持つ局所的でオンライン学習可能なルールを開発できるか？
• RQ2 このようなルールは、レートエンコーディングに依存せず、空間的・時間的パターンや多値スパイク情報の有効な学習が可能か？
• RQ3 リソース制約下で、VOWELの性能は最先端のSNN学習手法と比べてどうなるか？
• RQ4 変分推論と制御変数の使用が、オンラインSNN学習におけるサンプル効率と安定性を向上させるか？
• RQ5 この手法は、異なるネットワークトポロジーに一般化可能であり、隠れユニット数の削減や粗いサンプリングレート下でも性能を維持できるか？

主な発見

• DVSGestureデータセットにおいて、VOWELは64個の隠れWTA回路と20msのサンプリング周期で57.89%の正確性を達成した。これに対してDECOLLEは同条件で26.38%に低下した。
• 128個の隠れ回路と20msのサンプリング周期でも、VOWELは57.96%の正確性を維持し、計算リソースの削減にもかかわらず高いロバストネスを示した。
• 隠れニューロン数の削減やサンプリングレートの粗い化が行われた場合、VOWELはDECOLLEを著しく上回った。これは、特にリソース制限下でも効率的であることを示している。
• 1msのサンプリングレートで1024個の隠れユニットを用いた場合、VOWELは61.42%の正確性を達成し、高解像度でも優れた性能を発揮した。
• 粗いサンプリングや少ないニューロン数の条件下で、VOWELとDECOLLEの性能差が拡大した。これは、VOWELが空間的・時間的および多値スパイク情報の有効活用に優れていることを示している。
• 結果から、VOWELで訓練されたWTA-SNNは、スパイクのタイミングと値にエンコードされた情報を効果的に処理できることを確認した。これは、空間パターンに限定されるレートエンコーディングSNNとは対照的である。