[論文レビュー] Learning arbitrary dynamics in efficient, balanced spiking networks using local plasticity rules

Alireza Alemi, Christian K. Machens+2 more|arXiv (Cornell University)|May 22, 2017

Advanced Memory and Neural Computing参考文献 17被引用数 12

ひとこと要約

この論文は、局所的シナプス可塑性ルールのみを用いて任意の非線形ダイナミクスを学習できる、生物学的に妥当な学習フレームワークを提案する。効率的でバランスの取れたスパイクネットワーク（EBN）と非線形適応制御理論を組み合わせることで、局所的誤差フィードバックによりスパイク効率性、ノイズおよびニューロン欠損に対するロバスト性、最小限のスパイク数を実現し、低次元で非同期なスパイクトレインで正確なダイナミクスを達成する。

ABSTRACT

Understanding how recurrent neural circuits can learn to implement dynamical systems is a fundamental challenge in neuroscience. The credit assignment problem, i.e. determining the local contribution of each synapse to the network's global output error, is a major obstacle in deriving biologically plausible local learning rules. Moreover, spiking recurrent networks implementing such tasks should not be hugely costly in terms of number of neurons and spikes, as they often are when adapted from rate models. Finally, these networks should be robust to noise and neural deaths in order to sustain these representations in the face of such naturally occurring perturbation. We approach this problem by fusing the theory of efficient, balanced spiking networks (EBN) with nonlinear adaptive control theory. Local learning rules are ensured by feeding back into the network its own error, resulting in a synaptic plasticity rule depending solely on presynaptic inputs and post-synaptic feedback. The spiking efficiency and robustness of the network are guaranteed by maintaining a tight excitatory/inhibitory balance, ensuring that each spike represents a local projection of the global output error and minimizes a loss function. The resulting networks can learn to implement complex dynamics with very small numbers of neurons and spikes, exhibit the same spike train variability as observed experimentally, and are extremely robust to noise and neuronal loss.

研究の動機と目的

• スパイクネットワークにおけるクレジット・アサインメント問題に取り組むために、生物学的に妥当な局所的学習ルールを導出すること。
• スパイク数の最小化を図ることでスパイク効率性を確保しながら、正確なダイナミクス表現を維持すること。
• 退化的でバランスの取れた神経集団を用いて、ノイズおよびニューロン欠損に対してロバスト性を実現すること。
• 効率的でバランスの取れたネットワーク（EBN）と適応制御理論を統合し、任意の非線形ダイナミクスを学習可能なフレームワークを構築すること。
• 非同期的で不規則なスパイク活動が、ノイズではなく効率的コーディングの兆候であることを示すこと。

提案手法

• ネットワークは、非線形 dendritic 結合（例：tanh）を用いて実装された基底関数の集合を用い、任意の非線形ダイナミクスを近似する。
• 適応制御理論を用いて局所的学習ルールを導出し、シナプス重みは事前シナプス活動と事後シナプス誤差フィードバックの相関に基づいて更新される。
• 誤差信号は、所望の軌道と再構築された状態との差として定義され、これをフィードバックして局所的に可塑性を調整する。
• 厳密な興奮性・抑制性（E/I）バランスにより、各スパイクが意味のある誤差関連信号を運び、冗長性を最小限に抑え、効率的コーディングを可能にする。
• 学習ルールの収束を保証するため、リャプノフ関数を用い、グローバルな誤差逆伝播を必要としない。
• ネットワークアーキテクチャは次元削減をサポートし、神経活動はタスク関連部分空間に制限され、それ以外の方向の揺らぎは直交する。

実験結果

リサーチクエスチョン

• RQ1 スパイクネットワークにおいて、任意の非線形ダイナミクスを学習できる、局所的で生物学的に妥当な可塑性ルールを導出できるか？
• RQ2 スパイク数の最小化（＝スパイク効率性）を達成しながら、正確なダイナミクスを維持するにはどうすればよいか？
• RQ3 学習性能を損なわず、ノイズおよびニューロン欠損に対してもネットワークがロバストに保てるか？
• RQ4 非同期的で不規則なスパイク活動は、ノイズではなく効率的コーディングの兆候であると見なせるか？
• RQ5 EBNと適応制御理論の組み合わせにより、複雑なダイナミクスを学習可能なスケーラブルで局所的な学習フレームワークを構築できるか？

主な発見

• グローバルな誤差逆伝播を必要とせず、局所的シナプス可塑性のみで任意の非線形ダイナミクスを学習可能である。
• 厳密なE/Iバランスによりスパイク効率性が達成され、スパイク数が少なく、相関のないスパイクトレインが得られ、冗長性が最小限に抑えられる。
• ノイズおよびニューロン欠損に対してロバストであり、最大30％のニューロンを除去しても正確なダイナミクスを維持する。
• スパイクトレインは実験的観察とよく一致し、低発火率および不規則で非同期なパターンが皮膚様活動と整合的である。
• 学習ルールは安定かつ収束的であり、誤差を時間的に最小化するリャプノフ関数により保証される。
• フレームワークは次元削減をサポートし、集団ダイナミクスがタスク関連部分空間に制限され、その直交方向の揺らぎが存在する。