[論文レビュー] Spike-based causal inference for weight alignment

Jordan Guerguiev, Konrad P. Körding+1 more|arXiv (Cornell University)|Oct 3, 2019

Neural dynamics and brain function参考文献 18被引用数 11

ひとこと要約

本稿では、回帰不連続性デザイン（RDD）に基づくスパイクニューラルネットワーク学習ルールを提案し、生物的重み輸送問題を解決する。この手法により、フィードバック重みがフォワード重みと一致するようになる。スパイクの不連続性を利用することで、ニューロン間の因果的影響を推定し、CIFAR-10、Fashion-MNIST、SVHN、VOCデータセットにおいて、フィードバックアライメントよりも優れた重み一致と学習性能を達成した。

ABSTRACT

In artificial neural networks trained with gradient descent, the weights used for processing stimuli are also used during backward passes to calculate gradients. For the real brain to approximate gradients, gradient information would have to be propagated separately, such that one set of synaptic weights is used for processing and another set is used for backward passes. This produces the so-called "weight transport problem" for biological models of learning, where the backward weights used to calculate gradients need to mirror the forward weights used to process stimuli. This weight transport problem has been considered so hard that popular proposals for biological learning assume that the backward weights are simply random, as in the feedback alignment algorithm. However, such random weights do not appear to work well for large networks. Here we show how the discontinuity introduced in a spiking system can lead to a solution to this problem. The resulting algorithm is a special case of an estimator used for causal inference in econometrics, regression discontinuity design. We show empirically that this algorithm rapidly makes the backward weights approximate the forward weights. As the backward weights become correct, this improves learning performance over feedback alignment on tasks such as Fashion-MNIST, SVHN, CIFAR-10 and VOC. Our results demonstrate that a simple learning rule in a spiking network can allow neurons to produce the right backward connections and thus solve the weight transport problem.

研究の動機と目的

• 生物的学習における重み輸送問題に対処すること。これは、勾配推定のためにはバックワード重みがフォワード重みと一致する必要があるためである。
• 正確な重み輸送を必要とせず、フィードバック重みがフォワード重みと一致する生物学的に妥当な学習ルールを開発すること。
• ニューロンの不連続なスパイク行動を、シナプス可塑性における因果推論の自然なメカニズムとして活用すること。
• 因果推定を通じて対称的アライメントコスト関数を最小化することで、深層スパイキングネットワークの訓練性能を向上させること。

提案手法

• 本手法は、因果推論技術の一つである回帰不連続性デザイン（RDD）を応用し、シナプス前スパイクがシナプス後活動に与える因果的効果を推定する。
• 閾値を設定したスパイクの不連続性を利用し、スパイクの有無をバイナリ処理として扱う擬似実験設定を構築する。
• フィードバック重みの更新ルールは、RDD推定量の特殊ケースとして導出され、対称的アライメントコスト関数内の自己アテンション項を最小化する。
• 本手法は、フォワード重みとフィードバック重みの間の方向的アライメントを測る $ρ_{\text{self}}$ 項を、対称的アライメントコスト関数内で最小化する。
• 本手法は、フォワードとフィードバックの分離されたパスを持つスパイキングネットワークに実装されており、訓練には標準的なバックプロパゲーションを、フィードバック重みの更新にはRDDを用いる。
• 本手法は原則としてDaleの法則に整合可能であり、抑制性インターニューロンを介して多シナプス効果を捉えることができる。

実験結果

リサーチクエスチョン

• RQ1 ニューロンの不連続なスパイク行動を活用することで、因果的シナプス影響を推定し、重み一致を実現できるか？
• RQ2 回帰不連続性デザインに基づく学習ルールは、深層スパイキングネットワークにおいてフィードバックアライメントを上回る性能を示すか？
• RQ3 提案手法は、異なるネットワーク層において、どの程度フィードバック重みをフォワード重みと一致させられるか？
• RQ4 この因果推論アプローチは、生物学的に妥当な方法で重み輸送問題を解決できるか？

主な発見

• RDDフィードバック学習は、特にフィードバックアライメントが失敗する初期層において、フィードバック重みとフォワード重みの符号一致を顕著に改善する。
• 本手法は、特に深層部において、対称的アライメントコスト関数内の $ρ_{\text{self}}$ 項をフィードバックアライメントよりも効果的に低減する。
• CIFAR-10、Fashion-MNIST、SVHN、VOCデータセットにおいて、RDDフィードバック学習は完全なバックプロパゲーションと同等のテスト誤差性能を達成する。
• 本手法は、重み一致と学習精度の両面で、フィードバックアライメントおよび最近のAkroutら（2019）の重み一致手法を上回る。
• フィードバック重みは符号だけでなく、フォワード重みの大きさに対しても一致し、ハードワイヤードの符号対称性を凌駆する。
• 本手法は理論的にDaleの法則と整合可能であり、中間のインターニューロンを介して興奮性および抑制性効果を両方モデル化できる。