[論文レビュー] BioGrad: Biologically Plausible Gradient-Based Learning for Spiking Neural Networks

Guangzhi Tang, N.M Saravana Kumar+2 more|arXiv (Cornell University)|Oct 27, 2021

Advanced Memory and Neural Computing被引用数 5

ひとこと要約

BioGradは、背後学習と同等の性能を達成しながら、神経モルフィック原則に従う生物学的に妥当な勾配ベースの学習アルゴリズムを提示する。このアルゴリズムは、イベント駆動型、局所的、オンライン計算を特徴とし、多コンpartメントニューロンと局所的エリジビリティトレースを用い、フィードバックとフィードフォワード重みを一致させるための周期的「スリープ」フェーズを導入することで、神経モルフィックハードウェア上で学習が可能になる。この手法により、GPUベースの学習と比較して1サンプルあたり400倍のエネルギー効率が実現された。

ABSTRACT

Spiking neural networks (SNN) are delivering energy-efficient, massively parallel, and low-latency solutions to AI problems, facilitated by the emerging neuromorphic chips. To harness these computational benefits, SNN need to be trained by learning algorithms that adhere to brain-inspired neuromorphic principles, namely event-based, local, and online computations. Yet, the state-of-the-art SNN training algorithms are based on backprop that does not follow the above principles. Due to its limited biological plausibility, the application of backprop to SNN requires non-local feedback pathways for transmitting continuous-valued errors, and relies on gradients from future timesteps. The introduction of biologically plausible modifications to backprop has helped overcome several of its limitations, but limits the degree to which backprop is approximated, which hinders its performance. We propose a biologically plausible gradient-based learning algorithm for SNN that is functionally equivalent to backprop, while adhering to all three neuromorphic principles. We introduced multi-compartment spiking neurons with local eligibility traces to compute the gradients required for learning, and a periodic "sleep" phase to further improve the approximation to backprop during which a local Hebbian rule aligns the feedback and feedforward weights. Our method achieved the same level of performance as backprop with multi-layer fully connected SNN on MNIST (98.13%) and the event-based N-MNIST (97.59%) datasets. We deployed our learning algorithm on Intel's Loihi to train a 1-hidden-layer network for MNIST, and obtained 93.32% test accuracy while consuming 400 times less energy per training sample than BioGrad on GPU. Our work shows that optimal learning is feasible in neuromorphic computing, and further pursuing its biological plausibility can better capture the benefits of this emerging computing paradigm.

研究の動機と目的

• バックプロパゲーションと同等の機能を達成するが、神経モルフィック計算原則に従う勾配ベースのSNN学習ルールの開発。
• 従来のバックプロパゲーションがSNNに適用可能でない生物学的非妥当性（非局所的フィードバック、連続的な誤差信号、将来のタイムステップ依存性）を克服すること。
• イベント駆動型、局所的、オンライン計算を保証することで、神経モルフィックハードウェアへの直接的な学習デプロイメントを可能にすること。
• 周期的「スリープ」フェーズを用いて、局所的ヒブスルールを適用することで、フィードバック重みとフィードフォワード重みの一致を向上させること。
• 生物学的に妥当な学習が、MNIST や N-MNIST などのSNNベンチマークで最先端の性能を達成できることを示すこと。

提案手法

• 多コンパートメントスパイクニューロンを採用し、フィードフォワード入力とフィードバック入力を別々の dendritic コンパートメントに分離することで、局所的勾配計算を可能にする。
• エリジビリティトレースを各ニューロン内で局所的に計算し、プレシネプティックおよびポストシネプティック活動の時間的変化を捉えることで、時間的信用割り当てを実現する。
• フィードバック重みとフィードフォワード重みを一致させるために、周期的な「スリープ」フェーズを導入し、この間、局所的ヒブスルールにより重みを更新する。
• ランダムなフィードバック重み（RandInit）を用いることで、脳における上流と下流のパスが同一でないのを模倣し、生物学的妥当性を向上させる。
• バッチ処理を想定しない低精度学習にも耐性があるように学習ルールを設計し、神経モルフィックハードウェアの制約に適応する。
• この手法はインテルのLoihiプロセッサにデプロイされ、大幅に低いエネルギー消費で高い精度を達成した。

実験結果

リサーチクエスチョン

• RQ1 SNNの勾配ベースの学習ルールは、バックプロパゲーションと同等の機能を果たしつつ、生物学的に妥当であると同時に可能か？
• RQ2 非局所的情報や連続的な誤差信号を一切用いずに、フィードバック重みの一致をどのように達成できるか？
• RQ3 周期的「スリープ」フェーズは、生物学的に妥当な方法でバックプロパゲーションの近似を改善できるか？
• RQ4 この手法は、低精度およびストリーミングデータを前提とした神経モルフィックハードウェアにどの程度デプロイ可能か？
• RQ5 ランダムなフィードバック重みの使用は、性能を維持しつつ生物学的妥当性を高められるか？

主な発見

• BioGradはMNISTで98.13%、イベントベースのN-MNISTデータセットで97.59%の精度を達成し、従来のバックプロパゲーションと同等の性能を示した。
• スリープフェーズの導入により、重み行列間の角度が小さくなり、重みの大きさの相関が高くなったことから、フィードバック重みとフィードフォワード重みの一致が顕著に向上した。
• ランダムに初期化されたフィードバック重み（RandInit）を用いても、高い性能を維持したため、ルールの頑健性と生物学的妥当性が裏付けられた。
• 低周波でもスリープフェーズは有効であった—256バッチごとにスリープを実施した場合、MNISTで98.21%の精度を達成し、間隔が空いていても長いスリープサイクルで十分であることが示された。
• インテルのLoihi神経モルフィックプロセッサにデプロイした場合、MNISTで93.32%のテスト精度を達成したが、GPUベースのBioGradと比較して1サンプルあたり400倍のエネルギー効率が向上した。
• バッチ処理を想定しない低精度学習に対しても頑健であることが確認され、リアルタイムでエネルギー効率の高い神経モルフィック推論および学習に適していることが示された。