[論文レビュー] Event-based Backpropagation for Analog Neuromorphic Hardware

Christian Pehle, Luca Blessing+3 more|arXiv (Cornell University)|Feb 13, 2023

Advanced Memory and Neural Computing被引用数 4

ひとこと要約

この論文では、アナログ神経モルフィックハードウェア向けに、スパイク時刻の観測のみを用いて勾配を推定するイベントベースのバックプロパゲーションアルゴリズムであるEventPropを紹介する。これにより、サーロー・グレデント法よりも情報効率が10倍向上し、密な状態測定を必要とせず、大規模な神経モルフィックシステムにおけるスケーラブルでエネルギー効率の高いデバイス内学習を可能にする。

ABSTRACT

Neuromorphic computing aims to incorporate lessons from studying biological nervous systems in the design of computer architectures. While existing approaches have successfully implemented aspects of those computational principles, such as sparse spike-based computation, event-based scalable learning has remained an elusive goal in large-scale systems. However, only then the potential energy-efficiency advantages of neuromorphic systems relative to other hardware architectures can be realized during learning. We present our progress implementing the EventProp algorithm using the example of the BrainScaleS-2 analog neuromorphic hardware. Previous gradient-based approaches to learning used "surrogate gradients" and dense sampling of observables or were limited by assumptions on the underlying dynamics and loss functions. In contrast, our approach only needs spike time observations from the system while being able to incorporate other system observables, such as membrane voltage measurements, in a principled way. This leads to a one-order-of-magnitude improvement in the information efficiency of the gradient estimate, which would directly translate to corresponding energy efficiency improvements in an optimized hardware implementation. We present the theoretical framework for estimating gradients and results verifying the correctness of the estimation, as well as results on a low-dimensional classification task using the BrainScaleS-2 system. Building on this work has the potential to enable scalable gradient estimation in large-scale neuromorphic hardware as a continuous measurement of the system state would be prohibitive and energy-inefficient in such instances. It also suggests the feasibility of a full on-device implementation of the algorithm that would enable scalable, energy-efficient, event-based learning in large-scale analog neuromorphic hardware.

研究の動機と目的

• 大規模なアナログ神経モルフィックハードウェアにおけるスケーラブルでエネルギー効率の高いデバイス内勾配ベースの学習を可能にすること。
• 従来の勾配推定手法がニューロンダイナミクスの密なサンプリングを必要とする、あるいはネットワークダイナミクスやトポロジーに関する制限付きの仮定に依存するという限界を克服すること。
• スパイク時刻の観測のみで神経モルフィックハードウェアにおいて正確な勾配推定が可能であることを示すこと。
• 実際の神経モルフィック基板におけるハードウェアのばらつきや非理想性に対しても、本手法の頑健性を検証すること。
• 入力から出力までの完全なループ内学習を、物理的神経モルフィックチップ上でイベントベースのデータのみを用いて実現すること。

提案手法

• EventPropアルゴリズムは、神経モルフィックハードウェアからのスパイク時刻の観測のみを用いて勾配を推定し、連続的な状態監視を回避する。
• PyTorchを用いたソフトウェアベースのアドジョイントダイナミクスモデルを用い、記録されたスパイクイベントと任意の膜電位トレースからパラメータ勾配を計算する。
• 離散的オイラー積分を用いたLeaky Integrate-and-Fire（LIF）ニューロンダイナミクスの前向きおよび後向きパスの統合により、スパイク誘発のジャンプを扱う。
• 勾配はアドジョイント法により計算され、分類タスクのための損失関数は、時間最大出力電位に基づくものである。
• 本手法は、時間定数やスパイク行動に関する仮定を必要とせず、任意のネットワークトポロジーやダイナミクス、損失関数と互換性を持つように設計されている。
• ハードウェアインザループ学習は、BrainScaleS-2プラットフォーム上で実施され、入力スパイクを送信し、出力スパイクと電位を記録し、ソフトウェアで勾配を推定する。

実験結果

リサーチクエスチョン

• RQ1 アナログ神経モルフィックハードウェアにおける勾配推定は、密な状態測定を伴わず、スパイク時刻の観測のみで達成可能か？
• RQ2 EventPropアルゴリズムは、サーロー・グレデント法と同等の学習性能を達成しながら、はるかに高い情報効率を実現するか？
• RQ3 実際の神経モルフィック基板におけるハードウェアのばらつきや非理想性に対して、勾配推定はどの程度頑健か？
• RQ4 本アルゴリズムは物理的神経モルフィックチップに適用可能であり、エンドツーエンドのループ内学習が可能か？
• RQ5 ハードウェア環境下で、EventPropは従来のサーロー・グレデント手法に比べてどの程度の情報効率の向上を達成するか？

主な発見

• EventPropアルゴリズムは、シミュレーションおよびBrainScaleS-2ハードウェア上でのYin-Yangデータセットにおいて、サーロー・グレデント法と同等の分類性能を達成した。
• 本手法により、必要なデータ量が10分の1に削減され、情報効率が1桁向上していることが実証された。
• ハードウェアのスパイク時刻測定からの平均勾配推定値は、解析解と非常に近い値を示し、基板のばらつきに対しても頑健であることが確認された。
• 本アルゴリズムにより、イベントベースの観測のみを用いて、物理的アナログ神経モルフィックハードウェア上でループ内学習が成功裏に実現された。
• 連続的な膜電位記録を必要とせず、スパイク時刻のみを用いても勾配推定が正確に維持されることを確認した。
• 本手法は、任意のネットワークトポロジーやダイナミクス、損失関数と互換性を持つため、従来の手法に見られる制限を克服した。