[论文解读] Fast and deep neuromorphic learning with time-to-first-spike coding

Julian Göltz, Andreas Baumbach+9 more|arXiv (Cornell University)|Dec 24, 2019

Advanced Memory and Neural Computing被引用 17

一句话总结

本文提出了一种生物可解释且能效高效的脉冲神经网络学习规则，采用首次放电时间编码，实现快速推理与低能耗。该研究推导了具有有限时间常数的漏电整合-放电神经元的误差反向传播，并针对类脑硬件优化了反向传播过程，在两代BrainScaleS类脑计算平台上展示了高效学习性能。

ABSTRACT

For a biological agent operating under environmental pressure, energy consumption and reaction times are of critical importance. Similarly, engineered systems also strive for short time-to-solution and low energy-to-solution characteristics. At the level of neuronal implementation, this implies achieving the desired results with as few and as early spikes as possible. In the time-to-first-spike coding framework, both of these goals are inherently emerging features of learning. Here, we describe a rigorous derivation of error-backpropagation-based learning for hierarchical networks of leaky integrate-and-fire neurons. We explicitly address two issues that are relevant for both biological plausibility and applicability to neuromorphic substrates by incorporating dynamics with finite time constants and by optimizing the backward pass with respect to substrate variability. This narrows the gap between previous models of first-spike-time learning and biological neuronal dynamics, thereby also enabling fast and energy-efficient inference on analog neuromorphic devices that inherit these dynamics from their biological archetypes, which we demonstrate on two generations of the BrainScaleS analog neuromorphic architecture.

研究动机与目标

• 通过在脉冲神经网络中利用首次放电时间编码，开发一种实现快速推理与低能耗消耗的学习规则。
• 通过在学习框架中引入有限时间常数，弥合生物神经元动力学与类脑硬件之间的差距。
• 针对类模拟类脑系统中的基底变异特性，优化反向传播过程，以提升鲁棒性与效率。
• 在保持生物可解释性与能效效率的前提下，实现在类脑硬件上的分层深度学习。

提出的方法

• 基于首次放电时间编码，推导了分层漏电整合-放电神经元网络的误差反向传播。
• 在神经元动力学中引入有限时间常数，以更真实地反映生物与类脑硬件的行为。
• 优化反向传播过程，以适应类模拟类脑基底（如BrainScaleS）中固有的变异特性。
• 提出一种学习规则，通过聚焦首次放电时间，天然地最小化脉冲数量与反应时间。
• 将该框架应用于两代BrainScaleS类模拟类脑架构，以验证性能。
• 确保学习规则保持可微分性，并与标准深度学习优化技术兼容。

实验结果

研究问题

• RQ1 能否针对采用首次放电时间编码、具有生物真实动力学特性的脉冲神经网络，严格推导出误差反向传播？
• RQ2 如何将神经元动力学中的有限时间常数整合进适用于类脑硬件的可微分学习框架？
• RQ3 反向传播在多大程度上可被优化以容忍类模拟类脑基底中的硬件变异？
• RQ4 所提出的学习规则是否能在类模拟类脑平台（如BrainScaleS）上实现快速且能效高效的推理？
• RQ5 首次放电时间编码方案在多大程度上天然支持学习过程中的低脉冲数量与短反应时间？

主要发现

• 所提出的学习规则通过首次放电时间编码，最小化脉冲数量与反应时间，实现快速推理。
• 在学习框架中引入有限时间常数，提升了与生物及类脑硬件动力学的一致性。
• 针对硬件变异优化反向传播过程，增强了类模拟类脑基底上的学习稳定性与性能。
• 该方法在两代BrainScaleS类脑平台上的有效学习表现，证明了其可扩展性与鲁棒性。
• 该框架天然支持低能耗求解，因其偏好早期且稀疏的放电活动。
• 推导出的学习规则在保持与标准反向传播兼容的同时，适用于类模拟类脑硬件的部署。