[论文解读] Spike-Timing-Dependent Back Propagation in Deep Spiking Neural Networks

Malu Zhang, Jiadong Wang+6 more|arXiv (Cornell University)|Mar 26, 2020

Advanced Memory and Neural Computing被引用 20

一句话总结

本文提出了一种新型的脉冲时间依赖反向传播（STDBP）学习算法，用于深度脉冲神经网络（DSNNs），通过利用脉冲时间的时序编码实现高效、事件驱动的反向传播。该方法采用修正线性突触后电位（ReL-PSP）函数，在基于脉冲时间的SNN学习中实现了最先进性能，证明了脉冲时间在线路可塑性和决策制定中的关键作用。

ABSTRACT

The success of Deep Neural Networks (DNNs) can be attributed to its deep structure, that learns invariant feature representation at multiple levels of abstraction. Brain-inspired Spiking Neural Networks (SNNs) use spatiotemporal spike patterns to encode and transmit information, which is biologically realistic, and suitable for ultra-low-power event-driven neuromorphic implementation. Therefore, Deep Spiking Neural Networks (DSNNs) represent a promising direction in artificial intelligence, with the potential to benefit from the best of both worlds. However, the training of DSNNs is challenging because standard error back-propagation (BP) algorithms are not directly applicable. In this paper, we first establish an understanding of why error back-propagation does not work well in DSNNs. To address this problem, we propose a simple yet efficient Rectified Linear Postsynaptic Potential function (ReL-PSP) for spiking neurons and propose a Spike-Timing-Dependent Back-Propagation (STDBP) learning algorithm for DSNNs. In the proposed learning algorithm, the timing of individual spikes is used to carry information (temporal coding), and learning (back-propagation) is performed based on spike timing in an event-driven manner. Experimental results demonstrate that the proposed learning algorithm achieves state-of-the-art performance in spike time based learning algorithms of SNNs. This work investigates the contribution of dynamics in spike timing to information encoding, synaptic plasticity and decision making, providing a new perspective to design of future DSNNs.

研究动机与目标

• 为解决由于标准反向传播与脉冲神经元动力学不兼容而导致的深度脉冲神经网络（DSNNs）训练难题。
• 理解传统误差反向传播在SNN中失效的原因，特别是脉冲事件的不可微性。
• 开发一种高效且生物可解释的学习算法，使DSNN中可通过脉冲时间作为信息载体实现反向传播。
• 证明脉冲时间动力学在DSNN中信息编码、突触可塑性和决策制定中的显著贡献。

提出的方法

• 提出一种修正线性突触后电位（ReL-PSP）函数，用于建模脉冲神经元中的突触后电位，实现可微计算以支持反向传播。
• 设计一种脉冲时间依赖反向传播（STDBP）算法，通过精确的单个脉冲时间计算梯度，实现事件驱动的更新方式。
• 通过将基于连续激活值的权重更新替换为基于脉冲时间的更新，改进反向传播机制，保持时序编码的保真度。
• 引入脉冲事件的可微近似，使梯度能够通过脉冲神经元流动，克服脉冲函数的不可微性。
• 采用时序编码，将信息编码在脉冲的精确时间上，与生物合理性及低功耗类脑计算相一致。
• 通过将脉冲时间作为主要信息载体，实现误差信号在时间变化的脉冲模式中的传播，支持深度网络的端到端训练。

实验结果

研究问题

• RQ1 为何标准反向传播因脉冲事件的不可微性而在脉冲神经网络中失效？
• RQ2 如何有效利用脉冲时间作为信息载体，实现在DSNN中的梯度学习？
• RQ3 脉冲时间动力学对深度脉冲网络中突触可塑性和决策制定有何影响？
• RQ4 能否通过一种生物合理且事件驱动的反向传播算法，利用时序编码在SNN中实现最先进性能？
• RQ5 与传统PSP模型相比，ReL-PSP函数如何提升DSNN中训练的稳定性和性能？

主要发现

• 所提出的STDBP算法在基于脉冲时间的学习算法中，于深度脉冲神经网络中实现了最先进性能。
• 利用脉冲时间进行信息编码与梯度计算，使在标准BP失效的SNN中也能实现有效反向传播。
• ReL-PSP函数提供了突触后电位的可微且稳定的近似，有助于可靠地传播误差信号。
• 该算法表明，时序编码不仅增强了信息表征能力，还支持深度架构中的鲁棒学习。
• 实验结果证实，脉冲时间动力学显著促进了DSNN中的突触可塑性和决策制定。
• STDBP的事件驱动特性使其适用于超低功耗类脑硬件实现，契合生物计算与能效高效计算的目标。