[论文解读] S-TLLR: STDP-inspired Temporal Local Learning Rule for Spiking Neural Networks

Marco Paul E. Apolinario, Kaushik Roy|arXiv (Cornell University)|Jun 27, 2023

Advanced Memory and Neural ComputingEngineering被引用 3

一句话总结

该论文提出了一种新型三因素时间局部学习规则 S-TLLR，用于脉冲神经网络（SNNs），其灵感源自脉冲时序可塑性（STDP），同时结合了突触前与突触后脉冲之间的因果与非因果时间关系。该方法在事件驱动任务上实现了与 BPTT 相当的精度，同时将内存消耗降低 5–50 倍，乘加（MAC）操作减少 1.3–6.6 倍，从而实现了在低功耗边缘设备上的高效在线学习。

ABSTRACT

Spiking Neural Networks (SNNs) are biologically plausible models that have been identified as potentially apt for deploying energy-efficient intelligence at the edge, particularly for sequential learning tasks. However, training of SNNs poses significant challenges due to the necessity for precise temporal and spatial credit assignment. Back-propagation through time (BPTT) algorithm, whilst the most widely used method for addressing these issues, incurs high computational cost due to its temporal dependency. In this work, we propose S-TLLR, a novel three-factor temporal local learning rule inspired by the Spike-Timing Dependent Plasticity (STDP) mechanism, aimed at training deep SNNs on event-based learning tasks. Furthermore, S-TLLR is designed to have low memory and time complexities, which are independent of the number of time steps, rendering it suitable for online learning on low-power edge devices. To demonstrate the scalability of our proposed method, we have conducted extensive evaluations on event-based datasets spanning a wide range of applications, such as image and gesture recognition, audio classification, and optical flow estimation. In all the experiments, S-TLLR achieved high accuracy, comparable to BPTT, with a reduction in memory between $5-50 imes$ and multiply-accumulate (MAC) operations between $1.3-6.6 imes$.

研究动机与目标

• 解决在训练用于序列学习任务的深度 SNN 时，反向传播时间（BPTT）带来的高计算与内存开销问题。
• 开发一种学习规则，使资源受限的边缘设备能够实现高效在线训练，且时间与内存复杂度保持恒定。
• 探索在标准因果 STDP 之外引入非因果脉冲时间关系所带来的优势，以提升学习性能。
• 在包括图像、手势、音频和光流任务在内的多样化事件数据集上验证该方法的有效性。
• 证明一种生物上合理的学习机制可实现与 BPTT 相当的性能，同时显著降低计算开销。

提出的方法

• S-TLLR 是一种受 STDP 启发的三因素学习规则，利用突触前脉冲时间、突触后脉冲时间以及来自误差反向传播或随机反馈连接的第三个因素。
• 它引入了一个广义参数化 STDP 方程，并采用二次激活函数来计算突触后活动，从而实现灵活的可塑性痕迹计算。
• 可塑性痕迹由来自反向传播（BP）或直接反馈对齐（DFA）的信号调制，从而支持可扩展且局部的权重更新。
• 该方法为每个突触计算一个瞬时可塑性痕迹，其依赖于突触前与突触后脉冲的时间，通过参数化突触后影响因子包含非因果项。
• 该学习规则设计为时间与内存复杂度恒定，与时间步数无关，因此适用于在线与实时学习。
• 该方法支持使用 BP 和 DFA 两种方式生成学习信号，从而可对信号精度对性能的影响进行消融研究。

实验结果

研究问题

• RQ1 一种融合非因果脉冲时间关系的生物启发学习规则是否能提升 SNN 的训练性能？
• RQ2 S-TLLR 是否在显著降低内存与计算成本的同时，实现与 BPTT 相当的精度？
• RQ3 在可塑性痕迹中引入非因果项，如何影响在多样化事件数据集上的泛化能力与任务性能？
• RQ4 不同的学习信号生成方法（BP 与 DFA）对 S-TLLR 中非因果项有效性的影响力如何？
• RQ5 S-TLLR 是否能有效扩展至如 VGG9 和 RSNN 等复杂时空任务中的深层 SNN 架构？

主要发现

• S-TLLR 在所有评估任务中均实现了与 BPTT 相当的性能，包括 DVS 手势、NCALTECH101 和 SHD 数据集，内存使用量最高降低 50 倍，MAC 操作减少 6.6 倍。
• 引入非因果项（通过 αpost = +1）可提升泛化能力与准确率，尤其在使用反向传播生成学习信号时效果更显著。
• 当使用直接反馈对齐（DFA）时，非因果项的增益较小，表明精确的误差信号（如 BP）是充分发挥非因果关系潜力的必要条件。
• 将 λpre 设置为略高于 LIF 泄漏参数 γ（0.5）可提升平均准确率，表明输入痕迹最优衰减因子可能与膜时间常数不同。
• 消融实验表明，任何非零的 αpost 值均优于 αpost = 0，且在所有数据集与模型中，αpost = +1 时表现最佳。
• 在 SHD 数据集上，S-TLLR 使用 αpost = +1 时，在 RSNN 上实现了 78.23%（±1.84%）的准确率，与 BPTT 性能非常接近，同时保持恒定复杂度。