[论文解读] Loss shaping enhances exact gradient learning with Eventprop in spiking neural networks

Thomas Nowotny, James P. Turner+1 more|arXiv (Cornell University)|Dec 2, 2022

Advanced Memory and Neural Computing被引用 4

一句话总结

本文通过引入'损失整形'（loss shaping）技术，扩展了EventProp算法以训练脉冲神经网络。该技术通过在损失函数中引入加权函数，改进梯度流动。针对精确梯度无法传递脉冲创建/删除影响的固有缺陷，该方法提升了学习稳定性与性能，在SHD等具有挑战性的基准测试中取得竞争力的准确率，而标准EventProp则无法实现。

ABSTRACT

Event-based machine learning promises more energy-efficient AI on future neuromorphic hardware. Here, we investigate how the recently discovered Eventprop algorithm for gradient descent on exact gradients in spiking neural networks can be scaled up to challenging keyword recognition benchmarks. We implemented Eventprop in the GPU-enhanced Neural Networks framework and used it for training recurrent spiking neural networks on the Spiking Heidelberg Digits and Spiking Speech Commands datasets. We found that learning depended strongly on the loss function and extended Eventprop to a wider class of loss functions to enable effective training. We then tested a large number of data augmentations and regularisations as well as exploring different network structures; and heterogeneous and trainable timescales. We found that when combined with two specific augmentations, the right regularisation and a delay line input, Eventprop networks with one recurrent layer achieved state-of-the-art performance on Spiking Heidelberg Digits and good accuracy on Spiking Speech Commands. In comparison to a leading surrogate-gradient-based SNN training method, our GeNN Eventprop implementation is 3X faster and uses 4X less memory. This work is a significant step towards a low-power neuromorphic alternative to current machine learning paradigms.

研究动机与目标

• 为解决EventProp在某些学习任务中因精确梯度无法指示脉冲创建或删除影响而导致的失败问题。
• 将EventProp扩展至支持比其原始严格形式更广泛的损失函数类别。
• 通过在损失积分中引入加权函数，改善梯度向早期层的流动。
• 在时间编码MNIST和Spiking Heidelberg Digits（SHD）数据集上，对扩展后的EventProp与损失整形进行实证评估。
• 证明损失整形可实现稳定且高效的训练，而标准EventProp则失败或学习缓慢。

提出的方法

• 作者通过在积分损失公式中引入加权函数，扩展EventProp以处理更广泛的损失函数类别，从而实现更优的梯度传播。
• 在GeNN中实现扩展后的EventProp，采用CUDA后端以实现GPU加速，支持大规模SNN的高效模拟。
• 为时间到首次放电损失引入幻影脉冲正则化，确保当正确神经元未放电时仍能保持梯度可用性。
• 通过脉冲发放率惩罚项实现隐藏层正则化，并在反向传播中利用伴随方法原理推导出相应的跳跃信号。
• 通过随机位移进行输入增强以提升泛化能力，同时使用Adam优化器进行权重更新。
• 为提高计算效率，将反向传播与下一小批量的前向传播交错执行。

实验结果

研究问题

• RQ1 为何尽管使用精确梯度，EventProp在某些任务上仍无法学习？
• RQ2 在SNN中，缺乏关于脉冲创建或删除的梯度信息如何影响学习动态？
• RQ3 通过'损失整形'修改损失函数，能否改善梯度流动与学习性能？
• RQ4 与损失整形结合时，哪些类型的损失函数最为有效？
• RQ5 损失整形在SHD等具有挑战性的基准测试中，能在多大程度上提升性能？

主要发现

• 在使用标准损失函数时，EventProp无法在Spiking Heidelberg Digits（SHD）数据集上学习，原因在于缺乏关于脉冲创建与删除的梯度信息。
• 损失函数的精确梯度未提供关于脉冲创建或删除是否能改善性能的信号，导致出现非预期的脉冲删除，进而增加损失。
• 通过在积分损失中引入加权函数，损失整形成功增强了从输出层到早期层的梯度流动，稳定了学习过程。
• 采用损失整形的修改后损失函数在SHD数据集上实现了具有竞争力的分类准确率，优于标准EventProp。
• 幻影脉冲正则化与隐藏层脉冲发放率正则化显著提升了训练的稳定性和收敛性。
• 随机位移增强被证明是最有效的输入增强方法，可提升泛化能力，而其他方法效果可忽略。