[论文解读] Deep Spiking Neural Network with Spike Count based Learning Rule

Jibin Wu, Yansong Chua+4 more|arXiv (Cornell University)|Feb 15, 2019

Advanced Memory and Neural Computing参考文献 28被引用 11

一句话总结

该论文提出了一种新型基于脉冲的反向传播规则，用于深度脉冲神经网络（SNNs），该规则使用脉冲计数作为替代梯度，以训练速率编码输入，从而实现对延迟和脉冲速率等硬件约束的直接训练。在仅使用10次仿真时间步长的情况下，该方法在MNIST（MLP）上实现了98.66%的最先进准确率，在MNIST（CNN）上实现了99.26%的最先进准确率，优于间接的ANN转SNN转换方法，并支持高效的类脑硬件部署。

ABSTRACT

Deep spiking neural networks (SNNs) support asynchronous event-driven computation, massive parallelism and demonstrate great potential to improve the energy efficiency of its synchronous analog counterpart. However, insufficient attention has been paid to neural encoding when designing SNN learning rules. Remarkably, the temporal credit assignment has been performed on rate-coded spiking inputs, leading to poor learning efficiency. In this paper, we introduce a novel spike-based learning rule for rate-coded deep SNNs, whereby the spike count of each neuron is used as a surrogate for gradient backpropagation. We evaluate the proposed learning rule by training deep spiking multi-layer perceptron (MLP) and spiking convolutional neural network (CNN) on the UCI machine learning and MNIST handwritten digit datasets. We show that the proposed learning rule achieves state-of-the-art accuracies on all benchmark datasets. The proposed learning rule allows introducing latency, spike rate and hardware constraints into the SNN learning, which is superior to the indirect approach in which conventional artificial neural networks are first trained and then converted to SNNs. Hence, it allows direct deployment to the neuromorphic hardware and supports efficient inference. Notably, a test accuracy of 98.40% was achieved on the MNIST dataset in our experiments with only 10 simulation time steps, when the same latency constraint is imposed during training.

研究动机与目标

• 解决现有基于脉冲的学习规则在处理速率编码输入时依赖脉冲时间信息的低效问题，因为此时时间信息是冗余的。
• 克服间接ANN转SNN转换方法的局限性，后者存在延迟-准确率权衡问题，并需要后期处理。
• 开发一种原生支持硬件约束（如延迟、脉冲速率）的训练方法，以便实现直接类脑硬件部署。
• 实现在速率编码数据集（如MNIST和UCI）上深度SNN的高效、端到端训练，且不依赖脉冲时间信息或预训练的ANN。

提出的方法

• 采用非漏电的积分-发放（IF）神经元模型，忽略脉冲时间，仅累积输入脉冲，适用于速率编码输入。
• 使用脉冲计数作为可微分的替代梯度，以绕过脉冲生成过程的不可微性。
• 通过将脉冲计数作为输出信号，应用标准的时间反向传播（BPTT），实现深度SNN的端到端训练。
• 将最大仿真时间（延迟）和脉冲速率等硬件约束直接整合到训练目标中，支持直接部署至类脑硬件。
• 使用所提出的规则在MNIST和UCI数据集上训练多层感知机（MLP）和卷积神经网络（CNN）架构。
• 避免使用数据增强、批量归一化和Dropout，完全依赖基于脉冲计数的学习规则实现性能。

实验结果

研究问题

• RQ1 在基于速率编码输入训练的深度SNN中，脉冲计数能否作为反向传播的有效替代梯度，而无需依赖脉冲时间？
• RQ2 与间接的ANN转SNN转换方法相比，该学习规则在基准数据集上的准确率和延迟效率表现如何？
• RQ3 在多大程度上可以将推理延迟和脉冲速率等硬件约束整合到训练过程中，以实现直接类脑硬件部署？
• RQ4 该方法是否在MNIST和UCI数据集上实现了最先进性能，且无需使用高级正则化或数据增强技术？

主要发现

• 所提出的训练规则在仅使用10次仿真时间步长的情况下，使784-800-800-10的MLP在MNIST数据集上实现了98.66%的测试准确率。
• 采用28×28-12c5-2a-64c5-2a-10架构的脉冲CNN在MNIST上实现了99.26%的测试准确率，且无需数据增强或批量归一化。
• 该方法优于间接的ANN转SNN转换方法，在CNN上实现了高于最佳报告转换结果（99.44%）的准确率，同时支持直接硬件部署。
• 在仅10个时间步长下，该模型在MNIST上实现了98.40%的准确率，证明了其出色的延迟效率，并在严格时间约束下接近最优性能。
• 由于无需追踪时间动态，基于脉冲计数的规则相比基于脉冲时间的反向传播方法，显著降低了计算和内存开销。
• 通过在训练过程中嵌入延迟和脉冲速率约束，该方法实现了对类脑硬件的直接部署，消除了对后期处理或额外优化的需求。