[论文解读] BioGrad: Biologically Plausible Gradient-Based Learning for Spiking Neural Networks

Guangzhi Tang, N.M Saravana Kumar+2 more|arXiv (Cornell University)|Oct 27, 2021

Advanced Memory and Neural Computing被引用 5

一句话总结

BioGrad 提出了一种生物上合理的基于梯度的脉冲神经网络（SNN）学习算法，其性能与反向传播相当，同时遵循神经形态计算原则：事件驱动、局部计算和在线学习。该方法采用多 compartment 神经元，结合局部可塑性痕迹，并引入周期性“睡眠”阶段以对齐反馈与前向权重，从而实现在神经形态硬件上的直接训练，单位样本能耗较基于 GPU 的训练降低 400 倍。

ABSTRACT

Spiking neural networks (SNN) are delivering energy-efficient, massively parallel, and low-latency solutions to AI problems, facilitated by the emerging neuromorphic chips. To harness these computational benefits, SNN need to be trained by learning algorithms that adhere to brain-inspired neuromorphic principles, namely event-based, local, and online computations. Yet, the state-of-the-art SNN training algorithms are based on backprop that does not follow the above principles. Due to its limited biological plausibility, the application of backprop to SNN requires non-local feedback pathways for transmitting continuous-valued errors, and relies on gradients from future timesteps. The introduction of biologically plausible modifications to backprop has helped overcome several of its limitations, but limits the degree to which backprop is approximated, which hinders its performance. We propose a biologically plausible gradient-based learning algorithm for SNN that is functionally equivalent to backprop, while adhering to all three neuromorphic principles. We introduced multi-compartment spiking neurons with local eligibility traces to compute the gradients required for learning, and a periodic "sleep" phase to further improve the approximation to backprop during which a local Hebbian rule aligns the feedback and feedforward weights. Our method achieved the same level of performance as backprop with multi-layer fully connected SNN on MNIST (98.13%) and the event-based N-MNIST (97.59%) datasets. We deployed our learning algorithm on Intel's Loihi to train a 1-hidden-layer network for MNIST, and obtained 93.32% test accuracy while consuming 400 times less energy per training sample than BioGrad on GPU. Our work shows that optimal learning is feasible in neuromorphic computing, and further pursuing its biological plausibility can better capture the benefits of this emerging computing paradigm.

研究动机与目标

• 开发一种基于梯度的 SNN 学习规则，其功能上等同于反向传播，同时遵循神经形态计算原则。
• 克服标准反向传播在 SNN 中的生物学不可行性，后者需要非局部反馈、连续误差信号以及对未来的时序依赖。
• 通过确保事件驱动、局部计算和在线学习，实现学习在神经形态硬件上的直接部署。
• 通过周期性“睡眠”阶段应用局部赫布规则，改善反馈与前向权重之间的对齐。
• 证明生物上合理的学习可在 MNIST 和 N-MNIST 等 SNN 基准测试中达到最先进性能。

提出的方法

• 该方法采用多 compartment 脉冲神经元，将前向和反馈输入分离到不同的树突 compartment 中，实现梯度的局部计算。
• 在每个神经元内局部计算可塑性痕迹，以捕捉突触前与突触后活动的时间演化，实现时间上的信用分配。
• 引入周期性“睡眠”阶段，在此期间通过局部赫布规则更新反馈权重，使其与前向权重对齐，从而改善梯度近似。
• 采用随机反馈权重（RandInit），通过模拟大脑中上游与下游路径非完全相同，增强生物学合理性。
• 学习规则设计为对非批处理和低精度训练具有鲁棒性，适合神经形态硬件的约束条件。
• 该方法部署于英特尔 Loihi 处理器上，实现了高准确率，同时显著降低了每样本的能耗。

实验结果

研究问题

• RQ1 能否设计一种基于梯度的 SNN 学习规则，使其在功能上等同于反向传播，同时具备生物学合理性？
• RQ2 如何在不依赖非局部信息或连续误差信号的情况下实现反馈权重对齐？
• RQ3 周期性“睡眠”阶段是否能以生物上合理的方式改善反向传播的近似？
• RQ4 该方法在低精度和流式数据条件下，能在神经形态硬件上部署到何种程度？
• RQ5 使用随机反馈权重是否在提升生物学合理性的同时保持性能？

主要发现

• BioGrad 在 MNIST 上达到 98.13% 的准确率，在事件驱动的 N-MNIST 数据集上达到 97.59%，与标准反向传播性能相当。
• 引入睡眠阶段显著改善了反馈与前向权重之间的对齐，表现为权重矩阵间夹角减小，权重幅值相关性提高。
• 即使采用随机初始化的反馈权重（RandInit），BioGrad 仍保持高性能，证明其鲁棒性与增强的生物学合理性。
• 睡眠阶段在低频下依然有效——每 256 个批次训练一次睡眠，MNIST 上准确率达到 98.21%，表明稀疏但持续的睡眠周期已足够。
• 在英特尔 Loihi 神经形态处理器上部署时，BioGrad 在 MNIST 上实现 93.32% 的测试准确率，同时每训练样本能耗较基于 GPU 的 BioGrad 降低 400 倍。
• 该方法对非批处理和低精度训练表现出鲁棒性，证实其适用于实时、低功耗的神经形态推理与学习。