[论文解读] VOWEL: A Local Online Learning Rule for Recurrent Networks of Probabilistic Spiking Winner-Take-All Circuits

Hyeryung Jang, Nicolas Skatchkovsky+1 more|arXiv (Cornell University)|Apr 20, 2020

Advanced Memory and Neural Computing参考文献 48被引用 8

一句话总结

该论文提出 VOWEL，一种用于概率性脉冲发放胜者通吃（WTA）电路的循环网络的局部在线学习规则，仅依赖局部突触前与突触后信息及全局奖励信号，即可实现脉冲神经网络（SNNs）的高效训练。该方法结合变分推断、控制变量与正则化技术，在低资源环境下显著优于当前最先进的SNN训练方法，有效捕捉时空模式与多值脉冲信息。

ABSTRACT

Networks of spiking neurons and Winner-Take-All spiking circuits (WTA-SNNs) can detect information encoded in spatio-temporal multi-valued events. These are described by the timing of events of interest, e.g., clicks, as well as by categorical numerical values assigned to each event, e.g., like or dislike. Other use cases include object recognition from data collected by neuromorphic cameras, which produce, for each pixel, signed bits at the times of sufficiently large brightness variations. Existing schemes for training WTA-SNNs are limited to rate-encoding solutions, and are hence able to detect only spatial patterns. Developing more general training algorithms for arbitrary WTA-SNNs inherits the challenges of training (binary) Spiking Neural Networks (SNNs). These amount, most notably, to the non-differentiability of threshold functions, to the recurrent behavior of spiking neural models, and to the difficulty of implementing backpropagation in neuromorphic hardware. In this paper, we develop a variational online local training rule for WTA-SNNs, referred to as VOWEL, that leverages only local pre- and post-synaptic information for visible circuits, and an additional common reward signal for hidden circuits. The method is based on probabilistic generalized linear neural models, control variates, and variational regularization. Experimental results on real-world neuromorphic datasets with multi-valued events demonstrate the advantages of WTA-SNNs over conventional binary SNNs trained with state-of-the-art methods, especially in the presence of limited computing resources.

研究动机与目标

• 解决具有非可微阈值函数和循环结构中信用分配问题的循环、概率性脉冲神经网络（SNNs）的训练挑战。
• 开发一种避免反向传播、兼容神经形态硬件约束的局部在线学习规则。
• 实现对处理多值时空事件（如神经形态相机输出）的 WTA-SNN 的有效学习。
• 在资源受限环境中提升性能，其中神经元数量有限与采样率粗糙会降低现有 SNN 训练方法的效果。
• 提供一种通用且可扩展的训练框架，适用于任意网络拓扑结构，包括循环与深层架构。

提出的方法

• VOWEL 通过最大化观测脉冲模式对数似然的下界，基于变分推断推导而来。
• 该方法使用概率广义线性模型表示脉冲神经元行为，实现对非可微阈值函数的可微近似。
• 采用控制变量以降低在线学习中的梯度方差，提升样本效率。
• 引入基于 KL 散度的正则化以稳定训练过程并防止过拟合。
• 学习规则完全局部化：可见电路权重仅基于突触前与突触后脉冲活动进行更新；隐藏电路权重则使用统一的全局奖励信号。
• 该框架支持任意网络拓扑结构，包括含自环与有向反馈的循环及深层架构。

实验结果

研究问题

• RQ1 能否为循环 WTA-SNN 开发一种避免反向传播、兼容神经形态硬件的局部在线学习规则？
• RQ2 此类规则是否能在不依赖脉冲发放率编码的前提下，有效学习时空模式与多值脉冲信息？
• RQ3 在资源受限条件下，VOWEL 与最先进 SNN 训练方法相比性能如何？
• RQ4 使用变分推断与控制变量是否能提升在线 SNN 训练中的样本效率与稳定性？
• RQ5 该方法能否在不同网络拓扑结构中泛化，并在隐藏神经元减少与采样率粗糙化时保持性能？

主要发现

• 在 DVSGesture 数据集上，VOWEL 在仅使用 64 个隐藏 WTA 电路与 20ms 采样周期下达到 57.89% 的准确率，显著优于 DECOLLE（在相同条件下降至 26.38%）。
• 当隐藏电路增至 128 个且采样周期为 20ms 时，VOWEL 准确率保持在 57.96%，展现出对计算资源减少的鲁棒性。
• 当隐藏神经元数量减少或采样率变粗时，VOWEL 显著优于 DECOLLE，凸显其在低资源环境下的高效性。
• 在 1ms 采样率下使用 1024 个隐藏单元，VOWEL 达到 61.42% 的准确率，表明其在高分辨率下仍具强大性能。
• 在采样率更粗与神经元更少时，VOWEL 与 DECOLLE 的性能差距进一步扩大，表明 VOWEL 更擅长利用时空与多值脉冲信息。
• 结果证实，使用 VOWEL 训练的 WTA-SNN 能有效处理编码于脉冲时间与数值中的信息，而基于发放率编码的 SNN 仅限于处理空间模式。