[论文解读] Incorporating Learnable Membrane Time Constant to Enhance Learning of Spiking Neural Networks

Wei Fang, Zhaofei Yu+4 more|arXiv (Cornell University)|Jul 11, 2020

Advanced Memory and Neural Computing被引用 4

一句话总结

该论文提出了一种基于反向传播的脉冲神经网络（SNNs）训练方法，通过使用参数化漏电整合-放电（PLIF）神经元，同时学习突触权重和膜时间常数。通过使膜时间常数可学习，该方法增强了网络的表达能力，提高了对初始化的鲁棒性，加速了学习过程，并在MNIST、Fashion-MNIST、CIFAR-10、N-MNIST、CIFAR10-DVS和DVS128 Gesture数据集上实现了最先进的准确率，且所需时间步数更少。

ABSTRACT

Spiking Neural Networks (SNNs) have attracted enormous research interest due to temporal information processing capability, low power consumption, and high biological plausibility. However, the formulation of efficient and high-performance learning algorithms for SNNs is still challenging. Most existing learning methods learn weights only, and require manual tuning of the membrane-related parameters that determine the dynamics of a single spiking neuron. These parameters are typically chosen to be the same for all neurons, which limits the diversity of neurons and thus the expressiveness of the resulting SNNs. In this paper, we take inspiration from the observation that membrane-related parameters are different across brain regions, and propose a training algorithm that is capable of learning not only the synaptic weights but also the membrane time constants of SNNs. We show that incorporating learnable membrane time constants can make the network less sensitive to initial values and can speed up learning. In addition, we reevaluate the pooling methods in SNNs and find that max-pooling will not lead to significant information loss and have the advantage of low computation cost and binary compatibility. We evaluate the proposed method for image classification tasks on both traditional static MNIST, Fashion-MNIST, CIFAR-10 datasets, and neuromorphic N-MNIST, CIFAR10-DVS, DVS128 Gesture datasets. The experiment results show that the proposed method outperforms the state-of-the-art accuracy on nearly all datasets, using fewer time-steps. Our codes are available at https://github.com/fangwei123456/Parametric-Leaky-Integrate-and-Fire-Spiking-Neuron.

研究动机与目标

• 为解决SNN中固定膜时间常数带来的局限性，该局限性限制了神经元异质性和网络表达能力。
• 开发一种基于反向传播的训练算法，联合优化突触权重和膜时间常数。
• 重新评估SNN中的池化策略，挑战“最大池化会导致显著信息损失”的假设。
• 在静态和类脑脉冲数据集上展示改进的性能和效率。

提出的方法

• 引入参数化漏电整合-放电（PLIF）神经元，其中膜时间常数τ为每个神经元的可学习参数，从而实现神经元积分时间的动态自适应。
• 将时间反向传播（BPTT）扩展至包含对τ的梯度，从而实现权重和时间常数的端到端训练。
• 使用可学习的输入编码器（Conv2d + 脉冲神经元），将输入像素直接映射为脉冲模式，替代固定的编码器（如泊松编码或时间延迟编码）。
• 在SNN中采用最大池化，证明其能保留时间稀疏性和异步放电模式，同时降低计算成本。
• 将基于PLIF的SNN应用于图像分类任务，涵盖静态数据集（如MNIST）和类脑数据集（如N-MNIST、DVS128 Gesture）。
• 将τ视为每个神经元的参数，初始化时采用分布设置，从而在训练过程中实现神经元动力学的多样性。

实验结果

研究问题

• RQ1 与固定τ相比，学习膜时间常数是否能提升SNN的表达能力和性能？
• RQ2 联合优化权重和τ是否能增强训练稳定性并加快收敛速度？
• RQ3 SNN中的最大池化是否真的对性能有害，还是能够保留关键的时间信息？
• RQ4 可学习编码器是否能在SNN中超越标准的率编码或时间延迟编码？
• RQ5 所提出的方法是否能在更少时间步数下，于静态和类脑数据集上均实现最先进的准确率？

主要发现

• 所提出的PLIF-SNN在静态MNIST、Fashion-MNIST和CIFAR-10数据集上实现了最先进的准确率，优于以往的SOTA方法。
• 在类脑数据集（N-MNIST、CIFAR10-DVS、DVS128 Gesture）上，该模型在更少时间步数下实现了高于现有SNN的准确率。
• 具有可学习τ的网络对权重初始化不敏感，且收敛速度优于使用固定τ的SNN。
• SNN中的最大池化能保留异步放电模式并降低计算成本，且性能未出现显著下降，某些情况下甚至优于平均池化。
• 可学习编码器（Conv2d + 脉冲神经元）能有效提取语义特征（如边缘和手势），并能过滤掉无关信息（如DVS128 Gesture中的玩家）。
• 该模型通过在更短的时间积分窗口内实现高准确率，展现出鲁棒性和高效性，表明其具备有效的时序编码能力。