[论文解读] A Faster Approach to Spiking Deep Convolutional Neural Networks

Shahriar Rezghi Shirsavar, Mohammad‐Reza A. Dehaqani|arXiv (Cornell University)|Oct 31, 2022

Advanced Memory and Neural Computing被引用 4

一句话总结

该论文通过整合单次训练迭代、基于主成分分析（PCA）的降维、权重量化为二值权重、用于分类的定时输出，以及针对RGB图像的改进预处理，提出了一种更快、更准确的脉冲深度卷积神经网络（SNN）。该方法在MNIST数据集上实现了99.421% ± 0.033的准确率，并在ETH-80数据集上超越了ResNet，显著提升了速度与准确率，同时保持了生物学上的合理性。

ABSTRACT

Spiking neural networks (SNNs) have closer dynamics to the brain than current deep neural networks. Their low power consumption and sample efficiency make these networks interesting. Recently, several deep convolutional spiking neural networks have been proposed. These networks aim to increase biological plausibility while creating powerful tools to be applied to machine learning tasks. Here, we suggest a network structure based on previous work to improve network runtime and accuracy. Improvements to the network include reducing training iterations to only once, effectively using principal component analysis (PCA) dimension reduction, weight quantization, timed outputs for classification, and better hyperparameter tuning. Furthermore, the preprocessing step is changed to allow the processing of colored images instead of only black and white to improve accuracy. The proposed structure fractionalizes runtime and introduces an efficient approach to deep convolutional SNNs.

研究动机与目标

• 通过提升运行时效率和性能，弥合脉冲神经网络（SNN）与深度神经网络（DNN）在准确率和速度上的差距。
• 通过生物启发的学习规则和编码方案，在保持高准确率的同时提升SNN的生物学合理性。
• 通过二值权重和基于脉冲的计算，实现在神经形态硬件上的高效部署。
• 将SNN扩展至彩色图像处理，提升准确率，超越传统仅支持灰度图像的方法。
• 通过将训练限制为单次迭代，降低训练复杂度，提升计算效率。

提出的方法

• 网络采用漏电积分-发放（LIF）神经元，并使用等级编码对输入信号进行时间编码。
• 在卷积层中应用脉冲时间依赖可塑性（STDP），实现无监督、生物学合理的学习。
• 使用主成分分析（PCA）进行降维，以加速训练并减轻计算负载。
• 突触权重被量化为二值（±1），实现高效的内存使用和快速的二值乘法运算。
• 采用定时输出分类方法，其中脉冲计数最多或最早放电的神经元决定分类结果。
• 通过将输入图像转换为HSV颜色空间，改进了RGB图像的预处理，提升了特征表示和准确率。

实验结果

研究问题

• RQ1 单次训练迭代的SNN是否能在保持生物学合理性的同时，实现与最先进DNN相当的高准确率？
• RQ2 基于PCA的降维在深度SNN中的运行时间和准确率方面有何影响？
• RQ3 通过HSV变换进行RGB图像处理在基准数据集上的SNN性能提升程度如何？
• RQ4 二值权重和基于脉冲的计算是否能实现在神经形态硬件上更快的推理速度和更低的能耗？
• RQ5 在ETH-80数据集上，所提出的SNN与ResNet相比，在准确率和运行时间方面表现如何？

主要发现

• 所提出的SNN在MNIST数据集上仅通过一次训练迭代，结合SVM与RBF核，实现了99.421% ± 0.033的准确率。
• 在ETH-80数据集上，经过HSV预处理的SNN实现了90.166%的准确率，显著优于基线ResNet-50（86.585%）。
• 与LoG滤波相比，使用ZCA白化处理可将每样本的总运行时间减少7.447–11.886毫秒，同时保持相近的准确率。
• 在ETH-80数据集上，与灰度图像相比，使用RGB（HSV）图像使网络准确率显著提升6.402%（从72.378%提升至78.780%）。
• LoG与ZCA白化处理在准确率差异上的95%置信区间为[-0.841, 2.108]，表明ZCA处理不会导致准确率显著下降。
• 该网络性能与微调后的ResNet-50相当，准确率和运行时间均无显著差异（95%置信区间分别为[-1.83, 5.874]和[-1.665, 1.665]）。