[论文解读] evt_MNIST: A spike based version of traditional MNIST

Mazdak Fatahi, Mahmood Ahmadi+3 more|arXiv (Cornell University)|Apr 22, 2016

Advanced Memory and Neural Computing参考文献 8被引用 5

一句话总结

本文提出了 evt_MNIST，这是 MNIST 数据集的一种脉冲神经网络（SNN）兼容版本，其中像素强度被转换为泊松分布的脉冲流，以反映生物神经编码。通过利用源自泊松过程的时序脉冲模式，evt_MNIST 允许在生物上合理的条件下评估 SNN，为采用时序编码方案的 SNN 训练与测试提供基准。

ABSTRACT

Benchmarks and datasets have important role in evaluation of machine learning algorithms and neural network implementations. Traditional dataset for images such as MNIST is applied to evaluate efficiency of different training algorithms in neural networks. This demand is different in Spiking Neural Networks (SNN) as they require spiking inputs. It is widely believed, in the biological cortex the timing of spikes is irregular. Poisson distributions provide adequate descriptions of the irregularity in generating appropriate spikes. Here, we introduce a spike-based version of MNSIT (handwritten digits dataset),using Poisson distribution and show the Poissonian property of the generated streams. We introduce a new version of evt_MNIST which can be used for neural network evaluation.

研究动机与目标

• 为解决缺乏用于评估脉冲神经网络（SNN）的标准化基于脉冲的数据集的问题。
• 创建一个支持通过脉冲时间编码的 MNIST 版本，以反映生物神经动力学。
• 通过源自泊松分布的现实、不规则的脉冲模式，实现 SNN 的训练与评估。
• 提供一个与 SNN 框架兼容的基准数据集，这些框架需要脉冲输入而非连续激活。

提出的方法

• 将每个 MNIST 图像的像素强度转换为泊松分布的脉冲流，其中强度决定平均放电率。
• 使用时变泊松过程在固定时间窗口内生成脉冲流，以保留输入动态。
• 确保脉冲流表现出皮层神经活动特有的不规则性和变异性。
• 通过统计检验验证脉冲流的泊松性质，确认其时间不规则性。
• 设计数据集以兼容现有的 SNN 训练与推理框架。
• 提供标准化格式，便于集成到 SNN 研究流程中。

实验结果

研究问题

• RQ1 能否生成一个基于脉冲的 MNIST 版本，在保留原始图像语义内容的同时，通过时序脉冲模式进行编码？
• RQ2 使用泊松过程生成的脉冲流是否表现出与生物神经元放电一致的统计特性？
• RQ3 与传统 MNIST 相比，evt_MNIST 在评估 SNN 训练算法方面的有效性如何？
• RQ4 使用泊松分布的脉冲输入在多大程度上影响 SNN 的性能与收敛性？
• RQ5 evt_MNIST 是否能作为跨不同平台与架构的 SNN 研究中可靠且可复现的基准？

主要发现

• evt_MNIST 数据集成功地使用泊松过程将传统 MNIST 图像转换为脉冲流，同时保留了输入语义。
• 统计分析证实，生成的脉冲流表现出泊松特性，其脉冲间隔不规则，与生物神经活动一致。
• 该数据集支持直接使用时序编码评估 SNN，为连续值输入提供了一种可行的替代方案。
• evt_MNIST 支持采用生物上合理的脉冲时间编码对 SNN 进行训练与测试，提升了类脑计算研究的现实性。
• 该数据集公开可用，并设计为可无缝集成到现有 SNN 框架与基准测试流程中。
• 该方法提供了一个标准化、可复现的基准，用于在一致输入条件下比较 SNN 算法。