[论文解读] Mapping Temporal Variables into the NeuCube for Improved Pattern Recognition, Predictive Modelling and Understanding of Stream Data

Enmei Tu, Nikola Kasabov+1 more|arXiv (Cornell University)|Mar 17, 2016

Neural Networks and Applications参考文献 28被引用 6

一句话总结

本文提出了一种优化的基于图的映射方法，将时间变量映射到NeuCube脉冲神经网络架构中，以增强时间模式识别、早期事件预测和数据理解能力。通过利用图匹配、脉冲相似性度量和自适应编码，该方法在挑战赛2012中实现了76.95%的准确率，优于传统方法和随机映射，且通过自动神经元簇可视化提升了稳定性和可解释性。

ABSTRACT

This paper proposes a new method for an optimized mapping of temporal variables, describing a temporal stream data, into the recently proposed NeuCube spiking neural network architecture. This optimized mapping extends the use of the NeuCube, which was initially designed for spatiotemporal brain data, to work on arbitrary stream data and to achieve a better accuracy of temporal pattern recognition, a better and earlier event prediction and a better understanding of complex temporal stream data through visualization of the NeuCube connectivity. The effect of the new mapping is demonstrated on three bench mark problems. The first one is early prediction of patient sleep stage event from temporal physiological data. The second one is pattern recognition of dynamic temporal patterns of traffic in the Bay Area of California and the last one is the Challenge 2012 contest data set. In all cases the use of the proposed mapping leads to an improved accuracy of pattern recognition and event prediction and a better understanding of the data when compared to traditional machine learning techniques or spiking neural network reservoirs with arbitrary mapping of the variables.

研究动机与目标

• 通过实现时间变量的自动、优化映射，提升NeuCube在任意流数据上的性能。
• 在传统机器学习方法和随机映射方法的基础上，进一步提升时间模式识别与早期事件预测的准确性。
• 通过自动可视化神经元活动与突触演化，提升NeuCube模型的可解释性。
• 开发一种可扩展的自适应框架，用于建模现实世界数据流中的复杂时空动态。
• 利用遗传算法实现NeuCube参数的端到端优化，以提升性能与可用性。

提出的方法

• 采用加权无向图匹配算法，将时间上相似的输入变量映射到3D SNNcube中空间邻近的神经元，以保持时间关系。
• 在图匹配过程中，使用脉冲密度相关性和最大脉冲重合度作为双极和单极脉冲序列的相似性度量。
• 采用基于自适应阈值（ATB）的编码方法，利用信号均值和标准差动态设定脉冲阈值，以适应信号变化。
• 基于脉冲活动或连接权重，采用基于图的半监督学习算法自动识别SNNcube中的神经元簇，从而实现对学习动态的可视化。
• 利用遗传算法同时优化NeuCube的所有超参数（如脉冲阈值、STDP速率等），以实现最佳性能。
• SNNcube采用概率性漏电积分-发放模型与STDP可塑性，实现对时空模式的无监督学习。

实验结果

研究问题

• RQ1 基于图的时间变量映射是否能提升SNNcube在流数据上的模式识别与早期预测准确性？
• RQ2 与随机映射或启发式映射相比，所提出的映射在稳定性和性能方面表现如何？
• RQ3 SNNcube中自动神经元簇检测是否能增强对学习到的时空模式的理解与可解释性？
• RQ4 自适应编码在多大程度上提升了NeuCube对现实世界数据中信号变化的鲁棒性？
• RQ5 基于遗传算法的统一优化框架是否能有效调节NeuCube的所有参数以实现最佳性能？

主要发现

• 所提出的基于图的映射方法在Challenge 2012竞赛数据集上实现了76.95%的分类准确率，显著优于最佳基线方法（GAK方法为51.6%）。
• 在10次运行中，基于图的映射方法的平均误差率更低，标准差更小，表明其具有更高的稳定性。
• 该方法利用生理流数据实现了对患者睡眠阶段转换的更早、更准确预测。
• 在旧金山湾区的交通模式识别任务中，由于输入变量在空间上的优化映射，动态时间模式的检测能力得到提升。
• 基于图的半监督算法成功识别了SNNcube中的神经元簇，为学习动态与模型结构提供了可视化洞察。
• 遗传算法优化成功识别出最优参数，包括脉冲阈值（0.800）、发放阈值（0.500）、STDP速率（0.073）和不应期（6），实现了峰值性能。