[论文解读] Encoding Spike Patterns in Multilayer Spiking Neural Networks

Gardner Brian, Ioana Sporea+1 more|arXiv (Cornell University)|Mar 31, 2015

Advanced Memory and Neural Computing参考文献 48被引用 15

一句话总结

该论文提出了一种生物上合理的、基于似然的多层脉冲神经网络学习规则，能够将输入模式精确地编码为期望的输出脉冲序列。通过在概率脉冲神经元模型上对生成目标脉冲模式的似然度进行梯度上升优化，该方法实现了对复杂脉冲时间映射的高容量学习，在映射容量和复杂度方面优于现有规则，并能在噪声环境下成功解决非线性任务（如XOR）。

ABSTRACT

Information encoding in the nervous system is supported through the precise spike-timings of neurons; however, an understanding of the underlying processes by which such representations are formed in the first place remains unclear. Here we examine how networks of spiking neurons can learn to encode for input patterns using a fully temporal coding scheme. To this end, we introduce a learning rule for spiking networks containing hidden neurons which optimizes the likelihood of generating desired output spiking patterns. We show the proposed learning rule allows for a large number of accurate input-output spike pattern mappings to be learnt, which outperforms other existing learning rules for spiking neural networks: both in the number of mappings that can be learnt as well as the complexity of spike train encodings that can be utilised. The learning rule is successful even in the presence of input noise, is demonstrated to solve the linearly non-separable XOR computation and generalizes well on an example dataset. We further present a biologically plausible implementation of backpropagated learning in multilayer spiking networks, and discuss the neural mechanisms that might underlie its function. Our approach contributes both to a systematic understanding of how pattern encodings might take place in the nervous system, and a learning rule that displays strong technical capability.

研究动机与目标

• 开发一种生物上合理的学习规则，使多层脉冲神经网络能够学习将输入模式精确编码为期望的输出脉冲序列。
• 解决使用可微分、基于梯度的方法训练具有隐藏层的深层脉冲网络的挑战，同时尊重脉冲时间的不连续性。
• 展示该方法学习大量复杂输入-输出脉冲模式映射的能力，包括XOR等非线性可分任务。
• 通过将学习规则与已知神经机制（如STDP）关联，提供一种在多层脉冲网络中实现反向传播的生物上合理的实现方式。
• 展示方法对输入噪声的鲁棒性以及对未见输入模式的良好泛化能力，并在真实世界模式识别任务中验证性能。

提出的方法

• 该方法采用一种概率脉冲神经元模型，其中输出脉冲时间由依赖于网络参数的瞬时放电率随机决定，该放电率对网络参数平滑依赖，从而支持基于梯度的优化。
• 通过在突触权重上进行梯度上升，最大化生成目标输出脉冲模式的对数似然，从而制定基于似然的学习规则。
• 该学习规则被应用于多层结构：隐藏层权重根据从输出层反向传播的误差信号进行更新，更新量与对数似然关于突触权重的梯度成正比。
• 在输入层与隐藏层之间引入传导延迟，以增加突触多样性并提升网络表达能力，建模为时间偏移的突触后电位。
• 训练期间对突触权重施加约束以确保学习稳定：隐藏层权重被限制在0到100之间，输出层权重则根据输出神经元数量进行有界约束或随机初始化。
• 学习规则通过使用脉冲时间的连续近似实现，即使在脉冲具有离散性的情况下，仍可实现可微分的更新。

实验结果

研究问题

• RQ1 基于似然的学习规则是否能使多层脉冲神经网络学习复杂的、时间精确的输入-输出脉冲模式映射？
• RQ2 与现有规则相比，该学习规则在可学习映射数量和脉冲序列编码复杂度方面表现如何？
• RQ3 该方法是否能成功利用脉冲时间编码在脉冲网络中学习非线性可分任务（如XOR问题）？
• RQ4 该学习规则对输入噪声的鲁棒性如何？其对未见输入模式的泛化能力如何？
• RQ5 哪些生物上合理的神经机制可能支撑该方法中类似反向传播的学习在脉冲网络中的实现？

主要发现

• 所提出的学习规则成功学习了大量复杂输入-输出脉冲模式映射，在映射容量和编码复杂度方面显著优于现有规则。
• 即使在输入噪声存在的情况下，该方法仍能实现高精度，网络性能在有限次学习迭代后即可稳定在最终值的1%以内。
• 该网络通过精确的脉冲时间编码成功解决了线性不可分的XOR任务，证明了其具备非线性计算能力。
• 该方法在真实世界数据集上表现出良好的泛化能力，表明其在时间模式识别任务中具有实际应用潜力。
• 该学习规则具有鲁棒性，在多次模拟运行中均能可靠收敛，收敛时间定义为性能达到最终值99%时的训练轮次。
• 该方法为多层脉冲网络中的反向传播提供了生物上合理的实现方式，将学习规则与已知机制（如STDP和突触权重动力学）相联系。