[论文解读] Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Thomas Mesnard, Wulfram Gerstner+1 more|arXiv (Cornell University)|Dec 9, 2016

Advanced Memory and Neural Computing参考文献 12被引用 13

一句话总结

该论文提出了一种基于能量模型中平衡传播与对比Hebb可塑性的生物可实现学习框架，用于深度脉冲神经网络。通过将速率神经元替换为漏电整合-放电神经元，并利用低通滤波估计发放率，该模型仅使用局部突触可塑性即成功学习了非线性回归任务，证明了在生物现实约束下使用脉冲神经元实现深度学习的可行性。

ABSTRACT

In machine learning, error back-propagation in multi-layer neural networks (deep learning) has been impressively successful in supervised and reinforcement learning tasks. As a model for learning in the brain, however, deep learning has long been regarded as implausible, since it relies in its basic form on a non-local plasticity rule. To overcome this problem, energy-based models with local contrastive Hebbian learning were proposed and tested on a classification task with networks of rate neurons. We extended this work by implementing and testing such a model with networks of leaky integrate-and-fire neurons. Preliminary results indicate that it is possible to learn a non-linear regression task with hidden layers, spiking neurons and a local synaptic plasticity rule.

研究动机与目标

• 通过在脉冲神经网络中实现误差反向传播，弥合深度学习与神经科学之间的差距，实现生物可实现的可塑性。
• 检验原本为速率神经元设计的平衡传播是否可扩展至漏电整合-放电（LIF）神经元网络。
• 评估对比Hebb可塑性在脉冲网络上执行非线性回归任务时的性能。
• 研究神经元动力学与发放率估计在生物现实设置下对学习稳定性与准确率的影响。

提出的方法

• 通过两阶段动力学将平衡传播适配至漏电整合-放电神经元网络：前向阶段使用固定输入电流，反向阶段对输出神经元施加胞体输入扰动。
• 使用时间常数较大的低通滤波器对脉冲发放序列进行滤波，以估计发放率，用于对比Hebb学习规则。
• 实现一种局部突触可塑性规则，根据前向阶段与反向阶段发放率相关性的差异更新权重。
• 使用具有对称权重和外部偏置项的能量函数定义网络动力学，其固定点对应于网络的预测结果。
• 采用1 ms时间步长的欧拉积分方法模拟LIF神经元的动力学，包括膜电位、不应期和突触后电位。
• 在每次前向与反向阶段后，使用按传入突触数平方根倒数缩放的学习率更新权重，以稳定学习过程。

实验结果

研究问题

• RQ1 能否在脉冲神经元网络中成功实现基于对比Hebb可塑性的平衡传播？
• RQ2 在相同学习规则下，脉冲网络在非线性回归任务上的性能与速率网络相比如何？
• RQ3 发放率估计的准确性在多大程度上影响脉冲网络中的学习收敛性与性能？
• RQ4 是否可能仅通过局部、生物可实现的可塑性规则在深层脉冲网络中实现非线性函数逼近？
• RQ5 前向阶段固定点收敛质量在脉冲神经元学习成功中起何种作用？

主要发现

• 该模型成功利用漏电整合-放电神经元网络与局部对比Hebb可塑性规则学习了非线性回归任务。
• 使用脉冲神经元的学习性能低于速率神经元，可能由于前向阶段固定点发放率估计不够理想。
• 低通滤波的脉冲发放序列可为学习规则提供可行的发放率估计，使可塑性无需显式速率编码即可实现。
• 若无隐藏层，网络无法学习该任务，证实了模型中非线性表征的必要性。
• 学习规则通过从反向阶段相关性中减去前向阶段相关性，稳定了学习过程，并实现了基于局部前突触与后突触活动的权重更新。
• 尽管存在挑战，结果表明在生物可实现约束下，使用平衡传播与局部可塑性的深度脉冲神经网络学习是可行的。