[论文解读] A new stochastic STDP Rule in a neural Network Model

Pascal Helson|arXiv (Cornell University)|Jun 1, 2017

Advanced Memory and Neural Computing参考文献 4被引用 3

一句话总结

本文提出了一种新颖的随机脉冲时序依赖可塑性（STDP）规则，其突触权重为离散值，基于威尔逊-科恩神经网络模型，利用慢-快时间尺度分离方法，推导出权重动态的确定性方程。关键贡献在于提出了一项简单且可解析处理的条件，确保权重过程的遍历性，而无需施加边界限制或元可塑性，揭示了反直觉的结果，例如尽管学习窗的积分为负，权重仍可能发散。

ABSTRACT

Thought to be responsible for memory, synaptic plasticity has been widely studied in the past few decades. One example of plasticity models is the popular Spike Timing Dependent Plasticity (STDP). The huge litterature of STDP models are mainly based deterministic rules whereas the biological mechanisms involved are mainly stochastic ones. Moreover, there exist only few mathematical studies on plasticity taking into account the precise spikes timings. In this article, we aim at proposing a new stochastic STDP rule with discrete synaptic weights which allows a mathematical analysis of the full network dynamics under the hypothesis of separation of timescales. This model attempts to answer the need for understanding the interplay between the weights dynamics and the neurons ones.

研究动机与目标

• 开发一种数学上可处理的随机STDP模型，具有离散突触权重，以实现可塑性动态的解析研究。
• 通过慢-快分析框架，弥合快速神经放电与缓慢突触可塑性之间的时标差距。
• 通过神经活动平稳分布的平均化，推导出权重动态的简化方程。
• 在不施加人为约束（如边界或元可塑性）的前提下，识别权重过程遍历性的充分条件。
• 通过严格的概率分析揭示非直观的动力学行为，例如在学习窗积分呈负时的发散现象。

提出的方法

• 采用随机威尔逊-科恩框架对神经网络进行建模，其中突触权重通过分时确定的马尔可夫过程演化。
• 应用慢-快时间尺度分离，假设可塑性演化速度远慢于神经放电动力学。
• 通过将快速神经过程替换为其不变测度，利用李雅普诺夫函数和拉普拉斯变换推导有效权重动态。
• 运用矩阵求逆和对角占优性论证，证明联合神经-权重过程不变测度的唯一性。
• 利用不变测度的拉普拉斯变换表征权重过程的长期行为。
• 通过从模型中导出的转移率矩阵的谱性质，分析权重过程的常返性与瞬态性。

实验结果

研究问题

• RQ1 在无任何人为边界或元可塑性约束的条件下，突触权重过程在何种条件下保持遍历性？
• RQ2 具有离散权重更新的随机STDP规则能否导致稳定且可解析处理的权重动态？
• RQ3 为何即使STDP学习窗的积分为负，权重过程仍会发散？
• RQ4 如何利用概率方法，从快速神经放电动力学严格推导出突触权重的慢动态？
• RQ5 内在噪声在STDP规则中的作用是什么？它如何影响长期稳定性和遍历性？

主要发现

• 若参数满足由转移率矩阵谱性质导出的简单条件，权重过程将保持正常返且遍历。
• 出人意料的是，即使STDP学习窗的积分为负，权重过程仍可能发散，这是由于随机性与离散权重更新之间的相互作用所致。
• 联合神经-权重过程的不变测度是唯一的，该结论通过拉普拉斯变换及关联矩阵的对角占优性得以证明。
• 突触权重的慢动态由通过将神经活动替换为其平稳分布而导出的有效方程所支配，从而实现解析可处理性。
• 该模型避免了对互相关矩阵进行数值估计，转而使用概率工具而非泰勒或傅里叶展开。
• 分析结果证实，STDP规则中的内在噪声在模型参数满足一个简单显式条件时，可导致稳定且长期的行为。