[论文解读] Complexity without chaos: Plasticity within random recurrent networks generates robust timing and motor control

Rodrigo Laje, Dean V. Buonomano|arXiv (Cornell University)|Oct 7, 2012

Neural dynamics and brain function参考文献 9被引用 244

一句话总结

本文提出一种监督学习规则，可稳定随机循环网络（RRNs）中的混沌动力学，使其能够生成复杂且鲁棒的时空模式，这对计时和运动控制至关重要。通过引入可塑性，网络在不产生全局混沌的情况下实现局部稳定轨迹，显著提升了对噪声的鲁棒性，并在运动模式生成中表现更优，与实验观测的神经变异性数据一致。

ABSTRACT

It is widely accepted that the complex dynamics characteristic of recurrent neural circuits contributes in a fundamental manner to brain function. Progress has been slow in understanding and exploiting the computational power of recurrent dynamics for two main reasons: nonlinear recurrent networks often exhibit chaotic behavior and most known learning rules do not work in robust fashion in recurrent networks. Here we address both these problems by demonstrating how random recurrent networks (RRN) that initially exhibit chaotic dynamics can be tuned through a supervised learning rule to generate locally stable neural patterns of activity that are both complex and robust to noise. The outcome is a novel neural network regime that exhibits both transiently stable and chaotic trajectories. We further show that the recurrent learning rule dramatically increases the ability of RRNs to generate complex spatiotemporal motor patterns, and accounts for recent experimental data showing a decrease in neural variability in response to stimulus onset.

研究动机与目标

• 为解决循环神经网络中混沌动力学带来的挑战，此类动力学阻碍了稳定计算与学习。
• 开发一种学习规则，以在保持计算复杂性的同时稳定混沌RRNs。
• 证明RRNs中的可塑性能生成鲁棒且抗噪声的时空模式，与运动控制相关。
• 调和神经动力学的理论模型与实验数据，后者显示刺激出现后神经变异性降低。

提出的方法

• 研究采用初始具有混沌动力学的随机循环网络（RRNs），其突触权重随机初始化。
• 应用监督学习规则调整突触权重，稳定瞬态轨迹，同时不消除整体复杂性。
• 学习规则根据目标输出模式调整权重，促进特定网络状态下的局部稳定性。
• 通过吸引子景观、轨迹稳定性及噪声鲁棒性度量分析网络动力学。
• 模拟尖峰活动与模式生成，评估其在计时与运动控制任务中的表现。
• 将实验神经变异性数据与模拟网络响应进行比较，以验证模型。

实验结果

研究问题

• RQ1 能否通过学习规则在保持计算复杂性的同时稳定随机循环网络中的混沌动力学？
• RQ2 RRNs中的可塑性在多大程度上影响神经活动模式对噪声的鲁棒性？
• RQ3 可塑RRNs在多大程度上能生成与生物系统相当的复杂时空运动模式？
• RQ4 该模型能否解释实验中观察到的刺激出现后神经变异性降低的现象？

主要发现

• 学习规则成功稳定了混沌RRNs，产生局部稳定轨迹，同时保持复杂动力学。
• 稳定后的网络对噪声表现出高度鲁棒性，在扰动下仍能保持模式保真度。
• 可塑RRNs在生成复杂、时间精确的时空运动模式方面显著优于非可塑网络。
• 该模型再现了实验中观察到的刺激出现后神经变异性降低的现象，与体内数据一致。
• 网络动力学进入稳定与混沌轨迹共存的区域，从而实现精确性与灵活性的结合。