[论文解读] Bayesian synaptic plasticity makes predictions about plasticity experiments in vivo

Laurence Aitchison, Peter E. Latham|arXiv (Cornell University)|Oct 4, 2014

Neural dynamics and brain function被引用 6

一句话总结

本文利用贝叶斯推断推导出最优突触可塑性规则，以在神经网络中最大化学习效率。通过利用局部可用信息，所提出的规则预测：当突触前活动较低时，学习速率应增加，并且学习速率会根据突触前放电率在不同突触间变化——为连接理论与复杂神经动力学提供了一种生物上合理且灵活的框架。

ABSTRACT

Humans and other animals learn by updating synaptic weights in the brain. Rapid learning allows animals to adapt quickly to changes in their environment, giving them a large selective advantage. As brains have been evolving for several hundred million years, we might expect biological learning rules to be close to optimal, by exploiting all locally available in-formation in order to learn as rapidly as possible. However, no previously proposed learning rules are optimal in this sense. We therefore use Bayes theorem to derive optimal learning rules for supervised, unsupervised and reinforcement learning. As expected, these rules prove to be significantly more effective than the best classical learning rules. Our learning rules make two predictions about the results of plasticity experiments in active networks. First, we predict that learning rates should vary across time, increasing when fewer inputs are active. Second, we predict that learning rates should vary across synapses, being higher for synapses whose presy-naptic cells have a lower average firing rate. Finally, our methods are extremely flexible, allowing the derivation of optimal learning rules based solely on the information that is assumed, or known, to be available to the synapse. This flexibility should allow for the derivation of optimal learning rules for progressively more complex and realistic synaptic and neural models — allowing us to connect theory with complex biological reality. 1

研究动机与目标

• 开发在仅使用局部可用信息的前提下，能最大化学习速度的最优学习规则。
• 解决现有学习规则的不足，尽管进化可能已对生物学习机制进行了优化，但现有规则并非最优。
• 推导出适用于日益复杂的突触和神经模型的灵活且生物上合理的学>-习规则。
• 生成关于活跃神经网络中突触可塑性的可测试预测。
• 通过将理论学习规则建立在可测量的生物变量基础上，弥合理论学习规则与经验神经科学之间的鸿沟。

提出的方法

• 应用贝叶斯定理，推导神经系统中监督学习、无监督学习和强化学习的最优学习规则。
• 假设突触在学习过程中仅能获取局部信息，例如突触前和突触后活动。
• 推导出根据突触前活动水平和放电率动态调整学习速率的学习规则。
• 使用概率推断，将突触权重更新建模为突触权重的后验分布。
• 确保推导出的规则与生物约束和现有实验数据一致。
• 将该框架扩展至可适应日益复杂和真实的神经与突触模型。

实验结果

研究问题

• RQ1 如何基于仅局部可用信息推导出在学习速度方面最优的突触可塑性规则？
• RQ2 最优贝叶斯可塑性规则对活跃神经网络中学习速率动态有何具体预测？
• RQ3 在最优学习条件下，学习速率应如何随时间与突触而变化？
• RQ4 所推导的规则能否灵活适应日益复杂的生物神经架构？
• RQ5 在学习效率方面，这些贝叶斯规则与经典学习规则相比效果如何？

主要发现

• 推导出的贝叶斯可塑性规则在学习效率方面显著优于经典学习规则。
• 预测当较少突触前输入处于活跃状态时，学习速率会增加，这反映了更高的不确定性与更大的学习潜力。
• 预测在平均突触前放电率较低的突触上，学习速率会更高，原因在于稀疏活动具有更高的信息含量。
• 该框架允许仅基于单个突触所假设可获取的信息，推导出最优学习规则。
• 该模型提供了一种灵活且可扩展的方法，用于推导适用于日益复杂且生物上真实的神经回路的学习规则。
• 该理论生成了可实验验证的、关于体内突触可塑性的可测试预测，尤其涉及学习速率的时间和突触异质性。