[论文解读] A simple normative network approximates local non-Hebbian learning in the cortex

Siavash Golkar, David Lipshutz+3 more|arXiv (Cornell University)|Oct 23, 2020

Neural dynamics and brain function参考文献 65被引用 4

一句话总结

本文提出 Bio-RRR，一种生物上合理的在线学习算法，通过局部突触可塑性规则近似 Reduced-Rank Regression (RRR) 目标（如 RRMSE 和 CCA）。该算法通过将钙平台电位与反向传播误差信号关联，模拟皮层处理过程，实现无需全局权重传输的高效、实时特征提取，并在真实世界数据上实现了与最先进方法相当的性能。

ABSTRACT

To guide behavior, the brain extracts relevant features from high-dimensional data streamed by sensory organs. Neuroscience experiments demonstrate that the processing of sensory inputs by cortical neurons is modulated by instructive signals which provide context and task-relevant information. Here, adopting a normative approach, we model these instructive signals as supervisory inputs guiding the projection of the feedforward data. Mathematically, we start with a family of Reduced-Rank Regression (RRR) objective functions which include Reduced Rank (minimum) Mean Square Error (RRMSE) and Canonical Correlation Analysis (CCA), and derive novel offline and online optimization algorithms, which we call Bio-RRR. The online algorithms can be implemented by neural networks whose synaptic learning rules resemble calcium plateau potential dependent plasticity observed in the cortex. We detail how, in our model, the calcium plateau potential can be interpreted as a backpropagating error signal. We demonstrate that, despite relying exclusively on biologically plausible local learning rules, our algorithms perform competitively with existing implementations of RRMSE and CCA.

研究动机与目标

• 开发一个皮层处理的规范模型，解释指导性信号如何利用生物上合理的学习规则引导感觉特征提取。
• 通过用局部、依赖钙平台的可塑性替代全局误差信号，解决反向传播中的权重传输问题。
• 推导适用于神经网络中局部突触更新的 RRMSE 和 CCA 的在线优化算法。
• 在规范框架中将锥体神经元中的钙平台电位解释为反向传播误差信号。
• 证明所提出的算法在真实世界数据集上性能可与现有最先进方法相媲美。

提出的方法

• 作者通过低秩分解参数化投影矩阵，推导出一类 Reduced-Rank Regression (RRR) 目标（包括 RRMSE 和 CCA）的离线与在线优化算法。
• 对输入投影矩阵施加白化约束，以确保解的唯一性与稳定性，从而在矩阵 Vx 和 Vy 上形成约束优化问题。
• 算法使用归一化矩阵 Σ⁻¹ = s·Cyy + (1−s)·In 在 RRMSE（s=0）与 CCA（s=1）之间插值，实现两种目标的统一框架。
• 在线算法使用局部前突触与后突触活动更新突触权重，其可塑性规则源自对 RRR 目标的梯度下降。
• 钙平台电位被建模为调制突触可塑性的反向传播误差信号，实现无需全局误差传输的局部学习。
• 神经网络实现采用两层架构，类似于皮层微环路，其中近端突触由前馈输入调节，远端树突整合指导性信号。

实验结果

研究问题

• RQ1 如何将规范学习框架扩展至依赖非赫布可塑性、局部可塑性规则的皮层处理？
• RQ2 生物上合理的神经网络能否仅通过局部突触更新、无需全局误差反向传播来实现 RRMSE 和 CCA？
• RQ3 在学习背景下，锥体神经元中的钙平台电位如何被解释为反向传播误差信号？
• RQ4 在皮层特征提取背景下，RRMSE 与 CCA 目标之间存在何种关系？
• RQ5 所提出的算法是否在保持与皮层生理一致的同时，实现了与最先进方法相当的性能？

主要发现

• 所提出的 Bio-RRR 算法在真实世界数据集上实现了具有竞争力的性能，其预测准确率与相关性最大化能力与现有 RRMSE 和 CCA 实现相当或更优。
• 该算法成功实现了无需存储大规模数据批次的在线学习，适用于实时感觉处理。
• 钙平台电位被证明编码了反向传播误差信号，从而以生物上合理的方式解决了权重传输问题。
• 从算法推导出的突触学习规则与皮层和海马锥体神经元中实验观察到的非赫布可塑性高度相似。
• 该模型表明，通过连续插值参数 s，单一框架可统一 RRMSE 与 CCA，其中 s=0 对应 RRMSE，s=1 对应 CCA。
• 在白化约束下解具有唯一性，确保了从高维感觉输入中稳定且可解释的特征提取。