[论文解读] Relaxing the Constraints on Predictive Coding Models

Beren Millidge, Alexander Tschantz+2 more|arXiv (Cornell University)|Oct 2, 2020

Neural dynamics and brain function参考文献 49被引用 14

一句话总结

本文表明，预测编码模型中一些生物学上不切实际的约束——如权重共享、反向非线性以及一对一的误差连接——可以被放松而不影响性能。通过用可学习的、赫布型更新的权重替代这些约束，并简化误差动力学，作者证明了一个完全局部的、双部网络架构能够近似反向传播并实现高学习准确率，显著扩展了生物可实现神经回路的设计空间。

ABSTRACT

Predictive coding is an influential theory of cortical function which posits that the principal computation the brain performs, which underlies both perception and learning, is the minimization of prediction errors. While motivated by high-level notions of variational inference, detailed neurophysiological models of cortical microcircuits which can implements its computations have been developed. Moreover, under certain conditions, predictive coding has been shown to approximate the backpropagation of error algorithm, and thus provides a relatively biologically plausible credit-assignment mechanism for training deep networks. However, standard implementations of the algorithm still involve potentially neurally implausible features such as identical forward and backward weights, backward nonlinear derivatives, and 1-1 error unit connectivity. In this paper, we show that these features are not integral to the algorithm and can be removed either directly or through learning additional sets of parameters with Hebbian update rules without noticeable harm to learning performance. Our work thus relaxes current constraints on potential microcircuit designs and hopefully opens up new regions of the design-space for neuromorphic implementations of predictive coding.

研究动机与目标

• 解决预测编码模型中长期存在的生物学不切实际问题，如权重共享和非局部误差连接。
• 研究当关键假设（如对称反向权重和1:1误差单元）被放松时，预测编码的核心学习性能是否仍能保持。
• 探索赫布学习规则是否可以替代预测编码中固定的、不切实际的组件，从而增强生物学合理性。
• 证明简化后的完全局部网络架构仍能在监督和无监督学习任务中实现高性能。
• 通过减少对皮层微电路设计的约束，扩展神经形态实现的设计空间。

提出的方法

• 提出一种修改后的预测编码框架，用可学习的、赫布型更新的权重替代固定的对称反向权重。
• 引入一组独立的参数（如反向权重和误差连接），通过赫布规则进行训练，从而消除对权重传输的需求。
• 通过允许稀疏的、可学习的误差连接，移除对误差单元与值单元一对一连接的要求。
• 通过摒弃生物学上不切实际的基于导数的项，简化反向非线性，转而依赖通过学习动力学直接传播误差。
• 采用变分推断框架，将新参数的学习规则推导为自由能目标上的梯度下降。
• 采用双部网络结构，仅在层间保留值到误差和误差到值的连接，避免层内直接的侧向或反馈连接。

实验结果

研究问题

• RQ1 当对称反向权重被移除并替换为可学习的、赫布型更新的权重时，预测编码模型是否仍能保持高学习性能？
• RQ2 若消除一对一误差单元连接约束，是否会导致预测编码网络的学习性能下降？
• RQ3 在变分推断的背景下，是否可以安全忽略或替换反向非线性而不损害学习效果？
• RQ4 在深度网络中，完全局部的、双部网络架构在多大程度上能近似反向传播？
• RQ5 这些放松对生物可实现神经形态电路设计有何影响？

主要发现

• 移除对称反向权重和一对一误差连接对学习性能影响极小，准确率在相同双曲正切非线性下保持稳定。
• 使用赫布规则学习反向权重和误差连接，可保持网络执行判别和生成分类的能力。
• 所得架构完全局部化，无非局部信息流，因此非常适用于神经形态硬件实现。
• 该模型仅通过局部连接和赫布学习即可在复杂输入-输出映射上实现高准确率，表明此类机制可能足以支持复杂表征学习。
• 变分自由能框架支持新参数学习规则的数学一致性推导，增强了理论稳健性。
• 结果表明，预测编码在核心方程受到显著扰动时仍能保持稳定，显示出内在的强鲁棒性和灵活性。