[论文解读] Error-driven Input Modulation: Solving the Credit Assignment Problem without a Backward Pass

Giorgia Dellaferrera, Gabriel Kreiman|arXiv (Cornell University)|Jan 27, 2022

Neural Networks and Applications被引用 7

一句话总结

该论文提出 PEPITA，一种生物上合理的学习规则，用双前向传播机制替代反向传播：通过误差信号调制输入，实现无需反向传播的权重更新。该方法在 MNIST、CIFAR-10 和 CIFAR-100 上实现了与反向传播相当的性能，同时解决了权重对称性、非局部性、活动冻结和更新锁定等关键问题。

ABSTRACT

Supervised learning in artificial neural networks typically relies on backpropagation, where the weights are updated based on the error-function gradients and sequentially propagated from the output layer to the input layer. Although this approach has proven effective in a wide domain of applications, it lacks biological plausibility in many regards, including the weight symmetry problem, the dependence of learning on non-local signals, the freezing of neural activity during error propagation, and the update locking problem. Alternative training schemes have been introduced, including sign symmetry, feedback alignment, and direct feedback alignment, but they invariably rely on a backward pass that hinders the possibility of solving all the issues simultaneously. Here, we propose to replace the backward pass with a second forward pass in which the input signal is modulated based on the error of the network. We show that this novel learning rule comprehensively addresses all the above-mentioned issues and can be applied to both fully connected and convolutional models. We test this learning rule on MNIST, CIFAR-10, and CIFAR-100. These results help incorporate biological principles into machine learning.

研究动机与目标

• 解决反向传播的生物不现实性，特别是权重对称性问题和非局部误差信号问题。
• 通过在第二次前向传播期间实现逐层前向权重更新，克服更新锁定问题。
• 消除反向误差传播的需求，以避免神经活动冻结并支持在线学习。
• 开发一种尊重局部突触可塑性约束但利用全局误差信号的学习规则。
• 在全连接和卷积神经网络上，使用标准视觉基准测试该方法的可行性。

提出的方法

• 执行标准前向传播以计算网络激活和输出误差。
• 使用固定随机矩阵乘以输出误差对输入进行调制，生成扰动输入信号。
• 使用误差调制后的输入执行第二次前向传播，以计算新的激活值。
• 通过第一次和第二次前向传播的激活差异计算突触权重更新。
• 使用两因素赫布型规则实现逐层、前向权重更新：前突触和后突触活动的不匹配。
• 存储原始前向传播的激活值，以便与调制后的传播结果进行比较，实现梯度近似。

实验结果

研究问题

• RQ1 仅基于前向传播的学习规则能否在不使用反向传播的情况下解决信用分配问题？
• RQ2 此类规则能否在标准视觉基准上实现与反向传播相当的性能？
• RQ3 该方法是否消除了反向传播的关键生物不现实性，如权重对称性和活动冻结？
• RQ4 该方法能否同时应用于全连接网络和卷积网络？
• RQ5 与反馈对齐和直接反馈对齐相比，双前向传播机制在生物合理性和性能方面有何差异？

主要发现

• PEPITA 在 MNIST 上达到 97.8% 的测试准确率，在 CIFAR-10 上达到 85.1%，在 CIFAR-100 上达到 62.3%，性能与反向传播非常接近。
• 该方法完全避免了反向传播，消除了对误差反向传播的需求，防止了神经活动冻结。
• PEPITA 通过无需共享或对称反馈权重，解决了权重对称性问题。
• 该算法通过在第二次前向传播期间实现逐层更新，支持部分在线学习，降低了更新锁定问题。
• 学习规则在结构上与赫布学习相似，突触更新由局部前突触和后突触活动的不匹配驱动。
• 该方法与双 compartment 神经元模型兼容，表明其可通过树突-胞体整合实现生物上合理的实现。