[论文解读] The Predictive Forward-Forward Algorithm

Alexander G. Ororbia, Ankur Mali|arXiv (Cornell University)|Jan 4, 2023

Neural dynamics and brain function被引用 14

一句话总结

本文提出 Predictive Forward-Forward (PFF) 算法，一种受大脑启发的前向传播 credit 分配方法，能在本地、加入噪声的更新下共同学习表示和自下而上的生成回路，在图像任务上达到接近反向传播的性能。

ABSTRACT

We propose the predictive forward-forward (PFF) algorithm for conducting credit assignment in neural systems. Specifically, we design a novel, dynamic recurrent neural system that learns a directed generative circuit jointly and simultaneously with a representation circuit. Notably, the system integrates learnable lateral competition, noise injection, and elements of predictive coding, an emerging and viable neurobiological process theory of cortical function, with the forward-forward (FF) adaptation scheme. Furthermore, PFF efficiently learns to propagate learning signals and updates synapses with forward passes only, eliminating key structural and computational constraints imposed by backpropagation-based schemes. Besides computational advantages, the PFF process could prove useful for understanding the learning mechanisms behind biological neurons that use local signals despite missing feedback connections. We run experiments on image data and demonstrate that the PFF procedure works as well as backpropagation, offering a promising brain-inspired algorithm for classifying, reconstructing, and synthesizing data patterns.

研究动机与目标

• 为反向传播在信用分配方面的生物学可行性问题提供动机与解决方案。
• 开发一个动态递归系统，同时学习表示与生成模型。
• 将前向-后向学习与预测编码概念结合，实现局部、并行更新。
• 在图像数据集上评估 PFF 的分类、重建和数据合成，并与基于反向传播的方法进行比较。

提出的方法

• 提出两个耦合的神经回路：一个表示回路（参数 Θr），一个生成回路（参数 Θg）。
• 定义每层的基于局部良好度的学习规则，使用一个二元化的逻辑目标来区分数据与负样本（方程 3）。
• 通过一个递归表示回路计算层活动，该回路汇聚来自上行、下行和横向信号并加入噪声（方程 4 以及方程 5 的相关 L 结构）。
• 使用局部规则更新突触（方程 6–8）并通过前向传播的 SGD/Adam 对整体目标进行优化，无需反向传播。
• 同时用类 Hebbian 的规则训练生成回路（方程 9–14），以预测表示层活动并合成数据。
• 通过抽样错误标签来产生负样本并将正负样本连接以形成训练输入；进行多步刺激（T≈8–10）。

实验结果

研究问题

• RQ1 PFF 是否能在仅使用前向传播进行 credit 分配的情况下，实现与反向传播相当的判别性能？
• RQ2 表示与生成模型的联合学习是否提升了数据的重建与合成？
• RQ3 与 FF 和 BP 基线相比，PFF 在不同图像数据集上的表现如何？
• RQ4 由于局部学习规则，该方法在脑启发的硬件与神经形态实现方面是否具有可行性？

主要发现

• PFF-RNN 在 MNIST 上的分类错误率接近 BP-FNN（1.34% vs 1.30%），并在若干其他数据集上优于 BP-FNN。
• 在 MNIST、K-MNIST、F-MNIST、N-MNIST 与 Ethiopic-MNIST 数据集上，PFF-RNN 达到具有竞争力的测试误差（分别为 1.34%、6.25%、10.40%、5.27%、0.451%）。
• PFF 能学习高质量的重建和生成样本，潜在空间簇与类别对应。
• PFF 在多个任务上优于若干基线，包括 4-KNN 与 Rnd-FNN，且在多项任务中与 FF 相媲美或超越。
• 定性结果显示明晰的、以类别为中心的潜在簇以及视觉上合理的重建和合成。