[论文解读] Learning on Arbitrary Graph Topologies via Predictive Coding

Tommaso Salvatori, Luca Pinchetti+5 more|arXiv (Cornell University)|Jan 31, 2022

Functional Brain Connectivity Studies被引用 9

一句话总结

本文提出了PC图（PC graphs），一种基于预测编码（PC）这一生物上合理的学习算法的框架，可在任意有向图拓扑结构上实现训练与推理。通过利用局部误差驱动更新和灵活的节点查询机制，PC图支持在不重新训练的情况下同时完成分类、生成和关联记忆任务，在部分或带标签图像等多样化输入结构上，其性能优于标准反向传播基线模型。

ABSTRACT

Training with backpropagation (BP) in standard deep learning consists of two main steps: a forward pass that maps a data point to its prediction, and a backward pass that propagates the error of this prediction back through the network. This process is highly effective when the goal is to minimize a specific objective function. However, it does not allow training on networks with cyclic or backward connections. This is an obstacle to reaching brain-like capabilities, as the highly complex heterarchical structure of the neural connections in the neocortex are potentially fundamental for its effectiveness. In this paper, we show how predictive coding (PC), a theory of information processing in the cortex, can be used to perform inference and learning on arbitrary graph topologies. We experimentally show how this formulation, called PC graphs, can be used to flexibly perform different tasks with the same network by simply stimulating specific neurons, and investigate how the topology of the graph influences the final performance. We conclude by comparing against simple baselines trained~with~BP.

研究动机与目标

• 开发一种可在任意图拓扑结构（包括循环和异构结构）上运行的学习框架，克服标准深度学习中反向传播的局限性。
• 通过简单地对特定节点进行条件设定，使单个神经网络能够执行多种任务（如分类、生成和关联记忆），而无需重新训练。
• 证明预测编码作为反向传播的生物可解释性替代方案的可行性，支持在复杂、类脑网络架构上实现端到端训练。
• 研究图拓扑对模型性能的影响，并在具有不同输入结构的任务中，将PC图与标准反向传播基线进行对比。

提出的方法

• 提出PC图，将预测编码推广至任意有向图，其中每个节点维护一个预测值和误差信号。
• 基于原始Rao-Ballard预测编码框架，采用局部误差驱动的突触更新机制，实现无需全局反向传播的学习。
• 通过条件化特定节点（如输入节点、标签节点或重构节点）实现灵活查询，以执行分类或生成等不同任务。
• 采用固定点迭代方法在图中收敛预测值与误差，实现单次前向传播中的推理与学习。
• 在MNIST和FashionMNIST图像任务中应用该方法，使用top-k聚类清理重构噪声。
• 在相同架构上与标准反向传播基线进行性能对比，评估在不同输入格式下的泛化能力与鲁棒性。

实验结果

研究问题

• RQ1 预测编码能否推广至任意有向图拓扑结构，包括具有循环和异构连接的结构？
• RQ2 通过改变输入条件，单个PC图模型能否在不重新训练的情况下执行多种机器学习任务（如分类、生成和关联记忆）？
• RQ3 与标准反向传播模型相比，图的拓扑结构在多大程度上影响PC图的性能？
• RQ4 在保持生物合理性和计算效率的前提下，PC图在多大程度上可实现与反向传播相当的性能？

主要发现

• PC图成功在任意图拓扑结构（包括循环和小世界结构）上实现推理与学习，而这些结构对标准反向传播不可行。
• 同一网络可通过多种方式查询：例如，通过标签进行分类、通过噪声进行生成，或通过部分输入进行重构，而无需重新训练。
• 在最后一层聚类中采用top-k激活显著提升了重构质量，通过清除噪声，展现出对不完整输入的鲁棒性。
• 在MNIST和FashionMNIST上，PC图在分类、生成和关联记忆任务中均表现出具有竞争力的性能，尤其在灵活查询场景下优于标准反向传播基线。
• 该框架支持在相同芯片上使用基于能量的计算实现端到端训练，表明其在超低功耗神经形态硬件部署方面具有潜力。