[论文解读] The Neural Coding Framework for Learning Generative Models

Alexander G. Ororbia, Daniel Kifer|arXiv (Cornell University)|Dec 7, 2020

Neural Networks and Applications被引用 4

一句话总结

本文提出了神经生成编码（NGC）框架，这是一种受生物学启发的反向传播替代方法，用于训练深度生成模型。通过将神经元建模为进行分层预测，并利用局部误差信号更新权重——模仿大脑中的预测处理机制——NGC 在无需反向传播的情况下实现了生成任务的竞争力表现，展示了在图像生成、表征学习和模式补全方面的优异结果。

ABSTRACT

Neural generative models can be used to learn complex probability distributions from data, to sample from them, and to produce probability density estimates. We propose a computational framework for developing neural generative models inspired by the theory of predictive processing in the brain. According to predictive processing theory, the neurons in the brain form a hierarchy in which neurons in one level form expectations about sensory inputs from another level. These neurons update their local models based on differences between their expectations and the observed signals. In a similar way, artificial neurons in our generative models predict what neighboring neurons will do, and adjust their parameters based on how well the predictions matched reality. In this work, we show that the neural generative models learned within our framework perform well in practice across several benchmark datasets and metrics and either remain competitive with or significantly outperform other generative models with similar functionality (such as the variational auto-encoder).

研究动机与目标

• 开发一种用于生成模型的生物合理性学习框架，避免依赖反向传播。
• 解决深层网络中反向传播的局限性，如非局部信用分配和缺乏侧向连接。
• 通过分层且局部地建模神经预测与误差校正，弥合神经科学启发原则与实际机器学习之间的差距。
• 证明基于预测处理的框架可在生成建模任务中实现竞争力表现。
• 探索局部、分层且基于预测的学习机制是否能生成适用于下游任务的通用表征。

提出的方法

• 提出一种分层神经网络架构，其中每一层使用生成性突触权重预测下一层的活动。
• 采用基于预测误差的局部、误差驱动突触更新，受预测处理和自由能最小化启发。
• 使用变分推断框架最小化变分自由能，实现无需反向传播的端到端训练。
• 引入一种消息传递机制，其中预测误差向后传播并用于局部更新突触权重。
• 采用类似赫布的学习规则实现突触可塑性，确保局部且生物合理的权重更新。
• 采用两阶段训练过程：首先，识别网络推断潜在状态；其次，生成模型使用学习到的权重和预测机制合成数据。

实验结果

研究问题

• RQ1 基于预测处理的生物启发学习框架是否能在无需反向传播的情况下有效训练深层生成模型？
• RQ2 与反向传播相比，局部、分层预测和基于误差的学习在生成性能和表征质量方面表现如何？
• RQ3 所提出的框架能否学习到解耦且有意义的表征，以支持分类和模式补全等下游任务？
• RQ4 NGC框架在多大程度上能够恢复或泛化已知模型（如[68]和[22]中的模型）？
• RQ5 该框架对理解大脑中的信用分配机制以及设计更具生物合理性的智能体有何启示？

主要发现

• NGC框架在MNIST、CIFAR-10和CelebA等基准数据集的图像生成和密度估计任务中实现了竞争力表现。
• NGC模型在下游分类和模式补全任务中表现出色，表明其学习到了通用且解耦的表征。
• 对学习到的突触权重的可视化显示，高层神经元形成了动态、上下文敏感的映射，控制输出中低层视觉特征的组合。
• 该框架成功恢复并泛化了[68]和[22]中的已知模型，表明其在理论上与现有变分推断框架保持一致。
• NGC模型表现出侧向竞争和稀疏激活模式，表明结构化且生物合理的表征正在涌现。
• 该框架支持无需反向传播的端到端训练，证明局部、分层且基于预测的学习机制可产生有效的生成模型。