[论文解读] Hierarchical Predictive Coding Models in a Deep-Learning Framework

Matin Hosseini, Anthony S. Maida|arXiv (Cornell University)|May 7, 2020

Neural dynamics and brain function参考文献 53被引用 8

一句话总结

本文提出了一种受新皮质中贝叶斯预测编码启发的深度学习框架，用于分层预测编码模型，通过自上而下的预测和自下而上的预测误差来优化表征。结果表明，将Rao-Ballard反馈协议整合到现代深度学习架构中，可实现稳健的无监督表征学习，并在视频预测、异常检测和物体识别等任务中取得良好应用效果。

ABSTRACT

Bayesian predictive coding is a putative neuromorphic method for acquiring higher-level neural representations to account for sensory input. Although originating in the neuroscience community, there are also efforts in the machine learning community to study these models. This paper reviews some of the more well known models. Our review analyzes module connectivity and patterns of information transfer, seeking to find general principles used across the models. We also survey some recent attempts to cast these models within a deep learning framework. A defining feature of Bayesian predictive coding is that it uses top-down, reconstructive mechanisms to predict incoming sensory inputs or their lower-level representations. Discrepancies between the predicted and the actual inputs, known as prediction errors, then give rise to future learning that refines and improves the predictive accuracy of learned higher-level representations. Predictive coding models intended to describe computations in the neocortex emerged prior to the development of deep learning and used a communication structure between modules that we name the Rao-Ballard protocol. This protocol was derived from a Bayesian generative model with some rather strong statistical assumptions. The RB protocol provides a rubric to assess the fidelity of deep learning models that claim to implement predictive coding.

研究动机与目标

• 将神经科学中的经典预测编码模型与现代深度学习框架相连接。
• 分析分层预测编码模型中的连接结构与信息流，以识别通用的计算原则。
• 证明在放宽统计假设的条件下，利用深度学习工具实现预测编码的可行性和有效性。
• 探索反馈连接（在标准深度网络中通常缺失）如何提升学习效率与表征质量。
• 评估预测编码是否可作为视频预测、分类与异常检测等任务的统一框架。

提出的方法

• 采用Rao-Ballard协议作为分层模块间的核心通信结构，实现自上而下的预测与误差反向传播。
• 利用深度学习框架实现基于卷积与循环结构的预测编码，包括使用LSTM进行时序建模。
• 通过最小化预测误差实现无监督学习，即预测值与实际输入之间的差异驱动表征的优化。
• 应用生成建模原理，确保高层表征能够准确重构低层输入。
• 在各层之间集成反馈连接，与标准前馈深度网络形成对比，以实现表征的迭代优化。
• 通过视频帧预测与异常检测任务验证该方法，结果表明残差误差可有效标识与预期模式的偏离。

实验结果

研究问题

• RQ1 如何在现代深度学习架构中有效嵌入预测编码原理？
• RQ2 反馈连接在提升表征学习与模型鲁棒性方面发挥何种作用？
• RQ3 在预测误差训练下，预测编码模型是否能在视频预测与异常检测中实现优异性能？
• RQ4 通过预测编码学习到的表征与标准自编码器或深度置信网络的表征相比有何异同？
• RQ5 高层残差误差在多大程度上可作为异常检测的可靠指标？

主要发现

• Rao-Ballard协议为在深度学习中实现分层预测编码提供了一个可行且可解释的框架。
• 反馈连接显著提升了模型在需要时空泛化能力的任务（如视频帧预测）中的性能。
• 预测误差最小化可获得丰富且解耦的表征，能够捕捉输入变化的潜在原因。
• 高层残差误差可可靠指示异常，支持将预测编码用于异常检测。
• 采用循环单元（如LSTM）的预测编码模型在遮挡与部分可见等复杂场景下，相比纯前馈网络展现出更强的鲁棒性。
• 将预测编码整合到深度学习中，可实现无监督、端到端的训练，在无需标注数据的情况下，在多样化任务中取得优异性能。