[论文解读] Consensus Message Passing for Layered Graphical Models

Varun Jampani, S. M. Ali Eslami+3 more|arXiv (Cornell University)|Oct 27, 2014

Gaussian Processes and Bayesian Inference参考文献 28被引用 3

一句话总结

本文提出共识消息传递（CMP），一种通过训练回归器从上下文消息中预测全局变量以指导消息传递过程，从而提升分层图模型中推理准确性的技术。该方法在计算机视觉中广泛应用的分层图模型中，显著优于标准期望传播（EP）和变分消息传递（VMP），甚至超越了表现优异的自下而上的模型，同时保持了计算效率。

ABSTRACT

Generative models provide a powerful framework for probabilistic reasoning. However, in many domains their use has been hampered by the practical difficulties of inference. This is particularly the case in computer vision, where models of the imaging process tend to be large, loopy and layered. For this reason bottom-up conditional models have traditionally dominated in such domains. We find that widely-used, general-purpose message passing inference algorithms such as Expectation Propagation (EP) and Variational Message Passing (VMP) fail on the simplest of vision models. With these models in mind, we introduce a modification to message passing that learns to exploit their layered structure by passing 'consensus' messages that guide inference towards good solutions. Experiments on a variety of problems show that the proposed technique leads to significantly more accurate inference results, not only when compared to standard EP and VMP, but also when compared to competitive bottom-up conditional models.

研究动机与目标

• 解决通用消息传递算法（如EP和VMP）在复杂分层视觉模型中失效的问题。
• 克服因对少数关键全局变量估计不准而导致的推理不准确问题。
• 开发一种利用视觉模型分层结构以提升推理准确性和收敛性的方法。
• 在显著提升推理准确度的同时，保持消息传递的计算效率。
• 通过克服推理中的关键瓶颈，使完整生成模型在计算机视觉中的应用成为可能。

提出的方法

• 在推理前训练回归器，基于下层传递的消息（上下文消息）预测全局变量的取值。
• 在推理过程中，利用训练好的回归器生成共识消息，并将其发送至目标变量，以引导消息传递过程。
• 将共识消息集成到标准消息传递框架中，保持与原始图模型固定点的一致性。
• 将该方法应用于具有层次化、分层结构的模型，其中高层变量通过全局参数依赖于低层变量。
• 采用随机森林作为回归器架构，设计通用特征以适用于多种视觉问题。
• 确保共识消息在推理初期即具备足够信息量，从而加速收敛并提升准确度。

实验结果

研究问题

• RQ1 能否通过在过程中早期学习估计关键全局变量，使分层图模型中的消息传递推理更加准确？
• RQ2 与标准EP和VMP相比，基于上下文信息引入共识消息是否能提升收敛性和准确度？
• RQ3 结合直觉性（共识）与理性（消息传递）推理步骤的混合方法，是否能在视觉任务中超越纯自下而上的模型？
• RQ4 CMP在生成模型中在多大程度上减少了达到准确推理所需的迭代次数？
• RQ5 该框架在多大程度上可推广至计算机视觉以外的其他领域？

主要发现

• CMP在多种视觉问题上实现的推理准确度显著优于标准期望传播（EP）和变分消息传递（VMP）。
• CMP在反射率和光照推理任务中，均优于表现优异的自下而上的条件模型（如Biswas等人，2009年提出的方法）。
• CMP在反射率推理任务中提升了识别准确度，无论是否存在投射阴影，均观察到性能增益。
• CMP通过共识消息提供准确的初始引导，显著减少了收敛所需的迭代次数。
• 采用基于随机森林的回归器进行共识消息预测，使方法在不同模型结构上均表现出鲁棒且可泛化的性能。
• CMP在保持计算效率的同时，使完整生成模型得以应用，从而克服了其在视觉领域应用中的主要障碍。