[论文解读] Variational Algorithms for Marginal MAP

Qiang Liu, Alexander Ihler|arXiv (Cornell University)|Feb 26, 2013

Bayesian Modeling and Causal Inference参考文献 50被引用 32

一句话总结

该论文通过使用一种双变量表示法将边际MAP推理重新表述为联合优化问题，提出了一种变分框架，该方法整合了边际化与最大化。它引入了混合产品消息传递——结合最大产品、求和产品和新型argmax产品更新规则的混合方法——并提出了一种收敛的邻近点算法，将边际MAP问题转化为一系列边际化问题的序列，从而在基准模型上优于现有方法。

ABSTRACT

The marginal maximum a posteriori probability (MAP) estimation problem, which calculates the mode of the marginal posterior distribution of a subset of variables with the remaining variables marginalized, is an important inference problem in many models, such as those with hidden variables or uncertain parameters. Unfortunately, marginal MAP can be NP-hard even on trees, and has attracted less attention in the literature compared to the joint MAP (maximization) and marginalization problems. We derive a general dual representation for marginal MAP that naturally integrates the marginalization and maximization operations into a joint variational optimization problem, making it possible to easily extend most or all variational-based algorithms to marginal MAP. In particular, we derive a set of "mixed-product" message passing algorithms for marginal MAP, whose form is a hybrid of max-product, sum-product and a novel "argmax-product" message updates. We also derive a class of convergent algorithms based on proximal point methods, including one that transforms the marginal MAP problem into a sequence of standard marginalization problems. Theoretically, we provide guarantees under which our algorithms give globally or locally optimal solutions, and provide novel upper bounds on the optimal objectives. Empirically, we demonstrate that our algorithms significantly outperform the existing approaches, including a state-of-the-art algorithm based on local search methods.

研究动机与目标

• 为解决边际MAP推理的挑战，该问题即使在树状图上也是NP难的，且研究程度低于联合MAP或边际化问题。
• 将边际化与最大化统一到单一变分优化框架中，以实现可计算算法的设计。
• 将现有变分算法（如信念传播和邻近方法）扩展至边际MAP问题，并提供理论保证。
• 开发实用且收敛的算法，在复杂模型上优于局部搜索和标准BP变体。
• 为最优边际MAP目标提供新颖的上界，并建立全局或局部最优性的条件。

提出的方法

• 推导出边际MAP的对偶表示，将其转化为自由能最小化问题，从而实现求和与最大值操作的整合。
• 提出混合产品消息传递，结合最大产品、求和产品以及一种新型的argmax产品更新规则，用于混合推理。
• 开发邻近点算法，通过迭代求解纯边际化问题，收敛至边际MAP问题的解。
• 通过消息传递算法的团树和高阶团变体，将框架扩展至团树和高阶团模型。
• 将平均场近似与EM算法关联，用于学习隐变量模型。
• 在和变量形成树状子图的条件下，建立理论收敛性和最优性保证。

实验结果

研究问题

• RQ1 能否将边际MAP推理重新表述为统一边际化与最大化的联合变分优化问题？
• RQ2 哪些消息传递规则能有效结合最大产品和求和产品更新，以解决混合推理问题？
• RQ3 邻近点方法能否被适配用于求解具有收敛性保证的边际MAP问题？
• RQ4 在何种条件下，所提算法可实现全局或局部最优解？
• RQ5 在实践中，所提算法与局部搜索和标准BP等现有方法相比表现如何？

主要发现

• 在隐藏马尔可夫链模型上，经过1000次试验，混合产品（Bethe）和邻近（Bethe）算法以≥99%的概率获得全局最优解。
• 邻近（TRW）算法为最优边际MAP目标提供了紧致上界，优于标准TRW-BP在此角色中的表现。
• 当图中存在环状最大子图或最大节点数量较大时，局部搜索（SamIam）性能显著下降，而所提方法保持稳健。
• 标准最大产品和求和产品BP在混合推理问题上表现欠佳，且随着耦合强度σ增大，性能趋势相反。
• Jiang等人（2011）的混合消息传递方法和EM算法的表现均劣于所提的邻近和混合产品方法，且EM常表现不佳。
• 所提算法在复杂依赖结构存在于最大变量中的挑战性场景下，显著优于现有方法。