[论文解读] MAP Estimation, Message Passing, and Perfect Graphs

Tony Jebara|arXiv (Cornell University)|May 9, 2012

Bayesian Modeling and Causal Inference参考文献 23被引用 22

一句话总结

该论文证明了在完美图上，图形模型中的最大后验（MAP）估计可在多项式时间内精确求解，并可通过消息传递实现。通过利用强完美图定理和线性规划松弛，作者表明：LP松弛的整数性可保证精确恢复，从而在单连通图之外的广泛图形模型类别中实现高效且最优的推理。

ABSTRACT

Efficiently finding the maximum a posteriori (MAP) configuration of a graphical model is an important problem which is often implemented using message passing algorithms. The optimality of such algorithms is only well established for singly-connected graphs and other limited settings. This article extends the set of graphs where MAP estimation is in P and where message passing recovers the exact solution to so-called perfect graphs. This result leverages recent progress in defining perfect graphs (the strong perfect graph theorem), linear programming relaxations of MAP estimation and recent convergent message passing schemes. The article converts graphical models into nand Markov random fields which are straightforward to relax into linear programs. Therein, integrality can be established in general by testing for graph perfection. This perfection test is performed efficiently using a polynomial time algorithm. Alternatively, known decomposition tools from perfect graph theory may be used to prove perfection for certain families of graphs. Thus, a general graph framework is provided for determining when MAP estimation in any graphical model is in P, has an integral linear programming relaxation and is exactly recoverable by message passing.

研究动机与目标

• 识别MAP估计在多项式时间内可解且可通过消息传递求解的图形模型的广泛类别。
• 将已知的MAP估计在单连通图之外的可解性扩展至更大的图族。
• 建立一个理论框架，连接完美图理论、线性规划松弛与精确消息传递算法。
• 为确定任意给定图形模型是否支持多项式时间、精确的MAP推理提供一种通用方法。

提出的方法

• 将图形模型转化为nand马尔可夫随机场，以支持线性规划松弛。
• 应用强完美图定理，利用多项式时间算法检测图的完美性。
• 利用完美图理论中的已知分解工具，证明特定图族的完美性。
• 通过验证图的完美性，确保LP松弛的整数性，从而保证MAP解的精确性。
• 利用近期收敛的消息传递方案，当LP松弛为整数时可恢复精确解。
• 构建一个通用框架，以确定给定图形模型是否允许精确的、多项式时间的MAP估计。

实验结果

研究问题

• RQ1 在哪些图形模型类别中，MAP估计可通过多项式时间精确消息传递求解？
• RQ2 能否在单连通图之外的更广泛图类中保证线性规划松弛的整数性？
• RQ3 如何应用完美图理论以确保MAP估计的LP松弛产生整数解？
• RQ4 图的完美性与消息传递算法收敛至精确MAP解之间有何关联？
• RQ5 能否开发一个统一框架，以确定任意给定图形模型的MAP估计可解性？

主要发现

• 所有完美图上的MAP估计均属于P类，将可解性扩展至单连通图之外。
• 当且仅当底层图是完美图时，MAP估计的线性规划松弛的整数性可被保证。
• 存在一种多项式时间算法用于检测图是否为完美图，从而可高效验证可解性。
• 当LP松弛为整数时，消息传递算法可恢复精确的MAP解，而这种情况恰好发生在完美图上。
• 该框架可系统性地利用图论性质确定可解的图形模型。
• 该方法统一了线性规划松弛、完美图理论与收敛消息传递，实现精确推理。