[论文解读] Lagrangian Relaxation for MAP Estimation in Graphical Models

Jason K. Johnson, Dmitry Malioutov+1 more|ArXiv.org|Sep 28, 2007

Bayesian Modeling and Causal Inference参考文献 15被引用 73

一句话总结

该论文提出了一种用于离散和高斯图模型中MAP估计的一般拉格朗日松弛框架，通过在更具可塑性的扩展图上重新表述难以处理的问题，并引入约束条件，再通过拉格朗日乘子松弛这些约束，从而得到一个凸的对偶问题。当对偶间隙消失时，该方法可获得最优的MAP估计，并通过引入带有汇总变量的多尺度松弛，加速收敛并减小对偶间隙。

ABSTRACT

We develop a general framework for MAP estimation in discrete and Gaussian graphical models using Lagrangian relaxation techniques. The key idea is to reformulate an intractable estimation problem as one defined on a more tractable graph, but subject to additional constraints. Relaxing these constraints gives a tractable dual problem, one defined by a thin graph, which is then optimized by an iterative procedure. When this iterative optimization leads to a consistent estimate, one which also satisfies the constraints, then it corresponds to an optimal MAP estimate of the original model. Otherwise there is a ``duality gap'', and we obtain a bound on the optimal solution. Thus, our approach combines convex optimization with dynamic programming techniques applicable for thin graphs. The popular tree-reweighted max-product (TRMP) method may be seen as solving a particular class of such relaxations, where the intractable graph is relaxed to a set of spanning trees. We also consider relaxations to a set of small induced subgraphs, thin subgraphs (e.g. loops), and a connected tree obtained by ``unwinding'' cycles. In addition, we propose a new class of multiscale relaxations that introduce ``summary'' variables. The potential benefits of such generalizations include: reducing or eliminating the ``duality gap'' in hard problems, reducing the number or Lagrange multipliers in the dual problem, and accelerating convergence of the iterative optimization procedure.

研究动机与目标

• 解决具有复杂依赖关系的大规模图模型中精确MAP估计的不可行性问题。
• 通过引入凸松弛框架，克服联结树方法的指数级复杂度。
• 开发一种统一的方法，通过拉格朗日松弛推广现有方法（如树重加权最大后验概率，TRMP）。
• 通过结构化扩展（包括带有汇总变量的多尺度松弛）减少或消除困难推理问题中的对偶间隙。
• 通过迭代对偶上升法实现高效优化，结合边际和最大边际匹配，适用于离散和高斯模型。

提出的方法

• 将原始难以处理的图模型重新表述为在具有复制或结构化子图的扩展图上的带约束优化问题。
• 对约束应用拉格朗日松弛，将问题转化为关于拉格朗日乘子的凸对偶优化问题。
• 使用块坐标下降法，通过迭代更新复制和跨尺度约束的乘子，最小化对偶函数。
• 在离散模型中通过边际和最大边际匹配实现一致性，在高斯模型中通过精度矩阵和均值参数实现矩匹配。
• 通过引入汇总变量来实现多尺度松弛，以粗化模型，并通过约束连接细尺度和粗尺度变量。
• 在高斯模型中，利用逆协方差和均值参数推导拉格朗日乘子的闭式更新规则，确保跨尺度的矩匹配。

实验结果

研究问题

• RQ1 拉格朗日松弛能否系统性地应用于离散和高斯图模型中的MAP估计，以实现可处理的推理？
• RQ2 如何通过策略性的模型扩展来减少或消除MAP估计中的对偶间隙？
• RQ3 带有汇总变量的多尺度松弛在提升收敛速度和减小对偶间隙方面起到什么作用？
• RQ4 在何种情况下，松弛后的对偶解能给出精确的MAP估计，以及如何检测这种情况？
• RQ5 在不同图结构（例如生成树、环、无环循环）下，对偶间隙和收敛行为有何差异？

主要发现

• 所提出的框架将树重加权最大后验概率（TRMP）方法作为拉格朗日松弛在生成树上的特例进行推广。
• 当对偶间隙为零时，迭代对偶优化可得到满足所有原始约束的精确MAP估计。
• 最大边际中出现平局表明对偶间隙非零，提示需要进一步的模型扩展。
• 在高斯模型中，只要松弛是良定义的，该方法即可提供紧致的界和精确的MAP估计，并对方差提供有效的上界。
• 多尺度松弛显著加速收敛——在1024个节点的一维膜模型中，多尺度LR优于块高斯-赛德尔法和单尺度LR。
• 高斯模型中拉格朗日乘子的闭式更新确保了细尺度和粗尺度变量之间的矩匹配，维持了模型的一致性。