[论文解读] Lifted Tree-Reweighted Variational Inference

Hung Bui, Tuyen N. Huynh+1 more|arXiv (Cornell University)|Jun 17, 2014

Bayesian Modeling and Causal Inference参考文献 17被引用 3

一句话总结

本文提出了一种提升的树重加权变分推断（lifted tree-reweighted variational inference），这是一种凸优化框架，通过利用一阶概率模型中的对称性，高效地近似对数配分函数。通过使用自同构不变的边出现概率对TRW目标进行提升，并引入可交换的簇约束，该方法在配分函数上实现了更紧的上界，并通过使用提升的MAP查询的Frank-Wolfe优化实现了收敛且可扩展的推断。

ABSTRACT

We analyze variational inference for highly symmetric graphical models such as those arising from first-order probabilistic models. We first show that for these graphical models, the tree-reweighted variational objective lends itself to a compact lifted formulation which can be solved much more efficiently than the standard TRW formulation for the ground graphical model. Compared to earlier work on lifted belief propagation, our formulation leads to a convex optimization problem for lifted marginal inference and provides an upper bound on the partition function. We provide two approaches for improving the lifted TRW upper bound. The first is a method for efficiently computing maximum spanning trees in highly symmetric graphs, which can be used to optimize the TRW edge appearance probabilities. The second is a method for tightening the relaxation of the marginal polytope using lifted cycle inequalities and novel exchangeable cluster consistency constraints.

研究动机与目标

• 开发一种用于对称图模型的凸变分推断框架，提供收敛性保证，并对对数配分函数提供上界。
• 通过以感知对称性的方式形式化树重加权变分推断，将提升推断从信念传播扩展至更广范围。
• 通过提升的环不等式和新颖的可交换多面体约束，改进变分上界的质量。
• 通过在每次迭代中求解提升的MAP问题的Frank-Wolfe方法，实现高效优化。
• 证明凸性可实现参数学习中的可靠、全局优化，而不同于非凸的提升BP方法。

提出的方法

• 通过将边出现概率ρ限制为在模型的自同构群下不变，对树重加权（TRW）变分目标进行提升，从而获得紧凑且对称的公式化表达。
• 采用Frank-Wolfe算法，其中每次迭代求解一个提升的最大后验（MAP）推断问题，确保收敛至全局最优解。
• 引入可交换多面体约束，利用随机变量的可交换性，以收紧对提升的联合概率多面体的松弛。
• 通过提升的最大生成树算法优化TRW边出现向量ρ，从而提高对数配分函数上界的质量。
• 结合环不等式和提升的一致性约束，进一步收紧变分松弛，超越局部约束的限制。
• 将这些组件整合为统一的凸优化框架，保持上界性质，并支持可扩展的推断。

实验结果

研究问题

• RQ1 树重加权变分目标能否在保持凸性和上界性质的同时，被提升以利用一阶概率模型中的对称性？
• RQ2 在提升设置中，通过优化边出现概率，如何改进TRW上界的质量？
• RQ3 在不牺牲计算效率的前提下，通过可交换约束能将提升的联合概率多面体收紧到何种程度？
• RQ4 能否使提升的TRW推断实现收敛和全局最优，而不同于以往的提升信念传播方法？
• RQ5 通过等价划分实现提升与保持TRW框架中凸性和有效上界之间的权衡是什么？

主要发现

• 提升的TRW公式在对数配分函数上提供了凸的上界，从而实现可靠且全局最优的推断与学习。
• 使用可交换多面体约束可显著收紧对提升的联合概率多面体的松弛，有时可实现精确表征。
• 与提升的LBP相比，提升的TRW对对数似然的估计范围更小，且能扩展至更高的参数值，表明其具有更稳健和精确的上界。
• 使用提升MAP查询的Frank-Wolfe算法收敛至全局最优解，而基于梯度的提升LBP方法则易陷入局部最优。
• 由于凸性，该方法在参数学习中优于提升的LBP，确保无论初始化如何，都能收敛至全局解。
• 提供了一个例子，表明在等价划分上对称的生成树多面体可能为空，揭示了提升紧凑性与凸性之间的根本性权衡。