[论文解读] Belief Optimization for Binary Networks: A Stable Alternative to Loopy Belief Propagation

Max Welling, Yee Whye Teh|arXiv (Cornell University)|Jan 10, 2013

Bayesian Modeling and Causal Inference参考文献 16被引用 102

一句话总结

本文提出信念优化（belief optimization），一种针对二值无向图模型的稳定推理算法，通过交替更新成对概率与边缘概率来最小化Bethe自由能。与Loopy信念传播不同，该方法可保证收敛至局部最小值，并在非收敛情况下优于BP，因此特别适用于从数据中学习图模型。

ABSTRACT

We present a novel inference algorithm for arbitrary, binary, undirected graphs. Unlike loopy belief propagation, which iterates fixed point equations, we directly descend on the Bethe free energy. The algorithm consists of two phases, first we update the pairwise probabilities, given the marginal probabilities at each unit,using an analytic expression. Next, we update the marginal probabilities, given the pairwise probabilities by following the negative gradient of the Bethe free energy. Both steps are guaranteed to decrease the Bethe free energy, and since it is lower bounded, the algorithm is guaranteed to converge to a local minimum. We also show that the Bethe free energy is equal to the TAP free energy up to second order in the weights. In experiments we confirm that when belief propagation converges it usually finds identical solutions as our belief optimization method. However, in cases where belief propagation fails to converge, belief optimization continues to converge to reasonable beliefs. The stable nature of belief optimization makes it ideally suited for learning graphical models from data.

研究动机与目标

• 解决Loopy信念传播在二值无向图模型中出现的不稳定与非收敛问题。
• 开发一种可证明收敛的推理算法，以最小化Bethe自由能。
• 提供一种适用于从数据中学习图模型的鲁棒替代方法。
• 建立Bethe自由能与TAP自由能在权重的二阶项范围内的关联。

提出的方法

• 该算法执行两个交替阶段：在固定边缘概率的前提下，使用解析表达式更新成对概率。
• 然后通过沿Bethe自由能负梯度方向更新边缘概率。
• 两个更新步骤在数学上均保证减少Bethe自由能。
• 由于Bethe自由能有下界，因此该算法的收敛性得以保证。
• 该方法利用了Bethe自由能与TAP自由能在权重的二阶项范围内的等价性。
• 该方法避免了固定点迭代，转而采用在自由能景观上的梯度下降。

实验结果

研究问题

• RQ1 能否为二值无向图模型开发一种稳定推理算法，以避免Loopy信念传播的收敛问题？
• RQ2 通过基于梯度的更新最小化Bethe自由能，是否能实现可靠且收敛的信念估计？
• RQ3 在收敛性与解的质量方面，所提出的信念优化方法与Loopy信念传播相比表现如何？
• RQ4 在二值网络中，Bethe自由能与TAP自由能之间存在何种关系？

主要发现

• 由于Bethe自由能单调递减且有下界，信念优化可保证收敛至Bethe自由能的局部最小值。
• 当Loopy信念传播收敛时，信念优化通常能找到相同的解，验证了其一致性。
• 在Loopy信念传播无法收敛的情况下，信念优化仍能持续收敛至有意义且稳定的信念。
• Bethe自由能在权重的二阶项范围内等价于TAP自由能，建立了两种框架之间的理论联系。
• 该算法的稳定性使其特别适用于从数据中学习图模型，因为在该场景下收敛性至关重要。