[论文解读] Barrier Frank-Wolfe for Marginal Inference

Rahul G. Krishnan, Simon Lacoste-Julien+1 more|arXiv (Cornell University)|Nov 6, 2015

Machine Learning and Algorithms被引用 11

一句话总结

本文提出了一种全局收敛的障碍型弗兰克-沃尔夫算法，用于在马尔可夫随机场的边缘多面体上优化树重加权（TRW）变分目标。通过采用自适应域收缩并利用条件梯度框架内的黑箱MAP求解器，该方法在对数分区函数上获得了更紧的界，并提供了首个针对精确边缘多面体上TRW优化的可证明收敛算法，优于局部一致性松弛方法。

ABSTRACT

We introduce a globally-convergent algorithm for optimizing the tree-reweighted (TRW) variational objective over the marginal polytope. The algorithm is based on the conditional gradient method (Frank-Wolfe) and moves pseudomarginals within the marginal polytope through repeated maximum a posteriori (MAP) calls. This modular structure enables us to leverage black-box MAP solvers (both exact and approximate) for variational inference, and obtains more accurate results than tree-reweighted algorithms that optimize over the local consistency relaxation. Theoretically, we bound the sub-optimality for the proposed algorithm despite the TRW objective having unbounded gradients at the boundary of the marginal polytope. Empirically, we demonstrate the increased quality of results found by tightening the relaxation over the marginal polytope as well as the spanning tree polytope on synthetic and real-world instances.

研究动机与目标

• 开发一种可证明收敛的算法，用于在精确边缘多面体上优化TRW目标，该问题仍为开放问题。
• 解决在边缘多面体边界附近TRW目标函数梯度无界的问题，该问题使标准弗兰克-沃尔夫收敛性保证失效。
• 通过将松弛从局部多面体提升至边缘多面体和生成树多面体，提高变分推断的精度。
• 通过在模块化、高效的框架内集成黑箱MAP求解器（精确与近似），实现实际部署。
• 为在梯度无界条件下修改后的弗兰克-沃尔夫方法提供理论收敛保证，其适用范围超出变分推断。

提出的方法

• 提出一种改进的障碍型弗兰克-沃尔夫算法，通过自适应域收缩处理边缘多面体边界处的无界梯度问题。
• 采用条件梯度方法，其中每个线性最小化子问题对应一次MAP推理调用，从而可与现成的MAP求解器集成。
• 引入完全校正变体，重用先前的整数赋值以减少冗余的MAP调用。
• 在对生成树多面体进行优化时，采用局部搜索和步骤间计算重用策略，以提升效率。
• 利用近似MAP求解器进行对偶间隙监控与上界估计，以验证收敛性并界定对数分区函数。
• 尽管TRW目标函数的梯度非Lipschitz，仍推导出该改进算法的理论收敛速率。

实验结果

研究问题

• RQ1 能否设计一种全局收敛的弗兰克-沃尔夫算法，用于在精确边缘多面体上进行TRW变分推断，即使在边界处存在无界梯度？
• RQ2 与局部多面体或环路松弛相比，对边缘多面体进行优化是否能显著改善对对数分区函数的界？
• RQ3 能否在条件梯度框架内有效利用黑箱MAP求解器，以实现高精度的变分推断？
• RQ4 自适应域收缩的使用在梯度行为不良的情况下如何提升收敛性与稳定性？
• RQ5 在降低计算成本的同时，近似MAP求解器在多大程度上可维持对对数分区函数的紧致上界？

主要发现

• 所提出的障碍型弗兰克-沃尔夫算法在边缘多面体上对TRW优化实现了可证明的全局收敛，解决了变分推断领域的一个开放问题。
• 实验结果表明，将松弛从局部多面体收紧至边缘多面体，显著改善了对对数分区函数的界，且在合成与真实任务中均表现优异。
• 在10个节点的合成团上，该算法在首次迭代后所需的MAP调用次数为3至4倍，但实现了显著更紧的对偶间隙。
• 该方法优于TRBP及其他基于局部一致性的方法，在中文字符和网格结构MRF任务中均表现出显著优势。
• 使用返回上界的近似MAP求解器，可对对数分区函数提供经认证的上界，其结果比直接在局部多面体等松弛上优化更为紧密。
• 完全校正变体与计算重用策略显著减少了新MAP调用的次数，提升了实际效率。