[论文解读] Minimum Weight Perfect Matching via Blossom Belief Propagation

Sungsoo Ahn, Sejun Park+2 more|arXiv (Cornell University)|Sep 23, 2015

Error Correcting Code Techniques参考文献 26被引用 3

一句话总结

该论文提出Blossom-BP，一种新颖的分布式算法，通过在经收缩与展开花形结构的图上顺序应用信念传播（BP），解决任意图上的最小权完美匹配问题。该算法保证在O(n²)次BP运行内收敛，并为具有整数规划间隙的问题提供了首个基于信念传播的系统性解决方案，同时为Edmonds的花形算法提供了分布式解释。

ABSTRACT

Max-product Belief Propagation (BP) is a popular message-passing algorithm for computing a Maximum-A-Posteriori (MAP) assignment over a distribution represented by a Graphical Model (GM). It has been shown that BP can solve a number of combinatorial optimization problems including minimum weight matching, shortest path, network flow and vertex cover under the following common assumption: the respective Linear Programming (LP) relaxation is tight, i.e., no integrality gap is present. However, when LP shows an integrality gap, no model has been known which can be solved systematically via sequential applications of BP. In this paper, we develop the first such algorithm, coined Blossom-BP, for solving the minimum weight matching problem over arbitrary graphs. Each step of the sequential algorithm requires applying BP over a modified graph constructed by contractions and expansions of blossoms, i.e., odd sets of vertices. Our scheme guarantees termination in O(n^2) of BP runs, where n is the number of vertices in the original graph. In essence, the Blossom-BP offers a distributed version of the celebrated Edmonds' Blossom algorithm by jumping at once over many sub-steps with a single BP. Moreover, our result provides an interpretation of the Edmonds' algorithm as a sequence of LPs.

研究动机与目标

• 开发一种系统性、基于消息传递的分布式算法，用于求解线性规划松弛存在整数规划间隙的图上的最小权完美匹配问题。
• 将信念传播（BP）从树状结构模型扩展至具有非紧致线性规划松弛的组合优化问题。
• 提供Edmonds经典花形算法的基于BP的对应方法，实现并行与分布式计算。
• 通过引入中间线性规划（LP）和BP应用，为基于BP的整数规划求解器建立多项式时间保证。
• 将Edmonds算法重新解释为一系列可解的线性规划问题序列，从而增强理论与实践理解。

提出的方法

• 该算法在通过收缩和偶尔展开花形结构（即违反LP紧致性的奇数个顶点集合）形成的若干修改图上，顺序应用BP。
• 提出Blossom-LP，一系列中间线性规划，其与Blossom-V算法保持等价，但设计为可通过BP求解，基于近期提出的LP-BP对应框架。
• 每次BP运行在顶点代表花形结构的收缩图上进行，边权通过对偶变量调整以反映缩减成本。
• 利用环-爪-匹配分解来追踪图的结构组件，并在每次迭代中确保正确性。
• 在原始（匹配）与对偶（变量）解之间强制执行互补松弛条件，以在每一步验证最优性。
• 通过模仿Blossom-V算法的逐步结构，该算法在O(n²)次BP迭代内终止，但用BP替代了顺序的树更新。

实验结果

研究问题

• RQ1 当线性规划松弛存在整数规划间隙时，信念传播能否系统性地应用于求解整数规划问题？
• RQ2 是否存在一种方法，通过在修改图上运行一系列BP，来模拟经典的Edmonds花形算法？
• RQ3 能否设计出中间线性规划，使其可被BP求解，同时保持与原始优化问题的等价性？
• RQ4 是否存在一种分布式消息传递算法，能够以多项式复杂度复制确定性Blossom-V算法的行为？
• RQ5 Edmonds算法能否被解释为一系列可解的线性规划问题序列，每个问题均可通过BP求解？

主要发现

• Blossom-BP保证在O(n²)次信念传播运行内终止，其中n为原图的顶点数。
• 该算法通过保持与Blossom-V算法变体的等价性，确保了正确性，从而保证找到最优解。
• 该方法通过用BP在收缩图上替代顺序树更新，实现了Edmonds花形算法的分布式实现。
• Blossom-LP被证明与Blossom-V的中间步骤等价，且每个LP均可通过[16]框架中的BP求解。
• 该算法中的环-爪-匹配分解恰好对应于线性规划松弛的半整数解，从而确保互补松弛与最优性。
• 该方法首次建立了已知的具有整数规划间隙的整数规划问题的多项式时间BP求解器，将BP的应用范围从紧致LP松弛扩展至非紧致情形。