[論文レビュー] Minimum Weight Perfect Matching via Blossom Belief Propagation

Sungsoo Ahn, Sejun Park+2 more|arXiv (Cornell University)|Sep 23, 2015

Error Correcting Code Techniques参考文献 26被引用数 3

ひとこと要約

この論文では、最小重み完全マッチング問題を任意のグラフ上で解くための新しい分散アルゴリズムであるBlossom-BPを紹介する。このアルゴリズムは、花（blossom）の縮約と展開を繰り返し行い、変更されたグラフ上で逐次的信念伝播（BP）を適用することで、O(n²)回のBP実行で収束を保証する。整数性ギャップを有する問題に対する初めての体系的かつBPベースの解法を提供し、エドムンズの花アルゴリズムの分散的解釈を提示する。

ABSTRACT

Max-product Belief Propagation (BP) is a popular message-passing algorithm for computing a Maximum-A-Posteriori (MAP) assignment over a distribution represented by a Graphical Model (GM). It has been shown that BP can solve a number of combinatorial optimization problems including minimum weight matching, shortest path, network flow and vertex cover under the following common assumption: the respective Linear Programming (LP) relaxation is tight, i.e., no integrality gap is present. However, when LP shows an integrality gap, no model has been known which can be solved systematically via sequential applications of BP. In this paper, we develop the first such algorithm, coined Blossom-BP, for solving the minimum weight matching problem over arbitrary graphs. Each step of the sequential algorithm requires applying BP over a modified graph constructed by contractions and expansions of blossoms, i.e., odd sets of vertices. Our scheme guarantees termination in O(n^2) of BP runs, where n is the number of vertices in the original graph. In essence, the Blossom-BP offers a distributed version of the celebrated Edmonds' Blossom algorithm by jumping at once over many sub-steps with a single BP. Moreover, our result provides an interpretation of the Edmonds' algorithm as a sequence of LPs.

研究の動機と目的

• 線形計画法（LP）緩和が整数性ギャップを示すグラフにおける最小重み完全マッチングを解く体系的かつ分散型のメッセージスイーピングアルゴリズムの開発。
• 信念伝播（BP）を木構造モデルを超えて、LP緩和がタイトでない組合せ最適化問題へと拡張すること。
• エドムンズの古典的花アルゴリズムのBPベースの類似物を提供し、並列および分散計算を可能にすること。
• 中間LPを導入し、BPの適用を組み合わせることで、整数計画法におけるBPベースの解法に多項式時間保証を確立すること。
• エドムンズのアルゴリズムを、解ける線形計画問題の系列として解釈し、理論的および実用的理解を深めること。

提案手法

• アルゴリズムは、整数性を満たさない奇数の頂点集合（花）の縮約と、時としての展開を繰り返し行うことで生成される変更されたグラフ上で、逐次的にBPを適用する。
• Blossom-LPは、Blossom-Vアルゴリズムの変種と同等の問題を維持するが、最近のLP-BP対応フレームワークを用いてBPで解けるように設計された中間LPの系列を導入する。
• 各BP実行は、頂点が花を表す縮約されたグラフ上で行われ、エッジの重みは双対変数を用いて減少コストを反映するように調整される。
• サイクル・クロウ・マッチング分解を用いて、グラフの構造的要素を追跡し、各反復で正しさを保証する。
• プライマル（マッチング）と双対（変数）の解の間に補完的スラック条件を満たすことで、各ステップでの最適性を検証する。
• Blossom-Vアルゴリズムの段階的構造を模倣することで、O(n²)回のBP反復でアルゴリズムは終了するが、逐次的木更新の代わりにBPが使用される。

実験結果

リサーチクエスチョン

• RQ1 線形計画法緩和に整数性ギャップが存在する場合、信念伝播（BP）を体系的に整数計画問題に適用可能か？
• RQ2 古典的エドムンズの花アルゴリズムを、変更されたグラフ上でBPの連続実行によってシミュレートできるか？
• RQ3 元の最適化問題と同等の問題を保ちつつ、BPで解けるように設計された中間LPを設計できるか？
• RQ4 整数性ギャップを有する問題に対して、多項式時間の複雑性を満たす分散型メッセージスイーピングアルゴリズムが存在するか？
• RQ5 エドムンズのアルゴリズムを、それぞれBPで解ける一連の扱いやすい線形計画問題として解釈できるか？

主な発見

• Blossom-BPは、元のグラフの頂点数nに対してO(n²)回の信念伝播実行で終了を保証する。
• アルゴリズムは、Blossom-Vアルゴリズムの変種と同等の問題を維持することで正しさを達成し、最適解が得られることを保証する。
• この手法により、エドムンズの花アルゴリズムの分散実装が可能となり、逐次的木更新の代わりに縮約されたグラフ上でBPを適用する。
• Blossom-LPは、Blossom-Vの途中ステップと同等であることが証明されており、[16]のフレームワークを用いて各LPがBPで解けることが保証される。
• アルゴリズムにおけるサイクル・クロウ・マッチング分解は、LP緩和の半整数解に正確に対応しており、補完的スラック条件と最適性を保証する。
• 本手法により、整数性ギャップを有する整数計画法に対する最初の既知の多項式時間BPベースの解法が確立され、BPの適用範囲がタイトでないLP緩和へと拡張された。