[論文レビュー] Barrier Frank-Wolfe for Marginal Inference

Rahul G. Krishnan, Simon Lacoste-Julien+1 more|arXiv (Cornell University)|Nov 6, 2015

Machine Learning and Algorithms被引用数 11

ひとこと要約

本稿では、マルコフ確率場におけるマージナル多面体上でのツリー再重み付け（TRW）変分的目的関数を最適化する、グローバルに収束するバリアフランク＝ウォルフ法を提案する。適応的領域収縮と、条件付き勾配フレームワーク内でのブラックボックスMAPソルバの活用により、対数パーティション関数のよりタイトな上限が得られ、正確なマージナル多面体上でのTRW最適化に対する、初めての理論的収束保証付きのアルゴリズムが実現された。これは、局所的整合性の緩和よりも優れている。

ABSTRACT

We introduce a globally-convergent algorithm for optimizing the tree-reweighted (TRW) variational objective over the marginal polytope. The algorithm is based on the conditional gradient method (Frank-Wolfe) and moves pseudomarginals within the marginal polytope through repeated maximum a posteriori (MAP) calls. This modular structure enables us to leverage black-box MAP solvers (both exact and approximate) for variational inference, and obtains more accurate results than tree-reweighted algorithms that optimize over the local consistency relaxation. Theoretically, we bound the sub-optimality for the proposed algorithm despite the TRW objective having unbounded gradients at the boundary of the marginal polytope. Empirically, we demonstrate the increased quality of results found by tightening the relaxation over the marginal polytope as well as the spanning tree polytope on synthetic and real-world instances.

研究の動機と目的

• 正確なマージナル多面体上でのTRW目的関数の最適化に、理論的収束保証付きのアルゴリズムを開発すること。これは未解決の問題のままである。
• マージナル多面体の境界付近におけるTRW目的関数の非有界勾配が、標準的なフランク＝ウォルフ法の収束保証を無効にすることに起因する課題に対処すること。
• 局所的多面体からマージナル多面体およびスパニングツリー多面体への緩和のタイトニングにより、変分推論の精度を向上させること。
• モジュラーで効率的なフレームワーク内で、ブラックボックスMAPソルバ（正確および近似）を実用的に統合できること。
• 非リプシッツ連続勾配が存在する状況下でも、適用可能な理論的収束保証を、修正されたフランク＝ウォルフ法に与えること。

提案手法

• 境界での非有界勾配に対処するため、適応的領域収縮を施した修正されたバリアフランク＝ウォルフ法を提案する。
• 各線形最小化サブプロブレムがMAP推論呼び出しに対応する条件付き勾配法を用い、市販のMAPソルバとの統合を可能にする。
• 以前の整数割り当てを再利用することで、冗長なMAP呼び出しを減らす、完全に修正されたバージョンを導入する。
• スパニングツリー多面体上での最適化において、局所探索とステップ間の計算再利用を活用し、効率性を向上させる。
• 近似MAPソルバを用いた双対ギャップモニタリングと上限評価技術を適用し、収束の証明と対数パーティション関数の上限を保証する。
• TRW目的関数における非リプシッツ連続勾配にもかかわらず、修正されたアルゴリズムの理論的収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 境界での非有界勾配が存在するにもかかわらず、正確なマージナル多面体上でのTRW変分推論に、グローバルに収束するフランク＝ウォルフ法を設計できるか？
• RQ2 局所的多面体やサイクル緩和ではなく、マージナル多面体上で最適化することで、対数パーティション関数の上限が著しく改善されるか？
• RQ3 ブラックボックスMAPソルバを条件付き勾配フレームワーク内に効果的に統合することで、高精度な変分推論が達成できるか？
• RQ4 適応的領域収縮の使用が、挙動の悪い勾配の存在下でも収束性と安定性をどのように向上させるか？
• RQ5 近似MAPソルバを用いることで、計算コストを削減しつつ、対数パーティション関数のタイトな上限をどの程度維持できるか？

主な発見

• 提案されたバリアフランク＝ウォルフ法は、マージナル多面体上でのTRW最適化に対して、理論的グローバル収束性を達成し、変分推論分野における未解決問題を解決した。
• 実験結果から、局所的多面体からマージナル多面体への緩和のタイトニングにより、合成および実世界のタスクの両方で、対数パーティション関数の上限が著しく改善された。
• 10ノードの合成クリークでは、アルゴリズムは最初の反復より3〜4倍のMAP呼び出しが必要だったが、双対ギャップは著しくタイトになった。
• TRBPや他の局所的整合性に基づく手法よりも優れた性能を示し、中国語文字やグリッド構造のMRFにおいて顕著な向上が観察された。
• 上界を返す近似MAPソルバを用いることで、対数パーティション関数の保証付き上界が得られ、局所的多面体のような緩和を直接最適化するのよりもタイトな結果が得られた。
• 完全に修正されたバージョンと計算再利用戦略により、新しいMAP呼び出しの回数が顕著に削減され、実用的効率が向上した。