[論文レビュー] Constrained Approximate Maximum Entropy Learning of Markov Random Fields

Varun Ganapathi, David Vickrey+2 more|arXiv (Cornell University)|Jun 13, 2012

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 24

ひとこと要約

この論文は、マルコフ確率場（MRFs）のパラメータ推定を改善するために、エントロピー目的関数とモーメント制約の両方を凸緩和を用いて近似する、制約付き近似最大エントロピー学習フレームワークを提案する。従来の手法とは異なり、パラメータ共有、正則化、条件付き学習をサポートし、効率的な最適化戦略により、ループを含む信念伝搬（loopy belief propagation）やピecewise学習よりも、実世界のネットワークで優れた性能を発揮する。

ABSTRACT

Parameter estimation in Markov random fields (MRFs) is a difficult task, in which inference over the network is run in the inner loop of a gradient descent procedure. Replacing exact inference with approximate methods such as loopy belief propagation (LBP) can suffer from poor convergence. In this paper, we provide a different approach for combining MRF learning and Bethe approximation. We consider the dual of maximum likelihood Markov network learning - maximizing entropy with moment matching constraints - and then approximate both the objective and the constraints in the resulting optimization problem. Unlike previous work along these lines (Teh & Welling, 2003), our formulation allows parameter sharing between features in a general log-linear model, parameter regularization and conditional training. We show that piecewise training (Sutton & McCallum, 2005) is a very restricted special case of this formulation. We study two optimization strategies: one based on a single convex approximation and one that uses repeated convex approximations. We show results on several real-world networks that demonstrate that these algorithms can significantly outperform learning with loopy and piecewise. Our results also provide a framework for analyzing the trade-offs of different relaxations of the entropy objective and of the constraints.

研究の動機と目的

• 正確な推論が計算的に非現実的であるため、マーキョフ確率場（MRFs）におけるパラメータ推定の課題に対処すること。
• ループを含む信念伝搬（LBP）のような近似推論手法における収束問題を克服するため、MRF学習を制約付きエントロピー最大化問題に再定式化すること。
• 対数線形MRFモデルにおけるパラメータ共有、正則化、条件付き学習をサポートする統一フレームワークの開発。
• 両方のエントロピー目的関数とモーメント制約を凸緩和を用いて近似することで、スケーラブルかつ安定した学習を可能にすること。
• エントロピー項と制約項の異なる緩和法の間のトレードオフを体系的に分析すること。

提案手法

• 最大尤度推定に代わって、モーメント一致制約を伴う双対的最大エントロピー最適化としてMRFパラメータ学習を定式化する。
• 効率的な最適化を可能にするために、エントロピー目的関数とモーメント制約を凸緩和を用いて近似する。
• 2つの最適化戦略を導入：1つは単一の凸近似を用いるもの、もう1つは収束性を向上させるために繰り返し凸近似を用いるもの。
• 双対定式化を通じて、パラメータ共有、正則化、条件付き学習を含む一般の対数線形モデルをサポートする。
• トラクタブルなエントロピー推定を保ちつつ、モーメント制約と整合性を保つためにベーゼ近似を活用する。
• 逐次凸プログラミングを用いて反復的に近似を改善し、安定した解への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 制約付き近似最大エントロピーフレームワークは、ループを含む信念伝搬（loopy belief propagation）を用いた従来の学習法と比較して、MRFにおけるパラメータ推定を改善できるか？
• RQ2 提案手法は、対数線形MRFモデルにおけるパラメータ共有と正則化をどのように処理するか？
• RQ3 エントロピー目的関数とモーメント制約の異なる緩和法は、学習性能と収束性にどの程度の影響を与えるか？
• RQ4 既存の手法と比較して、このフレームワークは条件付き学習や構造予測タスクをより効果的にサポートできるか？
• RQ5 繰り返し凸近似戦略は、単一近似法と比較して、精度と安定性の面でどの程度優れているか？

主な発見

• 提案手法は、複数の実世界ネットワークにおいて、ループを含む信念伝搬を用いた学習を著しく上回り、収束性と精度の両方が向上していることが示された。
• このフレームワークはパラメータ共有と正則化をサポートしており、従来の手法と比較してより頑健で一般化可能なMRFモデルを実現できる。
• ピecewise学習は、提案された定式化の制限付き特殊ケースであることが示され、その適用範囲の広がりが浮き彫りになった。
• 繰り返し凸近似戦略は、単一凸近似法よりも優れた性能を発揮しており、特に複雑または条件が悪いモデルにおいて顕著である。
• 実験的結果から、近似誤差と収束性のバランスが効果的に取られており、安定的かつ正確なパラメータ推定が可能であることが示された。
• このフレームワークは、異なる緩和法のトレードオフを体系的に分析でき、最適な近似戦略を理解するためのインサイトを提供する。