[論文レビュー] Free Energy Methods for Efficient Exploration of Mixture Posterior Densities

Nicolás Chopin, Tony Lelièvre+1 more|arXiv (Cornell University)|Jan 1, 2010

Markov Chains and Monte Carlo Methods被引用数 2

ひとこと要約

本稿では、反応座標（例えば、成分分散ハイパーパrameterなど）に沿ってバイアスポテンシャルを導入し、適応的バイアス法を用いて、自由エネルギーに基づくMCMC手法を提案する。その後、バイアスを補正するためのインポートランスサンプリングを適用することで、テストケースにおける標準MCMCに比べて、混合事後分布のマルチモーダルな密度を効率的にサンプリングすることが可能になる。

ABSTRACT

Because of their multimodality, mixture posterior densities are difficult to sample withstandard Markov chain Monte Carlo (MCMC) methods. We propose a strategy to enhancethe sampling of MCMC in this context, using a biasing procedure which originates fromcomputational statistical physics. The principle is first to choose a "reaction coordinate", that is, a direction in which the target density is multimodal. In a second step, the marginallog-density of the reaction coordinate is estimated; this quantity is called "free energy" inthe computational statistical physics literature. To this end, we use adaptive biasing Markovchain algorithms which adapt their invariant distribution on the fly, in order to overcomesampling barriers along the chosen reaction coordinate. Finally, we perform an importancesampling step in order to remove the bias and recover the true posterior. The efficiency factorcan easily be estimated a priori once the bias is known, and is large enough for the test caseswe considered.A crucial point is the choice of the reaction coordinate. One standard choice (used forexample in the classical Wang-Landau algorithm) is the opposite of the log-posterior density.We show that another convenient and efficient reaction coordinate is the hyper-parameterthat determines the order of magnitude of the variance of each component. We also showhow to adapt the method to perform model choice between different number of components.We illustrate our approach by analyzing two real data sets.

研究の動機と目的

• マルチモーダル混合事後分布におけるMCMCサンプリングの非効率性という課題に対処すること。
• 事後密度の複数のモードによって引き起こされるサンプリングの障壁を克服すること。
• 所定の反応座標に沿ったバイアスを用いることで、複雑な事後構造の効率的探索を可能にする手法を開発すること。
• 異なる混合成分数においても、正確な事後分布推定とモデル選択を可能にすること。
• 実世界のデータ応用に向けた実用的で、事前に推定可能な効率性向上を提供すること。

提案手法

• 事後分布のマルチモーダル構造を捉える反応座標（例えば、事後密度の対数、または成分分散ハイパーパrameterなど）を選択すること。
• 動的になInvariant分布を調整する適応的バイアスマルコフ連鎖アルゴリズムを用いて、反応座標の周辺対数密度（自由エネルギー）を推定すること。
• 反応座標に沿ってバイアスポテンシャルを適用し、エネルギー障壁を平坦化し、モード間の混合を向上させること。
• バイアス付き連鎖からのサンプルを再重み付けするためにインポートランスサンプリングを適用し、真の事後分布を回復すること。
• 既知のバイアスに基づいて、事前に効率性の向上を推定することで、完全なサンプリングの前に行われた性能予測が可能になること。
• 異なる混合成分数における自由エネルギー推定を比較することで、モデル選択に適応した手法の拡張を行うこと。

実験結果

リサーチクエスチョン

• RQ1 マルチモーダル混合事後分布の存在下で、MCMCサンプリングをどのようにして効率化できるか。
• RQ2 どの反応座標の選択が、マルチモーダル事後分布探索におけるエネルギー障壁の克服に最も効果的か。
• RQ3 適応的バイアスによる自由エネルギー推定は、標準MCMCに比べてサンプリング効率を向上させることができるか。
• RQ4 実用的導入のための、事前に効率性をどのように推定できるか。
• RQ5 この手法は、異なる混合成分数におけるベイジアンモデル選択に拡張可能か。

主な発見

• 提案手法は、適応的バイアスを用いてエネルギー障壁を克服することで、マルチモーダル混合事後分布におけるサンプリング効率を顕著に向上させる。
• 成分分散を制御するハイパーパrameterを反応座標として用いることで、事後密度の対数を用いるのと比較して、より効率的で実用的な代替手段が得られる。
• バイアスが既知であれば、事前に効率要因を推定できるため、適切な手法選択が可能になる。
• 本手法は、異なる混合成分数における事後分布推定とモデル比較を成功裏に可能にする。
• 本手法は2つの実データセットを用いて検証され、複雑な事後分布状況下でも実用的で頑健であることが示された。