[論文レビュー] Suppressing Random Walks in Markov Chain Monte Carlo Using Ordered Overrelaxation

Radford M. Neal|ArXiv.org|Jun 22, 1995

Bayesian Methods and Mixture Models被引用数 31

ひとこと要約

本稿では、順序統計を利用してより体系的な状態遷移を生成することで、ランダムウォーク行動を抑える、マルコフ連鎖モンテカルロ（MCMC）の順序付きオーバーリラクセーション法を提案する。この手法は、累積分布関数（CDF）およびその逆関数が効率的に計算可能な分布に適用可能であり、高次元で相関の強いモデルにおいて混合性を著しく向上させ、ランダムウォークの非効率性を低減する。

ABSTRACT

Markov chain Monte Carlo methods such as Gibbs sampling and simple forms of the Metropolis algorithm typically move about the distribution being sampled via a random walk. For the complex, high-dimensional distributions commonly encountered in Bayesian inference and statistical physics, the distance moved in each iteration of these algorithms will usually be small, because it is difficult or impossible to transform the problem to eliminate dependencies between variables. The inefficiency inherent in taking such small steps is greatly exacerbated when the algorithm operates via a random walk, as in such a case moving to a point n steps away will typically take around n^2 iterations. Such random walks can sometimes be suppressed using ``overrelaxed'' variants of Gibbs sampling (a.k.a. the heatbath algorithm), but such methods have hitherto been largely restricted to problems where all the full conditional distributions are Gaussian. I present an overrelaxed Markov chain Monte Carlo algorithm based on order statistics that is more widely applicable. In particular, the algorithm can be applied whenever the full conditional distributions are such that their cumulative distribution functions and inverse cumulative distribution functions can be efficiently computed. The method is demonstrated on an inference problem for a simple hierarchical Bayesian model.

研究の動機と目的

• 高次元で強く相関のある分布におけるランダムウォークMCMCの非効率性を解消すること。
• オーバーリラクセーション法をガウス型のフル条件付き分布に限らず、より一般的な分布へと拡張すること。
• 詳細つり合いを保ちつつ、状態空間の高速な探索を可能にする手法を開発すること。
• 複雑なベイズモデルにおける標準的なギブスサンプリングやメトロポリス法の実用的で広く適用可能な代替手法を提供すること。

提案手法

• ランダムウォーク行動を低減するため、順序統計に基づくオーバーリラクセーションMCMCアルゴリズムを提案する。
• 各反復において、K個の過去の状態からなる順序付き集合から、現在の変数を更新する状態を選択する。
• 更新には、一様分布に従う確率変数に基づいて、逆累積分布関数を用いて新しい値を生成する。
• この手法は詳細つり合いを保持しており、累積分布関数およびその逆関数を効率的に計算可能な任意のフル条件付き分布に対して有効である。
• ガウスモデルに限らないオーバーリラクセーションの一般化により、ベイズ推論への応用範囲を広げられる。
• アルゴリズムは階層ベイズモデルに適用され、標準的なギブスサンプリングと比較して混合性が著しく向上していることが示された。

実験結果

リサーチクエスチョン

• RQ1 オーバーリラクセーションは、ガウス型のフル条件付き分布を超えて一般化可能であり、MCMCの効率性を向上させることができるか？
• RQ2 順序付きオーバーリラクセーションは、高次元で相関のあるモデルにおいて、どのようにランダムウォーク行動を抑えるか？
• RQ3 過去の状態数Kの値が、混合性と収束性に与える影響は何か？
• RQ4 この手法は、複雑な後方分布において探索を加速させつつ、詳細つり合いを維持できるか？
• RQ5 このアプローチは、強い変数間依存性を示す非ガウス型の高次元ベイズモデルに適用可能か？

主な発見

• 提案された順序付きオーバーリラクセーション法は、MCMCにおけるランダムウォーク行動を効果的に抑制し、状態空間を探索するのに必要な反復回数を削減した。
• 累積分布関数（CDF）およびその逆関数が効率的に計算可能な任意の分布に適用可能である。
• テストされた階層ベイズモデルでは、標準的なギブスサンプリングと比較して、アルゴリズムの混合性が著しく向上した。
• 詳細つり合いが保持されており、正しいターゲット分布への収束が保証された。
• 性能はKの選択に敏感であり、最適な値をとることで収束速度が向上した。
• 微分が得られず、または計算が困難な状況において、ハイブリッドモンテカルロの実用的代替手段を提供する。