[論文レビュー] Asymptotically Independent Markov Sampling: a new MCMC scheme for Bayesian Inference

James L. Beck, Konstantin M. Zuev|arXiv (Cornell University)|Oct 9, 2011

Markov Chains and Monte Carlo Methods参考文献 24被引用数 11

ひとこと要約

本稿では、ベイズ推論における複雑で高次元的、あるいはマルチモーダルな後方分布からの有効なサンプリングを可能にする、新しいMCMCスキームである漸近的独立マルコフサンプリング（AIMS）を紹介する。AIMSは重要度サンプリング、MCMC、およびシミュレーテッド・アニーリングを統合し、やや厳しい条件下でも一様エルゴディック性を保証する。数値例において、マルチモーダルおよび高次元的後方分布の両方で優れた効率性を示した。

ABSTRACT

In Bayesian statistics, many problems can be expressed as the evaluation of the expectation of a quantity of interest with respect to the posterior distribution. Standard Monte Carlo method is often not applicable because the encountered posterior distributions cannot be sampled directly. In this case, the most popular strategies are the importance sampling method, Markov chain Monte Carlo, and annealing. In this paper, we introduce a new scheme for Bayesian inference, called Asymptotically Independent Markov Sampling (AIMS), which is based on the above methods. We derive important ergodic properties of AIMS. In particular, it is shown that, under certain conditions, the AIMS algorithm produces a uniformly ergodic Markov chain. The choice of the free parameters of the algorithm is discussed and recommendations are provided for this choice, both theoretically and heuristically based. The efficiency of AIMS is demonstrated with three numerical examples, which include both multi-modal and higher-dimensional target posterior distributions.

研究の動機と目的

• 標準的なMCMCや重要度サンプリングが混合性の悪さや分散の高さにより失敗する、複雑で高次元的、あるいはマルチモーダルな後方分布からのサンプリングという課題に対処すること。
• 重要度サンプリング、MCMC、およびシミュレーテッド・アニーリングを統合した、一元的で頑健なサンプリングアルゴリズムを構築すること。
• 提案されたアルゴリズムの理論的エルゴディック性、特に一様エルゴディック性を確立することにより、高速な収束と信頼性の高いサンプリングを保証すること。
• サンプルサイズ、有効サンプル数のしきい値、提案分布の分散といったアルゴリズムのパラメータの選定に関する実用的ガイドラインを提供すること。
• 実世界の数値例、特にマルチモーダルおよび高次元的後方分布において、アルゴリズムの効率性を実証すること。

提案手法

• AIMSは、シミュレーテッド・アニーリングを用いて事前分布 $\pi_0$ から後方分布 $\pi_m$ へ滑らかに移行する中間分布の系列 $\pi_0, \pi_1, \dots, \pi_m$ を構築する。
• 各段階 $j$ において、直前の分布 $\pi_{j-1}$ からの $N$ 個のサンプルを用いて、$\pi_j$ の非パラメトリックな重要度サンプリング近似 $\hat{\pi}_j^N$ を構築する。
• この近似 $\hat{\pi}_j^N$ が、独立メトロポリス・ハスティングス法における独立な提案分布として用いられ、$\pi_j$ からのサンプルが生成される。
• アルゴリズムは漸近的独立性を保証する：$N \to \infty$ となると、提案分布は正確になり、マルコフ連鎖はターゲット分布からのi.i.d.サンプルを生成するようになる。
• 有効サンプル数（ESS）のしきい値 $\gamma = 1/2$ が、有効サンプル数の制御およびアニーリングスケジュールの指針として用いられる。
• 数値例では、パrameter空間の良好な探索を確保するため、$c = 0.5$ とする提案密度 $q_j(\cdot|\xi) = \mathcal{N}(\cdot|\xi, c^2 \mathbb{I}_7)$ が使用された。

実験結果

リサーチクエスチョン

• RQ1 重要度サンプリング、MCMC、およびシミュレーテッド・アニーリングを統合したハイブリッドMCMCスキームは、複雑な後方分布に対して一様エルゴディック性を達成できるか？
• RQ2 サンプルサイズ $N$、ESSしきい値 $\gamma$、提案分散といった自由パラメータの選定を、理論的エルゴディック性と実用的効率性の両立が図れるように最適化できるか？
• RQ3 AIMSは、高次元的またはマルチモーダルな後方分布からのサンプリングにおいて、標準的なMCMCや重要度サンプリングを上回る性能を示すか？
• RQ4 AIMSが一様エルゴディックなマルコフ連鎖を生成する条件は何か？ これらの条件は一般的なベイズ推論問題と整合性を示すか？
• RQ5 AIMSは、複雑な幾何構造（複数のモードや強い相関）を有する高次元空間における後方分布を効果的に扱えるか？

主な発見

• AIMSはやや厳しい正則性条件のもとで一様エルゴディックなマルコフ連鎖を生成し、ターゲット後方分布への高速かつ安定した収束を保証する。
• 7次元の非線形回帰例（2つのモードを有する）において、高次元的かつマルチモーダルな後方分布においても、高いサンプリング効率を達成した。
• 数値例では、AIMSは真の平均予測関数 $f(x)$ を的確に回復し、近似の第5百分位数と第95百分位数が真の曲線まわりの不確実性を的確に捉えていた。
• $N = 3 \times 10^3$ 個のサンプルを各アニーリング段階で使用し、$\gamma = 1/2$ を採用した結果、すべての10段階のアニーリングレベルで安定的かつ正確な後方分布近似が得られ、収束が確認された。
• AIMSの近似 $\bar{\hat{f}}_m(x)$ は真の関数とよく一致しており、中間の近似 $\bar{\hat{f}}_j(x)$ はターゲットへ向かう滑らかな進行を示しており、効果的なアニーリングが実現していることが示された。
• 7次元空間における複数のモードと強いパrameter相関を有する後方分布に対しても、AIMSはその構造的複雑性に対して頑健であることが実証された。