[論文レビュー] Locally weighted Markov chain Monte Carlo

Espen Bernton, Shihao Yang+3 more|arXiv (Cornell University)|Jun 29, 2015

Markov Chains and Monte Carlo Methods参考文献 15被引用数 4

ひとこと要約

本稿では、追加の計算コストを要せず統計的効率性を向上させるために、MCMCアルゴリズムにおける受理・棄却の両提案に適応的重みを割り当てる、局所加重マルコフ連鎖モンテカルロ（LWMCMC）を提案する。提案の重みは遷移確率または定常分布から導出され、推定器の分散を低減する。標準メトロポリス＝ハスティングス法と同一条件で比較したところ、有効サンプルサイズ（ESS）が13%向上したことが実証された。

ABSTRACT

We propose a weighting scheme for the proposals within Markov chain Monte Carlo algorithms and show how this can improve statistical efficiency at no extra computational cost. These methods are most powerful when combined with multi-proposal MCMC algorithms such as multiple-try Metropolis, which can efficiently exploit modern computer architectures with large numbers of cores. The locally weighted Markov chain Monte Carlo method also improves upon a partial parallelization of the Metropolis-Hastings algorithm via Rao-Blackwellization. We derive the effective sample size of the output of our algorithm and show how to estimate this in practice. Illustrations and examples of the method are given and the algorithm is compared in theory and applications with existing methods.

研究の動機と目的

• 計算コストを増加させることなくMCMCサンプリングの統計的効率性を向上させること。
• 標準MCMCおよび並列メトロポリス＝ハスティングス法における非効率性を、受理および棄却の両提案に再重み付けすることによって是正すること。
• 重み付きサンプリングを通じてマルチコアアーキテクチャをより効果的に活用できるフレームワークを提供すること。
• 重み付きMCMC出力の有効サンプルサイズ（ESS）を導出し、性能比較を可能にすること。
• LWMCMCがラオ＝ブラックウェルゼーションおよびカルデッドの並列MH法を一般化・改善することを示すこと。

提案手法

• 各反復で現在状態および提案状態に重みを割り当てる局所加重MCMCフレームワークを提案する。
• 2つの主要な重み付け方式を用いる：1つ目は受理確率に基づく（バージョン1）、2つ目は提案遷移行列の定常分布に基づく（バージョン2）。
• 重み付き和を用いた標的期待値の不偏推定量を導出する：$\hat{\mu}_h = \frac{1}{n}\sum_{j=1}^{n}\sum_{i=0}^{1}w(x_i^{(j)})h(x_i^{(j)})$。
• 本手法が拡張された並列MHアルゴリズムのラオ＝ブラックウェルゼーションに等価であり、再サンプリングなしに分散を低減することを確立する。
• 有効サンプルサイズ（ESS）の式を導出する：$ESS = \frac{n}{\frac{\mathrm{Var}(\bar{x})}{\sigma^2}(1 + 2\sum_k \gamma_k)}$、ここで$\gamma_k$は自己相関係数である。
• サンプルサイズ$N \to \infty$のとき、再サンプリングに基づくアルゴリズムはLWMCMCに収束するが、LWMCMCは再サンプリングのオーバーヘッドなしに低い分散を達成する。

実験結果

リサーチクエスチョン

• RQ1 各反復内で受理および棄却の両提案に非一様重みを割り当てることで、MCMCの効率性を向上させられるか？
• RQ2 有効サンプルサイズ（ESS）の観点から、局所加重MCMCは標準メトロポリス＝ハスティングス法および並列MH法と比較してどのように異なるか？
• RQ3 提案された重み付け方式により、標準MCMCよりも不偏推定量かつ低い分散を持つ推定量が得られるか？
• RQ4 重み付きMCMC出力に対して妥当かつ実用的な有効サンプルサイズ（ESS）の測定方法は何か？
• RQ5 LWMCMCはラオ＝ブラックウェルゼーションおよび既存の並列MCMC手法とどのように関係するか？

主な発見

• 提案されたLWMCMC手法は、二変量正規分布の平均を推定する際、標準メトロポリス＝ハスティングス法に比べ13%の有効サンプルサイズ（ESS）の向上を達成した。
• 10,000反復の結果、標準MHではESS = 1,189、バージョン2の重み（定常分布に基づく）ではESS = 1,359となり、顕著な分散低減が確認された。
• バージョン1の重み（受理確率に基づく）ではESS = 1,337となり、標準MHよりも一貫した改善が示された。
• 両重み付け方式においても、本手法は証明的に不偏であり、2番目の方式は提案遷移行列の定常分布に対応する。
• 全分散の法則と共分散の分解を用いた証明により、LWMCMC推定量の分散は標準MH推定量の分散よりも厳密に小さいことが示された。
• 再サンプル数$N \to \infty$のとき、再サンプリングに基づくアルゴリズムはLWMCMCに収束するが、LWMCMCは再サンプリングのオーバーヘッドなしに低い分散を達成する。