[論文レビュー] Quasi Markov Chain Monte Carlo Methods

Tobias Schwedes, Ben Calderhead|arXiv (Cornell University)|Jun 29, 2018

Mathematical Approximation and Integration参考文献 59被引用数 3

ひとこと要約

この論文は、完全一様分布（CUD）の乱数を用いることで、ベイズ推論における収束速度を向上させる、新しい並列準マルコフ連鎖モンテカルロ（QMCMC）フレームワークを提案する。複数の提案、非可逆遷移、適応型カーネル、および重要度サンプリングを組み合わせることで、平均二乗誤差の収束率を $n^{-2}$ に近づけ、実用的なモデルでは標準的なMCMCの $n^{-1}$ に比べて著しく優れている。

ABSTRACT

Quasi-Monte Carlo (QMC) methods for estimating integrals are attractive since the resulting estimators typically converge at a faster rate than pseudo-random Monte Carlo. However, they can be difficult to set up on arbitrary posterior densities within the Bayesian framework, in particular for inverse problems. We introduce a general parallel Markov chain Monte Carlo (MCMC) framework, for which we prove a law of large numbers and a central limit theorem. In that context, non-reversible transitions are investigated. We then extend this approach to the use of adaptive kernels and state conditions, under which ergodicity holds. As a further extension, an importance sampling estimator is derived, for which asymptotic unbiasedness is proven. We consider the use of completely uniformly distributed (CUD) numbers within the above mentioned algorithms, which leads to a general parallel quasi-MCMC (QMCMC) methodology. We prove consistency of the resulting estimators and demonstrate numerically that this approach scales close to $n^{-2}$ as we increase parallelisation, instead of the usual $n^{-1}$ that is typical of standard MCMC algorithms. In practical statistical models we observe multiple orders of magnitude improvement compared with pseudo-random methods.

研究の動機と目的

• 標準的な疑似乱数MCMC手法の収束が遅いという問題を克服するスケーラブルで並列可能なMCMCフレームワークの開発。
• ハイアラルジカルまたは低次元のモデルに限らない、任意の事後分布への準モンテカルロ（QMC）手法の拡張。
• CUD系列を用いた適応型および非可逆MCMCに対して、エルゴディシティや漸近的不偏性といった理論的保証の確立。
• 数値的に、提案手法が非自明な統計的モデルにおいて $n^{-2}$ に近い収束率を達成することの実証。

提案手法

• 各イテレーションで複数の候補状態を生成・評価する複数提案MCMC（MP-MCMC）フレームワークを提案し、並列処理を可能にする。
• 混合性を向上させ、ランダムウォーク的挙動を軽減する非可逆遷移カーネルを導入する。
• 過去のサンプルに基づいて提案分布を更新する適応型カーネル機構を開発し、正則性条件下でエルゴディック性を保証する。
• すべての提案点に重みを割り当てる重要度サンプリング推定器を導出することで、受容・棄却ステップに起因する不連続性を除去する。
• 駆動用の乱数として完全一様分布（CUD）列を用いることで、フレームワークを一般化する。これにより、疑似乱数の代わりに使用する。
• 適切な正則性条件下（例えば、結合領域の存在を含む）で、得られる推定器の一貫性および漸近的不偏性を証明する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ推論における一般の非階層的事後分布に対して、準モンテカルロ（QMC）手法を効果的に適用できるか？
• RQ2 並列型複数提案MCMCフレームワークにおいてCUD列を用いることで、標準MCMCよりも収束が速くなるか？
• RQ3 MP-MCMC内での重要度サンプリングは、受容・棄却ステップに起因する不連続性を除去し、QMC性能を向上させられるか？
• RQ4 CUD駆動型MP-MCMCにおける適応型カーネルの使用が、エルゴディシティおよび一貫性を保証する条件は何か？
• RQ5 高次元で交換可能でないモデルですら、QMC技術を用いてMCMCの収束率を $n^{-2}$ に近づけることは可能か？

主な発見

• 提案された準MCMC手法は、平均二乗誤差の収束率が $n^{-2}$ に近く、標準的な疑似乱数MCMCの $n^{-1}$ に比べて著しく速い。
• 数値実験では、明示的な条件分布のない非階層的モデルですら、標準MCMCに比べて収束速度が複数桁改善されていることが示された。
• 重要度サンプリングを用いたMP-MCMCの変種は、すべての提案点を一貫して使用する推定を可能にし、受容・棄却ステップに起因する不連続性を除去した。
• 理論的結果として、適応型MP-MCMCアルゴリズムのエルゴディシティと、重要度サンプリング推定器の漸近的不偏性が、正則性条件下で確立された。
• CUD列駆動の下で、この手法は一貫性を示し、複数の提案により、低分散列が状態空間を効果的にカバーする能力が向上した。
• 実験的結果から、証明に十分であるとされる結合領域条件は、必要ではない可能性があることが示唆され、今後の収束性の証明に、収縮条件に基づくアプローチが開かれる可能性がある。