[論文レビュー] Establishing some order amongst exact approximations of MCMCs

Christophe Andrieu, Matti Vihola|arXiv (Cornell University)|Apr 28, 2014

Markov Chains and Monte Carlo Methods参考文献 40被引用数 8

ひとこと要約

本稿は、平均受容確率、自己相関、漸近的分散、スペクトルギャップといった性能指標を確率的に順序付けするための十分条件として、凸順序を導入することで、正確な近似MCMCアルゴリズムを一般化して比較するフレームワークを確立する。主な貢献は、異なる不変分布をもつマルコフ連鎖同士の比較を可能にするマルティングル・カップリング構成であり、凸順序がほぼ最適であることを証明している—劣悪な分散順序では順序付けを保証できない。

ABSTRACT

Exact approximations of Markov chain Monte Carlo (MCMC) algorithms are a general emerging class of sampling algorithms. One of the main ideas behind exact approximations consists of replacing intractable quantities required to run standard MCMC algorithms, such as the target probability density in a Metropolis-Hastings algorithm, with estimators. Perhaps surprisingly, such approximations lead to powerful algorithms which are exact in the sense that they are guaranteed to have correct limiting distributions. In this paper we discover a general framework which allows one to compare, or order, performance measures of two implementations of such algorithms. In particular, we establish an order with respect to the mean acceptance probability, the first autocorrelation coefficient, the asymptotic variance and the right spectral gap. The key notion to guarantee the ordering is that of the convex order between estimators used to implement the algorithms. We believe that our convex order condition is close to optimal, and this is supported by a counter-example which shows that a weaker variance order is not sufficient. The convex order plays a central role by allowing us to construct a martingale coupling which enables the comparison of performance measures of Markov chain with differing invariant distributions, contrary to existing results. We detail applications of our result by identifying extremal distributions within given classes of approximations, by showing that averaging replicas improves performance in a monotonic fashion and that stratification is guaranteed to improve performance for the standard implementation of the Approximate Bayesian Computation (ABC) MCMC method.

研究の動機と目的

• 事後密度が扱いにくい場合に、その不偏推定値で置き換えることで得られる正確な近似MCMCアルゴリズムの性能を比較する一般化されたフレームワークの開発。
• 擬似周辺度の実装のうち、収束の主要指標において、あるものが他よりも支配的である条件の同定。
• 推定値間の凸順序が、性能指標（漸近的分散、スペクトルギャップなど）の確率的優位性を保証する十分かつほぼ必要条件であることを確立すること。
• 異なる不変分布をもつマルコフ連鎖同士の比較を可能にし、従来の手法の主な制限を克服すること。
• 平均化や層別化といった推定値設計の手法を通じてMCMCの効率を向上させる実用的ツールの提供。

提案手法

• 目標密度の推定値間の凸順序を用いて、擬似周辺度MCMCアルゴリズムの性能を比較する形式的フレームワークを導入。
• マルティングル・カップリング構成を用いて、異なる不変分布をもつマルコフ連鎖の比較を可能にし、均衡測度が異なる場合でも性能を比較可能にする。
• 可逆性およびスペクトルギャップ理論を適用し、得られる連鎖の右および左スペクトルギャップの上限・下限を導出。
• 推定値の凸順序に基づき、漸近的分散、一次自己相関係数、平均受容確率に関する不等式を導出。
• 補題45を活用して、補助変数（例：推定値）を状態空間に追加した場合の影響を分析し、可逆性を保持するとともにギャップの比較を可能にする。
• ABC-MCMCにおける推定値の平均化および層別化が、凸順序フレームワークのもとで単調に性能を向上させることを示す応用。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、ある正確な近似MCMCアルゴリズムが収束指標において他よりも確率的に支配的となるか？
• RQ2 推定値間の凸順序が、漸近的分散やスペクトルギャップといった性能指標の順序付けを保証するのに十分か？
• RQ3 カップリング技法を用いて、異なる不変分布をもつマルコフ連鎖の性能を比較できるか？
• RQ4 凸順序はほぼ最適か？あるいは、より弱い確率的順序（例：分散順序）でも十分か？
• RQ5 このフレームワークは、層別化または平均化された推定値を用いたABC-MCMCのような実用的実装の改善にどのように応用できるか？

主な発見

• 推定値間の凸順序が、正確な近似MCMCアルゴリズムの平均受容確率、一次自己相関係数、漸近的分散、スペクトルギャップの確率的順序付けに十分である。
• マルティングル・カップリング構成により、異なる不変分布をもつ連鎖の比較が可能となり、従来手法に比べて顕著な進歩をもたらす。
• 反例により、より弱い分散順序では性能の順序付けを保証できないことが示され、凸順序がほぼ最適であることが裏付けられる。
• 独立な推定値のレプリカを平均化することは、凸順序フレームワークのもとで性能指標の単調な改善をもたらす。
• ABC-MCMCにおける層別化は、結果として得られる推定値間に凸順序を誘導するため、性能の向上が保証される。
• 補題45におけるスペクトルギャップの上限・下限は、拡張された連鎖の右スペクトルギャップが元の連鎖のもの以上であり、最小受容確率の関数以下であることを示している。