[論文レビュー] Partial Ordering of Inhomogeneous Markov Chains with Applications to Markov Chain Monte Carlo Methods

Florian Maire, Randal Douc+1 more|arXiv (Cornell University)|Jul 14, 2013

Markov Chains and Monte Carlo Methods参考文献 4被引用数 1

ひとこと要約

本稿では、二つの $π$-再帰的核 $P$ と $Q$ によって駆動される非一様マルコフ連鎖に対する部分順序を導入し、ラグ1自己共分散順序を用いて漸近的分散を直接比較可能にする。主な貢献は、新しい正確な手法として提案されたランダムリフレッシュメントアルゴリズムが、モンテカルロ・ウィthin・メトロポリスと同等の計算効率を維持しながら、グループ化独立メトロポリス・ハスティングス法よりも低い漸近的分散を達成することを理論的に証明する枠組みを提供することにある。

ABSTRACT

In this paper, we study the asymptotic variance of sample path averages for inhomogeneous Markov chains that evolve alternatingly according to two different $\pi$-reversible Markov transition kernels $P$ and $Q$. More specifically, our main result allows us to compare directly the asymptotic variances of two inhomogeneous Markov chains associated with different kernels $P_i$ and $Q_i$, $i\in\{0,1\}$, as soon as the kernels of each pair $(P_0,P_1)$ and $(Q_0,Q_1)$ can be ordered in the sense of lag-one autocovariance. As an important application, we use this result for comparing different data-augmentation-type Metropolis-Hastings algorithms. In particular, we compare some pseudo-marginal algorithms and propose a novel exact algorithm, referred to as the random refreshment algorithm, which is more efficient, in terms of asymptotic variance, than the Grouped Independence Metropolis-Hastings algorithm and has a computational complexity that does not exceed that of the Monte Carlo Within Metropolis algorithm.

研究の動機と目的

• 交互に切り替わる遷移核を備えた非一様マルコフ連鎖における漸近的分散を比較する理論的枠組みの構築を目的とする。
• 核の順序付けに基づいて、データ拡張型メトロポリス・ハスティングス法の異なるアルゴリズムを直接比較可能にする。
• 既存の手法よりも低い漸近的分散を達成するが、計算効率を維持するより効率的な正確サンプリングアルゴリズムの設計を目的とする。
• 提案されたアルゴリズムが、モンテカルロ・ウィthin・メトロポリスと同等の計算複雑度を維持することを保証する。

提案手法

• 著者らは、漸近的分散の比較を目的として、ラグ1自己共分散構造に基づく遷移核に対する部分順序を定義する。
• ある非一様連鎖が別の連鎖よりも漸近的分散において支配的であるための理論的条件を確立する。
• この手法は、二つの $π$-再帰的核 $P$ と $Q$ を交互に使用する連鎖に適用可能である。
• この枠組みは、擬似周辺度数アルゴリズムの比較に応用され、新たな正確なアルゴリズム、すなわちランダムリフレッシュメントアルゴリズムが導出される。
• ランダムリフレッシュメントアルゴリズムは、基本核とリフレッシュメントステップを交互に実行することで、漸近的分散を低減する。
• 理論的比較により、新アルゴリズムが漸近的分散においてグループ化独立メトロポリス・ハスティングス法を上回り、かつモンテカルロ・ウィthin・メトロポリスと同等の計算コストを維持することが示された。

実験結果

リサーチクエスチョン

• RQ1 交互に切り替わる核を備えた非一様マルコフ連鎖の漸近的分散は、ラグ1自己共分散に基づく部分順序を用いて比較可能か？
• RQ2 ランダムリフレッシュメントアルゴリズムは、既存の正確なアルゴリズムと比較して、漸近的分散と計算コストの両面でどのように異なるか？
• RQ3 グループ化独立メトロポリス・ハスティングス法よりも低い漸近的分散を達成する新しい正確なメトロポリス・ハスティングスアルゴリズムを設計可能か？
• RQ4 提案された手法は、サンプリング効率を向上させつつも、計算効率を維持するか？

主な発見

• ランダムリフレッシュメントアルゴリズムは、グループ化独立メトロポリス・ハスティングス法よりも低い漸近的分散を達成する。
• 提案されたアルゴリズムは、モンテカルロ・ウィthin・メトロポリスアルゴリズムの計算複雑度を上回らない。
• ラグ1自己共分散に基づく部分順序は、異なる非一様マルコフ連鎖間の漸近的分散を直接比較可能にする。
• この枠組みにより、核の順序付けを用いたデータ拡張型メトロポリス・ハスティングス法の理論的比較が可能になる。