[論文レビュー] Perfect simulation using atomic regeneration with application to Sequential Monte Carlo

Anthony Lee, Randal Douc+1 more|arXiv (Cornell University)|Jul 22, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 54被引用数 7

ひとこと要約

本稿では、遷移核が解析的に扱いにくい一様正帰着マルコフ連鎖に対して、人工アトムを導入し、ベルヌーイ工場技術を活用することで、効率的な完全シミュレーションアルゴリズムを2つ提案する。これらの手法により、不変分布からの正確なサンプリングが可能となり、期待計算時間は𝒪(β⁻¹) となる。さらに、繰り返し条件付きSMCカーネルを用いた完全シミュレーションに応用し、フェインマン–クラインモデルでは期待時間計算量𝒪(n²)を達成する。

ABSTRACT

Consider an irreducible, Harris recurrent Markov chain of transition kernel Π and invariant probability measure π. If Π satisfies a minorization condition, then the split chain allows the identification of regeneration times which may be exploited to obtain perfect samples from π. Unfortunately, many transition kernels associated with complex Markov chain Monte Carlo algorithms are analytically intractable, so establishing a minorization condition and simulating the split chain is challenging, if not impossible. For uniformly ergodic Markov chains with intractable transition kernels, we propose two efficient perfect simulation procedures of similar expected running time which are instances of the multigamma coupler and an imputation scheme. These algorithms overcome the intractability of the kernel by introducing an artificial atom and using a Bernoulli factory. We detail an application of these procedures when Π is the recently introduced iterated conditional Sequential Monte Carlo kernel. We additionally provide results on the general applicability of the methodology, and how Sequential Monte Carlo methods may be used to facilitate perfect simulation and/or unbiased estimation of expectations with respect to the stationary distribution of a non-uniformly ergodic Markov chain.

研究の動機と目的

• 遷移核が解析的に扱いにくい一様正帰着マルコフ連鎖に対して完全シミュレーション手法を開発すること。
• 既存手法の限界を克服し、分割連鎖のシミュレーションを必要とするが、複雑なMCMCカーネルではしばしば非現実的である点を改善すること。
• 最小化条件を満たすが、分解可能な分割連鎖を持たない繰り返し条件付きSMCカーネルの不変分布からの正確なサンプリングを可能とすること。
• 一般状態空間モデルへの完全シミュレーションの適用範囲を拡大すること、特に逐次モンテカルロ手法の文脈において。
• SMCに基づく手法を用いて、非一様正帰着連鎖に関する期待値の不偏推定を可能とするフレームワークを提供すること。

提案手法

• 状態空間に人工シングルトンアトム𝛼 = {𝑎} を導入し、既知の𝛽 > 0 に対してinfₓ Π(x, 𝛼) ≥ 𝛽 が成り立つように保証する。
• ベルヌーイ工場を用いて、𝑝 が人工アトムへの到達確率であるときの(2𝑝−1)-コインをシミュレートし、再生を介して完全シミュレーションを実現する。
• 多段階ガンマカップラーとインピュテーション方式の両方を用いた等価な完全シミュレーション手順を構築し、期待計算時間は𝒪(𝛽⁻¹) となる。
• 元のカーネルを変更することで、一様正帰着性を維持しつつ、不変測度を元の𝜋と人工アトムにおける点質量の混合として保つ。
• 繰り返し条件付きSMCカーネルにこの手法を適用する際、既知の最小化定数𝜀 > 0 を利用し、SMCを用いて必要な成分をシミュレートする。
• 𝜇|𝜑|からの棄却サンプリングにより𝜑(ζ)の符号をシミュレートし、符号確率に対してベルヌーイ工場を用いて不偏推定器を構築する。

実験結果

リサーチクエスチョン

• RQ1 解析的に扱いにくい遷移核を有する一様正帰着マルコフ連鎖に対して、完全シミュレーションが達成可能か？
• RQ2 分割連鎖が扱いにくい場合に、ベルヌーイ工場を用いて再生イベントをシミュレートできるか？
• RQ3 提案された人工アトムとベルヌーイ工場の枠組み下での完全シミュレーションの期待計算コストはいかほどか？
• RQ4 繰り返し条件付きSMCカーネルにこの手法を適用し、フェインマン–クラインパス分布からの完全シミュレーションが可能か？
• RQ5 特に𝜑が混合符号を持つ場合に、同じ枠組みで期待値の不偏推定が可能か？

主な発見

• 提案された完全シミュレーションアルゴリズムの期待計算時間は𝒪(𝛽⁻¹) であり、𝛽は人工アトムへの到達確率の下界である。
• この手法により、時間区間𝑛 に対して期待時間計算量𝒪(𝑛²) で、離散時間フェインマン–クラインモデルのパス分布からの完全シミュレーションが可能となる。
• ベルヌーイ工場を用いて符号確率のための(2𝑝−1)-コインを効果的にシミュレートし、正の下界を持つ期待値の不偏推定が可能となった。
• 𝐸[𝑊] = 𝜇(𝜑) かつ 𝑃(0 ≤ 𝑊 ≤ ||𝜑||) = 1 を満たす𝜇(𝜑)の不偏推定器𝑊 が構築された。
• アルゴリズムの複数の独立した出力を平均化する、または制御変数を用いることで、分散低減が可能となる。
• 変更されたカーネルの不変測度は、元の𝜋と人工アトムにおける点質量の混合のままであり、ターゲット分布の構造が保持された。