[論文レビュー] Extension of Fill's perfect rejection sampling algorithm to general chains (Extended abstract)

James Allen Fill, Motoya Machida+2 more|ArXiv.org|Jun 1, 2001

Statistical Methods and Inference参考文献 32被引用数 4

ひとこと要約

この論文は、一般のマルコフ連鎖へのフィルの完全なリジェクトサンプリングアルゴリズムの拡張を提案し、単調性の仮定を必要とせず、定常分布 π からの正確なサンプリングを可能にする。時間反転連鎖と前方軌道の多次元カップリングを用いることで、中断可能な正確なサンプリングが達成され、コalescence チェックを時間反転パスで行うことで、CFTP（過去からのカップリング）と強い関連をもつ。これにより、正しさと計算効率が保証される。

ABSTRACT

We provide an extension of the perfect sampling algorithm of Fill (1998) to general chains, and describe how use of bounding processes can ease computational burden. Along the way, we unearth a simple connection between the Coupling From The Past (CFTP) algorithm originated by Propp and Wilson (1996) and our extension of Fill's algorithm.

研究の動機と目的

• 元々単調性を持つ連鎖に限られていたフィルの完全なリジェクトサンプリングアルゴリズムを、状態空間の順序付けを要しない一般のマルコフ連鎖へ拡張すること。
• システムのクラッシュや早期終了によるバイアスを回避できる中段可能なサンプリングアルゴリズムの開発。標準的な CFTP とは異なり、これによりバイアスが生じない。
• 提案手法と Coupling From The Past (CFTP) 法との間の正式な関係を確立し、適切な構成のもとで両者の確率的同等性を明確にすること。
• 境界過程と効率的なコalescence 検出を用いることで、特に高次元または連続状態空間において計算負荷を低減すること。

提案手法

• アルゴリズムは、固定時刻 t から遡って動作する時間反転マルコフ連鎖を用い、π に対して絶対連続な分布に従う初期状態 X_t を選んでから、逆方向にシミュレーションを行う。
• すべての状態 x ∈ X から出発する前方軌道 Y(x) の多次元カップリングを構築し、共有された確率変数 U_s を用いて遷移をカップリングすることで、Y(X_0) が反転パス X と一致するように保証する。
• コalescence は、すべての x に対して Y_t(x) の値が一致するかを確認することでチェックされる。一致すれば、X_0 は π からのサンプルとして受理される。
• アルゴリズムはコalescence が発生するまで繰り返され、早期終了によるバイアスなしに正確なサンプリングが保証される。
• 代替アルゴリズム（アルゴリズム 5.1）では、後退パスを再利用し、逆方向にドライブ変数 U_s を補完することで、コalescence 検出に基づく動的停止が可能になる。
• 出力 W とドライブ変数 U の統計的独立性が、中段可能性と CFTP との関連を説明しており、これが本質的な特徴である。

実験結果

リサーチクエスチョン

• RQ1 フィルの完全なリジェクトサンプリングアルゴリズムは、単調性を持つ連鎖に限らず、任意のマルコフ連鎖へ一般化可能か？ ただし、状態空間の順序付けは不要である。
• RQ2 カップリングされた前方軌道のコalescence をどのように用いることで、一般連鎖における定常分布 π からの正確なサンプリングを保証できるか？
• RQ3 確率空間の構成と出力分布の観点から、提案手法のリジェクトサンプリング法と Coupling From The Past (CFTP) アルゴリズムとの関係は何か？
• RQ4 境界過程とメモリのトレードオフを用いることで、サンプリング手順における計算効率をどのように向上できるか？
• RQ5 なぜ本アルゴリズムは中段可能であり、その性質は出力とドライブ確率変数の条件付き独立性からどのように生じるか？

主な発見

• 提案手法は、フィルのリジェクトサンプリングを一般のマルコフ連鎖へ拡張し、単調性や離散的状態空間の仮定を不要にした。
• すべての状態 x から出発する前方軌道のコalescence をチェックすることで、π からの正確なサンプリングが保証され、成功確率は連鎖の混合性に依存する。
• 出力 W とコalescence 時刻 T が成功の条件下で条件付き独立であるため、本アルゴリズムは中段可能である。CFTP とは異なり、これはバイアスの原因にならない。
• 本手法と CFTP の間には強い確率的関係が確立された：両者とも同じ確率空間を構築するが、時間の順序が逆である。
• 時間反転連鎖と事後的カップリングの使用により、特に一様エルゴード性のもとで、効率的な実装と理論的裏付けが可能になる。
• 2のべき乗の停止時刻を用いることで、計算負荷を低減しつつも正しさを保証できる最適化が可能になる。