[論文レビュー] Relative fixed-width stopping rules for Markov chain Monte Carlo simulations

James M. Flegal, Lei Gong|arXiv (Cornell University)|Mar 1, 2013

Markov Chains and Monte Carlo Methods参考文献 32被引用数 12

ひとこと要約

本稿では、MCMC シミュレーションにおける相対的固定幅停止ルールを提案する。このルールでは、信頼区間の幅がターゲットパラメータの大きさまたは標準偏差に対して十分に小さい場合にシミュレーションを停止させる。著者らは、確率的1回の停止と正しい被覆確率を保証するための漸近的有効性の条件を確立し、特に多変量推定においてはパラメータの大きさに関する事前知識が不要な相対的標準偏差ルールが顕著に有効であることを示した。

ABSTRACT

Markov chain Monte Carlo (MCMC) simulations are commonly employed for estimating features of a target distribution, particularly for Bayesian inference. A fundamental challenge is determining when these simulations should stop. We consider a sequential stopping rule that terminates the simulation when the width of a confidence interval is sufficiently small relative to the size of the target parameter. Specifically, we propose relative magnitude and relative standard deviation stopping rules in the context of MCMC. In each setting, we develop sufficient conditions for asymptotic validity, that is conditions to ensure the simulation will terminate with probability one and the resulting confidence intervals will have the proper coverage probability. Our results are applicable in a wide variety of MCMC estimation settings, such as expectation, quantile, or simultaneous multivariate estimation. Finally, we investigate the finite sample properties through a variety of examples and provide some recommendations to practitioners.

研究の動機と目的

• MCMC シミュレーションにおける最適な停止時刻を決定する課題に取り組む。これはしばしば推定精度を保証しないヒューリスティック法や収束診断法に依存している。
• 信頼区間が適切な被覆確率を持つとともに、確率1で停止するような停止ルールの開発を目的とする。
• ユーザーが事前に絶対的精度の閾値を指定する必要をなくし、パラメータの大きさまたは標準偏差に基づく相対的測度を導入する。
• 相対的標準偏差停止ルールの理論的有効性を拡張し、多変量設定においてより実用的であることを示す。
• 実世界の MCMC 応用におけるこれらのルールの実装に向けた実用的アドバイスを提供する。

提案手法

• 絶対的精度、相対的大きさ、相対的標準偏差の3つの停止ルールを提案し、後者を主な焦点とする。
• 漸近的分散を一貫して推定するバッチ平均推定量 $ \hat{\sigma}_n^2 $ を用い、信頼区間の構築を可能にする。
• 相対的標準偏差停止ルールを $ T_3(\epsilon) = \inf\{n \geq 0 : w_\delta < \epsilon \hat{\lambda}_n \} $ として定義する。ここで $ w_\delta $ は信頼区間の幅、$ \hat{\lambda}_n $ は後方分布標準偏差の推定値である。
• 関数中心極限定理に基づく確率的時間変換の議論を用いて、停止ルールの漸近的有効性を証明する。
• シミュレーションが確率的1回で停止し、結果として得られる信頼区間が正しい被覆確率を保つための十分条件を確立する。
• 停止ルールによって決定される総反復回数が確率的変数である、逐次推定フレームワークを採用する。

実験結果

リサーチクエスチョン

• RQ1 MCMC の相対的標準偏差停止ルールは、どのような条件下でシミュレーションが確率的1回で停止するか？
• RQ2 相対的固定幅停止ルールは、得られる信頼区間に対して適切な頻度的被覆確率を維持するか？
• RQ3 多変量設定において、相対的標準偏差ルールは絶対的精度ルールや相対的大きさルールと比較して、ロバストネスと適用可能性に優れているか？
• RQ4 多様な MCMC 評価問題において、相対的標準偏差停止ルールの有限標本特性はいかなるものか？
• RQ5 停止ルールの性能は $ \epsilon $ の選択にどれほど敏感であり、信頼性の高い精度を確保するための $ \epsilon $ の値は何か？

主な発見

• 相対的標準偏差停止ルールは漸近的に有効である：$ \epsilon \to 0 $ のとき、シミュレーションは確率1で停止し、得られる信頼区間は正しい被覆確率を持つ。
• 停止時刻 $ T_3(\epsilon) $ は、$ \epsilon \to 0 $ のとき、$ \epsilon \sqrt{T_3(\epsilon)} \to 2z\sigma_\theta / \lambda_\theta $ almost surely を満たし、停止閾値と潜在的なサンプリング変動性の間の関連を明確に示す。
• このルールは、パラメータの大きさに関する事前知識が不要であるため、多変量推定において特に有効である。
• シミュレーションスタディの結果、$ \epsilon = 0.02 $ が、多変量正規混合モデルやベイズ回帰を含む広範なモデルで優れた性能を示した。
• 一貫した分散推定と組み合わせることで、混合が悪い場合にもロバストであるが、サンプリング手法の選択は被覆確率と計算負荷に影響を及ぼす。
• バッチ平均を用いた分散推定は十分であるが、重複バッチ平均やサブサンプリングブートストラップなどの改善手法を用いることで、さらなる性能向上が期待できる。