[論文レビュー] Efficient implementation of Markov chain Monte Carlo when using an unbiased likelihood estimator

Randal Douc, M. Pitt+2 more|arXiv (Cornell University)|Oct 5, 2012

Markov Chains and Monte Carlo Methods参考文献 24被引用数 8

ひとこと要約

本稿では、粒子フィルタなど、不偏尤度推定器を用いる場合のマルコフ連鎖モンテカルロ（MCMC）におけるモンテカルロ標本数 $N$ の選定に関するガイドラインを提案する。ガウスノイズ仮定の下で、効率の良いチェインでは標準誤差が約1.0、非効率なチェインでは約1.7となるように $N$ を選べば最適な効率が達成され、実用的なデフォルトとして1.2を推奨する。

ABSTRACT

When an unbiased estimator of the likelihood is used within a Metropolis--Hastings chain, it is necessary to trade off the number of Monte Carlo samples used to construct this estimator against the asymptotic variances of averages computed under this chain. Many Monte Carlo samples will typically result in Metropolis--Hastings averages with lower asymptotic variances than the corresponding Metropolis--Hastings averages using fewer samples. However, the computing time required to construct the likelihood estimator increases with the number of Monte Carlo samples. Under the assumption that the distribution of the additive noise introduced by the log-likelihood estimator is Gaussian with variance inversely proportional to the number of Monte Carlo samples and independent of the parameter value at which it is evaluated, we provide guidelines on the number of samples to select. We demonstrate our results by considering a stochastic volatility model applied to stock index returns.

研究の動機と目的

• 不偏尤度推定器を用いるMCMCにおける計算コストと漸近的分散のトレードオフを扱う。
• 目標となる漸近的分散を達成するための計算時間を最小化するように、尤度推定におけるモンテカルロ標本数 $N$ を選ぶための実用的ガイドラインを提供する。
• 提案手法により、提案分布やノイズ分布に関する仮定を緩和しつつ、計算時間の計算可能な上限を提供する。
• 特に尤度が解析的に求められない状況を想定し、一般化された状態空間モデルや粒子フィルタに適用可能なフレームワークを提供する。

提案手法

• 正確な最小化が困難な一般状況においては、正確な計算時間ではなく、明示的な計算時間の上界を最小化することを提案する。
• 尤度推定器の対数尤度における加法的ノイズが、$N$ に逆比例する分散をもつガウス分布に従い、パラメータ値とは独立していると仮定する。
• 擬似周辺化MCMCフレームワークとパラメータおよび補助変数の共同分布を用いて、非有効性係数と計算時間の理論的上限を導出する。
• 自動相関や非有効性係数などの主要な項を評価するために、数値積分およびモンテカルロ統合を用いる。
• 粒子フィルタを用いた確率的ボラティリティモデルにフレームワークを適用し、理論的ガイドラインの妥当性を実証的に検証する。
• 経験則として、効率の良いチェインでは尤度推定器の標準誤差を約1.0、非効率なチェインでは約1.7、あるいは一般的なデフォルトとして1.2に設定することを提言する。

実験結果

リサーチクエスチョン

• RQ1 不偏尤度推定器を用いるMCMCにおいて、計算時間を最小化するための最適なモンテカルロ標本数 $N$ は何か？
• RQ2 尤度が粒子フィルターや重要度サンプリングによって推定される場合、$N$ の選択がMCMC平均の漸近的分散にどのように影響を与えるか？
• RQ3 最適な $N$ が解析的に求められる条件は何か？ また、これらの条件はi.i.d.ノイズや等方的提案分布を超えてどのように一般化できるか？
• RQ4 メトロポリス・ハスティングスの提案分布の効率性が、尤度推定器の標準誤差の最適値にどのように影響を与えるか？
• RQ5 実際の状況では真の事後分布の効率が不明であることが一般的であるが、このような状況でも $N$ に対する実用的ガイドラインを導出可能か？

主な発見

• 正確な尤度を用いる効率の良いメトロポリス・ハスティングスのチェインでは、尤度推定器の標準誤差の最適値は約1.0である。
• 非効率なチェインでは、標準誤差の最適値は約1.7に増加し、収束が悪いチェインではノイズの制御が重要になる。
• 真のチェイン効率が不明な場合、標準誤差を1.2に設定するという実用的なデフォルト選択が、分散と計算コストのバランスを取るのに適している。
• 確率的ボラティリティモデルからの実証的結果により、尤度推定器の標準誤差が理論的ガイドラインに近い値にあるときに計算時間が最小化されることが確認された。
• 提案の相関が高くなる（例：$\rho = 0.9$）と、相対的計算時間が平ららかになる傾向があり、提案の持続性が高い場合、$N$ に依存しなくなる。
• 計算時間の理論的上限は数値的に妥当性が確認され、異なるパラメータ値や提案分布において一貫した性能を示した。