[論文レビュー] The Block Pseudo-Marginal Sampler

Minh‐Ngoc Tran, Robert Kohn+2 more|arXiv (Cornell University)|Mar 8, 2016

Mathematical Approximation and Integration参考文献 27被引用数 12

ひとこと要約

本稿は、尤度が計算不能な場合のベイズ推論のための効率的な疑似尤度MCMC法の変種として、ブロック疑似尤度サンプラー（BPM）を提案する。モンテカルロ乱数をブロックに分割し、1回のステップで1つのブロックのみを更新することで、現在のパラメータと提案されたパラメータにおける尤度推定値の相関を高め、混合性を著しく向上させるとともに計算コストを削減する。特に部分標本抽出やランダム化準モンテカルロ設定において顕著な効果を示し、標準的および相関付き疑似尤度法を上回る性能を発揮する。尤度分散が大きい困難な状況でも優れた性能を示す。

ABSTRACT

The pseudo-marginal (PM) approach is increasingly used for Bayesian inference in statistical models, where the likelihood is intractable but can be estimated unbiasedly. %Examples include random effect models, state-space models and data subsampling in big-data settings. Deligiannidis et al. (2016) show how the PM approach can be made much more efficient by correlating the underlying Monte Carlo (MC) random numbers used to form the estimate of the likelihood at the current and proposed values of the unknown parameters. Their approach greatly speeds up the standard PM algorithm, as it requires a much smaller number of samples or particles to form the optimal likelihood estimate. Our paper presents an alternative implementation of the correlated PM approach, called the block PM, which divides the underlying random numbers into blocks so that the likelihood estimates for the proposed and current values of the parameters only differ by the random numbers in one block. We show that this implementation of the correlated PM can be much more efficient for some specific problems than the implementation in Deligiannidis et al. (2016); for example when the likelihood is estimated by subsampling or the likelihood is a product of terms each of which is given by an integral which can be estimated unbiasedly by randomised quasi-Monte Carlo. Our article provides methodology and guidelines for efficiently implementing the block PM. A second advantage of the the block PM is that it provides a direct way to control the correlation between the logarithms of the estimates of the likelihood at the current and proposed values of the parameters than the implementation in Deligiannidis et al. (2016). We obtain methods and guidelines for selecting the optimal number of samples based on idealized but realistic assumptions.

研究の動機と目的

• データサイズに応じて尤度分散が増大する状況において、標準的疑似尤度MCMCの非効率性を是正すること。特に尤度が計算不能なモデルに焦点を当てる。
• 乱数の依存関係をブロックごとに構造化することで、混合性を向上させ、計算コストを低減する相関付き疑似尤度サンプリングの新たな実装を開発すること。
• 現実的仮定のもとで最適なサンプルサイズとブロック構造を特定する実用的ガイドラインを提供すること。
• Deligiannidisら（2016）の手法よりも、現在のパラメータと提案されたパラメータにおける対数尤度推定値の相関をより直接的に制御できることを実現すること。
• 部分標本抽出やランダム化準モンテカルロといった、尤度推定の分散が大きい状況において、独立型および標準的相関付き疑似尤度法を上回るブロックPMの優れた性能を示すこと。

提案手法

• ブロックPMは、モンテカルロ乱数の集合を互いに素なブロックに分割し、現在のパラメータと提案されたパラメータにおける尤度推定値が、1つのブロックの乱数を除いて同一となるように設計される。
• パラメータと1つの乱数ブロックを同時に更新するメトロポリス・ハスティングス法を用い、現在値と提案値における対数尤度推定値の相関を高める。
• 尤度が、それぞれ無偏なモンテカルロまたはランダム化準モンテカルロで推定可能な項の積として表現可能であると仮定し、ブロック単位での推定を可能にする。
• 理想的だが現実的とされる仮定のもとで、統合自己相関時間（IACT）を最小化することを目的に、最適な1ブロックあたりのサンプル数を理論的に導出する。
• 拡散過程（例：CIRモデル）や部分標本抽出問題への応用において、独立型PMおよび相関付きPMを上回る、受理確率と計算効率の両面で優れた性能を示す。
• 理論的分析により、尤度分散が大きい場合には、Deligiannidis らの手法よりも強いかつより制御可能な対数尤度推定値の相関を実現できることを示す。

実験結果

リサーチクエスチョン

• RQ1 尤度が計算不能な場合に、モンテカルロ乱数のブロック構造が疑似尤度MCMCの効率を向上させ得るか？
• RQ2 独立型PMおよび相関付きPM（Deligiannidis ら、2016）と比較して、ブロックPMは混合性と計算コストの点でどのように異なるか？
• RQ3 既存手法と比較して、ブロックPMは現在のパラメータと提案されたパラメータにおける対数尤度推定値の相関をより直接的に制御可能か？
• RQ4 現実的仮定のもとで、ブロックPMの最適なサンプルサイズとブロック構造は何か？
• RQ5 部分標本抽出やランダム化準モンテカルロといった設定では、ブロックPMが既存手法に比べて顕著な利点を示すか？

主な発見

• 独立型PM（IPM）と比較して、ブロックPMは統合自己相関時間（IACT）比で10.45倍の改善を達成し、IPMと比較してCPU時間は10倍短縮された。
• ブロックPMの受理確率は25.8%であり、独立型PMの4.9%と比較して著しく高い。これは混合性の向上とランダムウォーク的挙動の低減を示している。
• 745件の観測値を含むFedFundsデータセットにおいて、ブロックPMはIPMおよびDeligiannidis ら（2016）の相関付きPMを上回った。これは、推定における尤度分散が大きいことが要因である。
• ブロックPMは、対数尤度推定値の相関を直接制御可能であり、Deligiannidis らの手法よりもより良いチューニングと性能を実現できる。
• 現実的仮定のもとで導出された理論的ガイドラインは、最適なサンプルサイズとブロック構成を的確に予測でき、分散が大きい状況でも効率を向上させた。
• ブロックPMは特に部分標本抽出やランダム化準モンテカルロ応用において顕著な効果を示し、精度を維持しつつ1ブロックあたりの必要サンプル数を削減できた。