[論文レビュー] Marginal sequential Monte Carlo for doubly intractable models

Richard G. Everitt, Dennis Prangle+2 more|arXiv (Cornell University)|Oct 12, 2017

Markov Chains and Monte Carlo Methods参考文献 9被引用数 6

ひとこと要約

本稿は、分割関数が不正確な二重に不正確なモデルに対して、適応的尤度推定と代替の断熱シーケンスを用いて、周辺順序モンテカルロ（SMC）手法を導入する。従来の疑似周辺SMC手法に比べ、適応的分散低減とデータポイント断熱法を超える一般化により、より効率的な推論を可能にする。実験的結果では、ABCおよび標準SMC手法を上回る性能を示す。

ABSTRACT

Bayesian inference for models that have an intractable partition function is known as a doubly intractable problem, where standard Monte Carlo methods are not applicable. The past decade has seen the development of auxiliary variable Monte Carlo techniques (Møller et al., 2006; Murray et al., 2006) for tackling this problem; these approaches being members of the more general class of pseudo-marginal, or exact-approximate, Monte Carlo algorithms (Andrieu and Roberts, 2009), which make use of unbiased estimates of intractable posteriors. Everitt et al. (2017) investigated the use of exact-approximate importance sampling (IS) and sequential Monte Carlo (SMC) in doubly intractable problems, but focussed only on SMC algorithms that used data-point tempering. This paper describes SMC samplers that may use alternative sequences of distributions, and describes ways in which likelihood estimates may be improved adaptively as the algorithm progresses, building on ideas from Moores et al. (2015). This approach is compared with a number of alternative algorithms for doubly intractable problems, including approximate Bayesian computation (ABC), which we show is closely related to the method of Møller et al. (2006).

研究の動機と目的

• 不正確な分割関数を有するモデルにおけるベイズ推論の課題に対処すること。これは、二重に不正確な問題として知られる。
• データポイント断熱法に依存しない、より効率的な順序モンテカルロ（SMC）サンプラーを開発することにより、柔軟な分布シーケンスを可能にすること。
• Mooresら（2015）の手法を用いて、SMC実行中に尤度推定を適応的に改善し、疑似周辺推定における分散を低減すること。
• 近似ベイズ計算（ABC）と複数の補助変数法（MAV）の間の正式な関係を確立することにより、特定の設計選択の下で等価性を示すこと。
• 提案されたSMC手法を、ABCおよびデータポイント断熱法を用いた標準SMCと比較して、実験的に評価すること。

提案手法

• 完全な事後分布を評価する必要がない、不正確な尤度比の不偏推定を用いる周辺SMCアルゴリズムを提案し、正確な近似推論を可能にする。
• 過去のシミュレーションに基づいてプロポーザル分布と尤度推定器を更新することで、SMC内での適応的重要度サンプリングを実施し、分散を低減する。
• データポイント断熱法を超える一般化として、任意の中間分布のシーケンスを許容することで、SMCフレームワークの柔軟性と収束性を向上させる。
• 複数の中間ターゲットを用いた断熱重要度サンプリング（AIS）を用いて、分割関数比 $ Z(\hat{\theta})/Z(\theta) $ の改善された不偏推定器を構築する。
• 詳細バランスと可逆核の下で、完全なデータのシミュレーションを伴う注意深く設計されたABCスキームがMAVと同一の推定器をもたらすことを示すことにより、ABC尤度推定器とMAV法との間の関係を導出する。
• 疑似周辺原理をSMCに適用し、推定された尤度をランダムな重みとして扱うことで、周辺ターゲット分布が真の事後分布 $ \pi(\theta|y) $ のまま保たれることを保証する。

実験結果

リサーチクエスチョン

• RQ1 適応的尤度推定とデータポイント断熱法でないシーケンスを用いることで、二重に不正確なモデルのSMCサンプラーの効率を向上させることができるか？
• RQ2 提案された周辺SMC手法は、データポイント断熱法を用いた標準SMCおよびABCと比較して、有効サンプルサイズと分散低減の観点でどのように性能を発揮するか？
• RQ3 完全なデータのシミュレーションを伴うABC法が、どのような条件下でMAV法と尤度推定器の観点で等価となるか？
• RQ4 複数の補助変数と断熱処理を用いることで、二重に不正確なモデルにおける疑似周辺SMCの精度と安定性が向上するか？
• RQ5 SMC実行中に尤度推定を適応的に改善することで、重み関数の分散がどの程度低減され、サンプリング効率が向上するか？

主な発見

• 適応的尤度推定を用いた提案された周辺SMC手法は、データポイント断熱法を用いた標準SMCよりも高い有効サンプルサイズを達成しており、サンプリング効率の向上を示している。
• 十分統計量を用いた場合でさえ、ABCの最低分散形態であっても、提案手法はABCを上回る性能を示しており、この文脈ではMAVに基づくアプローチが標準ABCよりも効果的であることを示している。
• 完全なデータと逆時系列MCMCチェインを用いた注意深く設計されたABCアルゴリズムは、可逆核と詳細バランスの下でMAV法と同一の推定器を生成する。これは、理論的等価性を確認するものである。
• 複数の中間ターゲットを用いた断熱重要度サンプリング（AIS）は、標準ISと比較して、特に $ Z(\theta) $ が非常に変動する場合に、分割関数比の推定がより正確かつばらつきが小さいことを示している。
• SMC実行中に尤度推定を適応的に改善することで、重み関数の分散が顕著に低減され、より安定的かつ正確な事後分布近似が得られる。
• 理論的分析により、不正確な尤度の不偏推定を用いても、疑似周辺原理のおかげで、提案されたSMC手法が真の周辺ターゲット分布 $ \pi(\theta|y) $ を保持することが確認された。