[論文レビュー] A Pseudo-Marginal Perspective on the ABC Algorithm

Luke Bornn, Natesh S. Pillai+2 more|arXiv (Cornell University)|Apr 25, 2014

Markov Chains and Monte Carlo Methods参考文献 16被引用数 5

ひとこと要約

この論文は、尤度が計算可能である場合、ABCアルゴリズムのMCMC版は標準MCMCと同等の効率にとどまり、そのような状況では尤度フリーMCMCは不必要であることを示している。さらに、特定のABCバージョンは擬似周辺度MCMC手法として解釈可能であり、これにより尤度ベースの効率に近い性能を達成できる。ただし、複数の擬似サンプルを使用しても、常に性能が向上するわけではない。

ABSTRACT

In this paper, we make two observations about approximate Bayesian computation (ABC). First, we show that the MCMC version of an ABC algorithm is no more efficient than the corresponding MCMC algorithm. Thus likelihood-free MCMC methods should not be used if the corresponding MCMC algorithm is feasible to implement. Second, we observe that some variations of ABC algorithms can be viewed as pseudo-marginal MCMC algorithms, and hence may be made arbitrarily close to their respective likelihood-based MCMC methods. We subse-quently analyze the efficiency of the resulting algorithm, and present a surprising example which shows that multiple pseudo-samples do not necessarily improve the efficiency of the algorithm as compared to employing a high-variance estimate computed using a single pseudo-sample. 1

研究の動機と目的

• 尤度が計算可能である場合における、MCMCに基づくABCアルゴリズムと標準MCMCとの間の効率の比較評価。
• 特定のABCアルゴリズムが、ある条件下で擬似周辺度MCMC手法として解釈可能かどうかの調査。
• ABC設定における複数の擬似サンプルの使用がアルゴリズムの効率に与える影響の分析。
• 擬似サンプルの数を増やすことで、ABCアルゴリズムの性能が一貫して向上するかどうかの特定。

提案手法

• 論文は、ABCにおける尤度の近似をノイズのある推定値として扱うことで、ABCアルゴリズムと擬似周辺度MCMCの理論的関連性を明らかにした。
• 独立な擬似サンプルを使用するABCアルゴリズムが、特定の条件下で擬似周辺度MCMC手法として解釈可能であることを確立した。
• ABCアルゴリズムが尤度ベースの類似手法と同等の漸近的効率を達成するための条件を導出した。
• ABCにおける尤度推定の分散を分析し、単一の高分散推定値が複数の低分散推定値を上回る性能を示す可能性があることを示した。
• 理論的分析は、複数の擬似サンプルが常に効率を向上させるとは限らないことを示す反例によって裏付けられた。

実験結果

リサーチクエスチョン

• RQ1 尤度が利用可能な場合、ABCのMCMC版は標準MCMCよりも効率的か？
• RQ2 ある条件下でABCアルゴリズムは擬似周辺度MCMC手法として解釈可能か？
• RQ3 ABCにおける擬似サンプルの数を増やすことで、アルゴリズムの効率が常に向上するか？
• RQ4 どのような条件下でABCは尤度ベースのMCMCに近い効率を達成できるか？
• RQ5 なぜABCにおいて、単一の高分散擬似サンプルが複数の低分散サンプルを上回る可能性があるのか？

主な発見

• 尤度が計算可能である場合、ABCのMCMC版は標準MCMCと同等の効率であり、そのような状況では尤度フリーMCMCは非効率である。
• 特定のABCアルゴリズムは、擬似周辺度MCMC手法として解釈可能であり、これにより尤度ベースの性能に近い効率を達成できる。
• 複数の擬似サンプルを使用しても、単一の高分散推定値を使用する場合と比べて効率が向上するとは限らない。
• 驚くべき反例により、複数の低分散擬似サンプルが単一の高分散サンプルよりも効率が悪いことが示された。
• ABCアルゴリズムの効率は、使用するサンプル数よりも、尤度推定の分散に大きく依存する。