[論文レビュー] Approximate Bayesian computation via empirical likelihood

Kerrie Mengersen, Pierre Pudlo+1 more|arXiv (Cornell University)|May 25, 2012

Markov Chains and Monte Carlo Methods参考文献 40被引用数 6

ひとこと要約

本稿では、モデルシミュレーションとABCのパrameter選定（要約統計量、距離、許容誤差）を経験的尤度に置き換えるABCelと呼ばれる、近似的ベイズ計算の新規手法を提案する。これにより、計算コストを大幅に削減しつつ、証明可能な収束性を持つ推論が可能となる。本手法は有効サンプルサイズを用いて性能を自己評価し、集団遺伝学や時系列モデルを含む複雑なモデルにおいて優れた性能を示している。

ABSTRACT

Approximate Bayesian computation (ABC) has now become an essential tool for the analysis of complex stochastic models when the likelihood function is unavailable. The well-established statistical method of empirical likelihood however provides another route to such settings that bypasses simulations from the model and the choices of the ABC parameters (summary statistics, distance, tolerance), while being provably convergent in the number of observations. Furthermore, avoiding model simulations leads to significant time savings in complex models, such as those used in population genetics. The ABCel algorithm we develop in this paper also provides an evaluation of its own performance through an associated effective sample size. The method is illustrated using several examples, including estimation of standard and quantile distributions, and time series and population genetics models.

研究の動機と目的

• モデルシミュレーションとABCパrameterのチューニングを回避する尤度フリーなベイズ推論手法の開発。
• 要約統計量、距離尺度、許容誤差閾値に依存しない、証明可能な収束性を持つ標準ABCの代替手法の提供。
• 集団遺伝学のモデルなど複雑なモデルにおける計算コストを削減するため、シミュレーションステップを排除すること。
• 後方分布の信頼性を自己評価するための内部性能指標（有効サンプルサイズの推定）を提供すること。
• 時系列や分位数分布を含む多様なモデルにおいて、本手法の頑健性と精度を示すこと。

提案手法

• ABCelは、従来のABCがシミュレーションに基づく尤度近似を行うのに対し、観測データから直接尤度関数を構築する経験的尤度に置き換える。
• 本手法は、正則性条件下で漸近的に有効な疑似尤度を構築する。これにより、標本サイズが増加するにつれて収束性が保証される。
• 要約統計量、距離尺度、許容誤差レベルの選定が不要となり、これらが標準ABCにおける主観的選択と計算負荷の主な要因であることを回避する。
• アルゴリズムは、後方分布の品質の自己評価として有効サンプルサイズ（ESS）を計算し、信頼性の診断を提供する。
• ABCelは、モデルから導かれるモーメント条件を満たす制約付き最適化フレームワークによって実装される。
• 尤度が計算不能なが、推定方程式やモーメント条件が得られるモデルに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 経験的尤度を用いて、モデルシミュレーションとABCのチューニングパrameterを回避する尤度フリーなベイズ推論手法を構築できるか？
• RQ2 得られたABCel手法は、後方推定において漸近的の一貫性と収束性を達成するか？
• RQ3 複雑なモデルにおいて、ABCelは標準ABCと比較して計算効率と精度に優れているか？
• RQ4 シミュレーションに依存せずに、有効サンプルサイズのような信頼性のある内部性能指標を提供できるか？
• RQ5 集団遺伝学や時系列のような実世界のモデルにおいて、ABCelの性能はいかがなものか？

主な発見

• 観測数が増加するにつれて、ABCelはモデルシミュレーションを一切必要とせず、後方推定において証明可能な収束性を達成する。
• 要約統計量、距離尺度、許容誤差レベルといったABCパrameterのチューニングが不要となり、主観的選択と計算コストが大幅に削減される。
• シミュレーションを経験的尤度に置き換えることで、特に集団遺伝学のモデルのような複雑なモデルにおいて顕著な時間短縮が達成される。
• アルゴリズムは内部的に有効サンプルサイズの推定値を提供し、後方分布の信頼性の自己評価が可能となる。
• 実験的結果から、ABCelは標準分布や分位数分布、時系列、集団遺伝学モデルを含む多様なモデルで良好な性能を示す。
• ABCelは標準ABCと同等の精度を維持しながら、より高い計算効率と頑健性を提供する。