[論文レビュー] Constructing Summary Statistics for Approximate Bayesian Computation: Semi-automatic ABC

Paul Fearnhead, Dennis Prangle|arXiv (Cornell University)|Apr 7, 2010

Markov Chains and Monte Carlo Methods参考文献 38被引用数 37

ひとこと要約

この論文は、近似ベイジアン計算（ABC）における要約統計量の構築のための準自動的手法を提案しており、補助的なシミュレーション段階を通じてパラメータの後方平均を推定することで、推論の正確性を顕著に向上させている。この手法は、データを関数としての後方平均を回帰ベースで推定するものであり、恣意的な要約統計量と比較して、より効率的かつ正確なABC推論を実現する。

ABSTRACT

Many modern statistical applications involve inference for complex stochastic models, where it is easy to simulate from the models, but impossible to calculate likelihoods. Approximate Bayesian computation (ABC) is a method of inference for such models. It replaces calculation of the likelihood by a step which involves simulating artificial data for different parameter values, and comparing summary statistics of the simulated data to summary statistics of the observed data. Here we show how to construct appropriate summary statistics for ABC in a semi-automatic manner. We aim for summary statistics which will enable inference about certain parameters of interest to be as accurate as possible. Theoretical results show that optimal summary statistics are the posterior means of the parameters. While these cannot be calculated analytically, we use an extra stage of simulation to estimate how the posterior means vary as a function of the data; and then use these estimates of our summary statistics within ABC. Empirical results show that our approach is a robust method for choosing summary statistics, that can result in substantially more accurate ABC analyses than the ad-hoc choices of summary statistics proposed in the literature. We also demonstrate advantages over two alternative methods of simulation-based inference.

研究の動機と目的

• 近似ベイジアン計算（ABC）における情報量のある要約統計量の選択という課題に取り組むこと。ここでは、不適切な選択が推論の非効率性と不正確さを引き起こす。
• ABCにおける推定誤差を最小化するための体系的でデータ駆動の要約統計量の構築法を開発すること。
• 解析的表現を必要とせず、シミュレーションを活用して最適な要約統計量を推定する実用的で準自動的なフレームワークを提供すること。
• 関心のあるパラメータの後方平均と整合性を持つ要約統計量を用いることで、ABCの後方分布近似の正確性を向上させること。

提案手法

• この手法は、推定損失を最小化するという点で理論的に最適な要約統計量としてパラメータの後方平均を使用することを提案している。
• 観測データとパラメータの後方平均との関数的関係を回帰によって推定するために、補助的なシミュレーション段階を実施する。
• 推定された後方平均関数をABCアルゴリズム内での要約統計量として使用し、恣意的な選択を置き換える。
• 要約統計量の尤度を近似するために、帯域幅パラメータを用いた核密度推定を用いることで、ABCの後方分布計算を可能にする。
• この手法はモデルの誤指定に対してもロバストであり、完全な尤度を必要とせず、モデルからの前向きシミュレーションに依存する。
• 理論的根拠として、正則性条件の下で帯域幅がゼロに近づくにつれて、結果として得られるABC後方分布が真の後方分布に収束することを示している。

実験結果

リサーチクエスチョン

• RQ1 関心のあるパラメータの推定誤差を最小化するように、ABCの要約統計量をどのように構築できるか？
• RQ2 データ駆動でシミュレーションに基づく手法は、ABC推論において恣意的な要約統計量を上回ることができるか？
• RQ3 ABCにおいて後方平均を要約統計量として使用する理論的根拠は何か？
• RQ4 代替のシミュレーションベース推論手法と比較して、準自動的手法の性能はいかがであるか？
• RQ5 この手法は、複雑な確率的モデルにおいて、ABCの後方分布近似の正確性をどの程度向上させるか？

主な発見

• 提案手法は、文献で一般的に使われている恣意的な要約統計量と比較して、顕著に正確なABC解析を実現する。
• 推定された後方平均を要約統計量として使用することで、後方分散および平均二乗誤差の観点から、真の後方分布に近いABC後方分布が得られる。
• この手法はモデルの複雑さに対してロバストであり、真の尤度が計算不能であっても良好に機能する。
• 理論的分析により、提案された要約統計量に基づくABC後方分布が、帯域幅がゼロに近づくにつれて真の後方分布に収束することが示された。
• 実証的結果は、推定の正確性と効率性の観点から、この手法が2つの代替のシミュレーションベース推論技術を上回ることを示している。
• 補助的なシミュレーション段階により、解析的計算を必要とせず、後方平均関数の正確な推定が可能となり、最適な要約統計量として機能する。