[論文レビュー] Semi-automatic Approximate Bayesian Computation

Paul Fearnhead, Dennis Prangle|arXiv (Cornell University)|Apr 7, 2010

Markov Chains and Monte Carlo Methods参考文献 29被引用数 19

ひとこと要約

本稿では、追加のシミュレーションを用いてパrameterの事後平均を推定することで、近似ベイジアン計算（ABC）における最適な要約統計量の選択を半自動的に行う手法を提案する。このアプローチは、直感的な要約統計量や他の手法と比較して、推論の正確性を顕著に向上させ、尤度が計算不能なモデルにおけるより信頼性の高いパrameter推定を可能にする。

ABSTRACT

Many modern statistical applications involve inference for complex stochastic models, where it is easy to simulate from the models, but impossible to calculate likelihoods. Approximate Bayesian computation (ABC) is a method of inference for such models. It replaces calculation of the likelihood by a step which involves simulating artificial data for different parameter values, and comparing summary statistics of the simulated data to summary statistics of the observed data. Here we show how to construct appropriate summary statistics for ABC in a semi-automatic manner. We aim for summary statistics which will enable inference about certain parameters of interest to be as accurate as possible. Theoretical results show that optimal summary statistics are the posterior means of the parameters. While these cannot be calculated analytically, we use an extra stage of simulation to estimate how the posterior means vary as a function of the data; and then use these estimates of our summary statistics within ABC. Empirical results show that our approach is a robust method for choosing summary statistics, that can result in substantially more accurate ABC analyses than the ad-hoc choices of summary statistics proposed in the literature. We also demonstrate advantages over two alternative methods of simulation-based inference.

研究の動機と目的

• 尤度が計算不能な複雑なモデルにおける、近似ベイジアン計算（ABC）における情報量の多い要約統計量の選択という課題に取り組むこと。
• パrameterの情報量を最も保つような要約統計量に焦点を当てることで、ABCにおける推定誤差を最小化する手法を開発すること。
• しばしば推論性能が低下するため、直感的な要約統計量の選択に代わる実用的で、シミュレーションに基づく代替手法を提供すること。
• シミュレートされたデータからの経験的推定によって、最適な要約統計量（事後平均）を近似することで、ABCの正確性を向上させること。

提案手法

• この手法は、観測データとパrameterの事後平均との間の関数的関係を推定するための補助的シミュレーション段階を用い、これを回帰問題として扱う。
• 回帰ベースの推定を適用し、シミュレートされたデータから得られる要約統計量を関数として、各パrameterの事後平均がどのように変化するかをモデル化する。
• この補助的回帰から得られた推定事後平均が、本番のABC解析における最終的な要約統計量として使用される。
• 最適な要約統計量がパrameterの事後平均であるという理論的知見を活用することで、ヒューリスティックな選択に代わる原理的で整合性のある代替手法となる。
• 解析的尤度が不要な条件下で、データから最適な統計量へのマッピングを実現するため、ベイジアンフレームワーク内に機械学習風の回帰技術を統合する。
• この手法は、初期の要約統計量の手動選択と、シミュレーションを用いた最適変換の自動推定を組み合わせるため、半自動的である。

実験結果

リサーチクエスチョン

• RQ1 パrameterの推論の正確性を最大化するように、ABC用の要約統計量をどのように選択できるか。
• RQ2 尤度が計算不能な設定において、パrameterの事後平均を効果的に推定することは可能か。
• RQ3 ABCにおいて推定された事後平均を要約統計量として用いることで、直感的またはヒューリスティックな要約統計量よりも正確な推論が達成できるか。
• RQ4 この半自動的手法は、他のシミュレーションベースの推論技術と比較して、性能に優れているか。

主な発見

• 実証的比較により、本手法が一般的に用いられる直感的な要約統計量よりも顕著に正確なABC解析を実現することが示された。
• 推定事後平均を要約統計量として用いることで、特に高次元パラメータ空間において推論の精度が向上した。
• 精度と頑健性の観点から、2つの代替のシミュレーションベースの推論技術を上回る性能を発揮した。
• 実証的結果により、この半自動的手法が、尤度が計算不能な多様な複雑な確率的モデルに対して頑健であることが確認された。
• 補助的シミュレーション段階は、事後平均のデータへの関数的依存関係を効果的に捉えており、解析的尤度評価なしに正確な近似を可能にした。