[論文レビュー] Some discussions of D. Fearnhead and D. Prangle's Read Paper "Constructing summary statistics for approximate Bayesian computation: semi-automatic approximate Bayesian computation"

Christophe Andrieu, Simon Barthelmé+12 more|arXiv (Cornell University)|Jan 5, 2012

Markov Chains and Monte Carlo Methods参考文献 28被引用数 2

ひとこと要約

この論文は、FearnheadとPrangleの半自動ABCに関する画期的業績についての専門家コメントの集積を提示し、要約統計量の選択と推論効率を向上させる高度な手法を提案する。主な貢献は、正確なABC推論のための普遍的な潜在変数表現、要約統計量のバイアスに関する批判、およびABC近似を精緻化するためのBICを用いた新規の後処理技術であり、パラメータ推定およびモデル選択における精度を顕著に向上させる。

ABSTRACT

This report is a collection of comments on the Read Paper of Fearnhead and Prangle (2011), to appear in the Journal of the Royal Statistical Society Series B, along with a reply from the authors.

研究の動機と目的

• 要約統計量選択における近似ベイズ計算（ABC）における未定量化バイアスを引き起こすという、極めて重要な課題に対処すること。
• 従来のABCに依存しない理論的根拠に基づいた効率的で代替可能な手法を、要約統計量に依存せずに開発すること。
• パラメータ推定およびモデル選択の精度を向上させるために、後処理技術を活用してABC推論を精緻化すること。
• 要約統計量が十分でない、特に同定不能または補助的（ancillary）な場合のABCの理論的基礎を調査すること。
• 潜在変数表現と高度なシミュレーション手法を活用して、ABCの適用範囲を複雑なモデルに拡大すること。

提案手法

• Y ∼ f(y|θ) を Y = φ(θ, U) として、U を取り扱いやすい分布 D(u) から抽出することで、普遍的な潜在変数表現を提案。これにより、標準的なMCMCやパーティクルMCMCを用いた正確な推論が可能になる。
• シミュレーション機構 φ(θ, u) の解析的形を活用し、D(u) と K(φ(θ,u), y*)D(u) の間の途中分布を標的とするSMCサンプラーを用いて、尤度推定を改善するフレームワークを導入。
• φ(θ,u) が滑らかで、IPA（確率的勾配法）により勾配が推定可能な場合には、特に代理尤度 R_U K(φ(θ,u), y*)D(u)du を不偏に推定できるパーティクルMCMC手法の使用を提唱。
• 回帰補正（例：局所線形回帰）の過程でBIC選択を用いたABCの後処理を提案。これにより、不要な要約統計量を除去し、精度が向上する。
• g-and-k、Ricker、Lotka-Volterraなどの特定のモデルに対して、要約統計量を一切使用しない代替手法としてEP-ABCおよびHMM-ABCを導入。これにより、より高速かつ正確な推論が可能になる。
• ABC事後分布をノイズのある観測を持つ人工時系列モデルの事後分布として再解釈。これにより、ABC設定において正確な推論手法の使用を支援する。

実験結果

リサーチクエスチョン

• RQ1 要約統計量を完全に避けることで、ABC推論をより正確かつバイアスの少ないものにできるか？
• RQ2 シミュレーション機構 φ(θ, u) の構造をどのように活用すれば、ABC尤度推定およびサンプリング効率を向上させられるか？
• RQ3 要約統計量が十分でない、あるいは同定不能な場合にABCが有効である理論的条件は何か？
• RQ4 回帰の過程でBIC選択を用いた後処理技術は、パラメータ推定およびモデル選択の両方においてABCの性能を向上させられるか？
• RQ5 どのようなモデルクラスにおいて、ABCを人工的潜在変数モデルにおける正確な推論として再解釈できるか？

主な発見

• 潜在変数表現 φ(θ, u) の使用により、正確なABC推論が標準的なベイズ問題に再定式化され、標準的なMCMCやパーティクルMCMC手法の使用が可能になる。
• 回帰の過程でBIC選択を用いたABCの後処理は、ガウス例でS3およびS4といった不要な統計量を除去することで、事後密度推定の精度が顕著に向上することが実証された。
• モデル選択の例では、BICがわずか2つの主要な統計量（LIK31およびLIK32）を選択し、次元削減を実現しながら情報損失なしに精度を向上させた。
• EP-ABCおよびHMM-ABCは、逐次構造や隠れマルコフ連鎖を持つモデルに対して、要約統計量を一切使用しない高速かつ正確なABC推論を可能にする。
• 要約統計量が十分でない場合、特に同定不能または補助的ケースでは、ABCの理論的妥当性の検証は未解決の問題のままである。
• 本論文は、ABCをノイズのある観測を持つ人工モデルにおける正確な推論として解釈できることを確立し、ABC設定において高度なシミュレーション手法の使用を支援する。