[論文レビュー] Tutorial on ABC rejection and ABC SMC for parameter estimation and model selection

Tina Toni, Michael P. H. Stumpf|arXiv (Cornell University)|Oct 23, 2009

Markov Chains and Monte Carlo Methods参考文献 7被引用数 7

ひとこと要約

このチュートリアルでは、尤度が計算不能な複雑なシステムにおけるベイズ的パラメータ推定とモデル選択のためのABCリジェクションおよびABC SMCアルゴリズムを提示する。逐次モンテカルロ手法が、適応的許容誤差スケジュールと摂動カーネルを用いて反復的に粒子近似を改善することで、標準的なリジェクションサンプリングに比べて計算効率を向上させる仕組みを説明する。

ABSTRACT

In this tutorial we schematically illustrate four algorithms: (1) ABC rejection for parameter estimation (2) ABC SMC for parameter estimation (3) ABC rejection for model selection on the joint space (4) ABC SMC for model selection on the joint space.

研究の動機と目的

• 系統的生物学や人口動態学の分野で一般的な、計算不能な尤度を伴うモデルにおけるベイズ推論の課題に対処すること。
• シミュレーションベース推論に馴染みのない研究者を対象に、ABCリジェクションおよびABC SMCの包括的で理解しやすいチュートリアルを提供すること。
• 明示的な尤度計算を必要とせず、シミュレーションのみを用いて正確なパラメータ推定とモデル選択を可能にすること。
• 逐次的手法（ABC SMC）が基本的なリジェクションサンプリングに比べて計算コストをどのように低減するかを示すこと。

提案手法

• ABCリジェクションは、事前分布からパラメータを抽出し、データをシミュレートし、シミュレートされたデータが観測データから許容誤差ε以内にある場合に限り、そのパラメータを受理する。
• ABC SMCは、許容誤差の段階的減少（ε₁ > ε₂ > … > ε_T）を用いて、後方分布の粒子近似を反復的に精緻化する。
• 各ステップで、粒子はカーネル（例：ガウスランダムウォーク）を用いて摂動され、シミュレートされたデータと観測データの距離が現在の許容誤差以下である場合にのみ受理される。
• 各集団における粒子に重みが割り当てられ、提案分布を補正することで後方分布の近似を改善する。
• モデル選択のためには、モデルとパラメータの連合空間が探索され、受理された粒子からの推定により周辺後方モデル確率が得られる。
• 逐次的サンプリング中に、モデルおよびパラメータ成分の両方に対して摂動カーネルが使用され、複雑で高次元の空間の探索が可能になる。

実験結果

リサーチクエスチョン

• RQ1 尤度関数が計算不能または計算コストが高いために、どのようにしてパラメータ推定を実行できるか？
• RQ2 計算効率と精度の観点から、ABCリジェクションとABC SMCの主な違いとトレードオフは何か？
• RQ3 ABC手法を、モデルとパラメータの連合空間におけるモデル選択に拡張するにはどうすればよいか？
• RQ4 ABC SMCアルゴリズムは、ABCリジェクションに比べて、どの程度サンプリング効率と収束速度を改善するか？
• RQ5 逐次ABCアルゴリズムを用いて、周辺後方モデル確率を一貫して推定するにはどうすればよいか？

主な発見

• ABCリジェクションは、許容誤差εが小さくなるほど高いリジェクション率を示し、計算上非効率である。
• ABC SMCは、段階的減少する許容誤差と適応的粒子伝搬を用いることで、計算効率を著しく向上させる。
• 特定のモデルに対する周辺後方モデル確率は、最終集団におけるそのモデルに属する受理された粒子の割合として推定される。
• モデル選択において、ABC SMCは粒子数Nを増加させても、後方モデル確率の推定が一貫性を保つ。
• ABC SMCの最終集団Tは、重み付けされたサンプルとして、結合後方分布P(m, θ|D₀)を近似するものであり、各集団にわたって重みが正規化される。
• 本手法により、尤度が入手不能または計算コストが高いために推論が困難な複雑な力学的システムに対しても、一貫した推論が可能になる。