[論文レビュー] Auxiliary Likelihood-Based Approximate Bayesian Computation in State Space Models

Gael M. Martin, Brendan McCabe+3 more|arXiv (Cornell University)|Apr 27, 2016

Markov Chains and Monte Carlo Methods参考文献 43被引用数 3

ひとこと要約

本稿では、状態空間モデルにおける計算効率の良い近似ベイズ計算（ABC）手法を提案する。この手法は補助尤度を要約統計量として用いることで、ベイズ的一貫性を保証する。多パラメータ設定における精度を向上させるために統合尤度を用い、確率的ボラティリティモデルにおいて優れた性能を示す。

ABSTRACT

A computationally simple approach to inference in state space models is proposed, using approximate Bayesian computation (ABC). ABC avoids evaluation of an intractable likelihood by matching summary statistics for the observed data with statistics computed from data simulated from the true process, based on parameter draws from the prior. Draws that produce a “match” between observed and simulated summaries are retained, and used to estimate the inaccessible posterior. With no reduction to a low-dimensional set ofsufficient statistics being possible in the state space setting, we define the summaries as the maximum of an auxiliary likelihood function, and thereby exploit the asymptotic sufficiency of this estimator for the auxiliary parameter vector. We derive conditions under which this approach—including a computationally efficient version based on the auxiliary score—achieves Bayesian consistency. To reduce the well-documented inaccuracy of ABC in multiparameter settings, we propose the separate treatment of each parameter dimension using an integrated likelihood technique. Three stochastic volatility models for which exact Bayesian inference is either computationally challenging, or infeasible, are used for illustration. We demonstrate that our approach compares favorably against an extensive set of approximate and exact comparators. An empirical illustration completes the article. Supplementary materials for this article are available online.

研究の動機と目的

• 正確なベイズ推論が計算的に不可能であるため、状態空間モデルにおける尤度の計算が困難な問題に取り組む。
• 補助尤度から導出される要約統計量を用いることで、尤度の直接評価を回避する計算的に単純なABC手法を開発する。
• 補助最尤推定値の漸近的十分性を活用することで、ABC近似のベイズ的一貫性を保証する。
• 各パラメータ次元を別々に取り扱う新しい統合尤度技術を用いて、高次元パラメータ空間におけるABCの不正確性を低減する。
• 正確な推論が困難または不可能な複雑な確率的ボラティリティモデルにおいて、本手法の有効性を示す。

提案手法

• 補助尤度関数の最大値をABCの要約統計量として定義し、補助パラメータベクトルに対して漸近的十分性を活用する。
• ABCの受理ステップにおいて、完全な補助尤度の代わりに補助スコアを計算的に効率的な代替手段として用いる。
• 各パラメータ次元を別々に取り扱う統合尤度技術を適用し、多パラメータ推論における精度を向上させる。
• 観測された要約統計量とシミュレートされた要約統計量の一致度が良好なパラメータのサンプルを保持し、事後分布の近似を形成する。
• 補助モデルに関する正則性条件の下でABC手順がベイズ的一貫性を達成する条件を導出する。
• 補助モデルを適切に指定され、計算的に取り扱いやすいものとして選択し、シミュレーションベース推論を用いて手法を実装する。

実験結果

リサーチクエスチョン

• RQ1 補助尤度は、状態空間モデルにおけるABCの有効な要約統計量として機能するか。特に、一貫性と計算効率を両立できるか？
• RQ2 補助スコアを用いることで、ABC推論における計算速度が向上するが、精度を損なわないか？
• RQ3 統合尤度による各パラメータ次元の別々の取り扱いは、多パラメータ設定におけるABCの不正確性をどの程度低減できるか？
• RQ4 補助モデルに関する正則性条件の下で、提案手法がベイズ的一貫性を達成するか？
• RQ5 確率的ボラティリティモデルにおいて、本手法は正確な手法や他の近似手法と比較して、精度と計算コストの両面で優れているか？

主な発見

• 補助尤度に基づく提案されたABC手法は、正則性条件の下でベイズ的一貫性を達成し、有効な事後分布近似を保証する。
• 完全な尤度の代わりに補助スコアを用いることで、計算コストを著しく削減しながらも、優れた性能を維持する。
• 各パラメータ次元を別々に取り扱う統合尤度技術により、標準ABCと比較して多パラメータモデルにおけるABCの精度が向上する。
• 本手法は、3つの確率的ボラティリティモデルにおいて、広範な近似手法および正確な手法と比較して、推定精度の面で優れている。
• 実験結果から、本手法の実用的妥当性と、潜在状態過程を含む実世界の応用へのロバスト性が確認される。
• 補足資料により、再現性が確認され、本手法の追加実装詳細が提供されている。