[論文レビュー] An easy-to-use empirical likelihood ABC method

Sanjay Chaudhuri, Subhroshekhar Ghosh+2 more|arXiv (Cornell University)|Oct 3, 2018

Markov Chains and Monte Carlo Methods参考文献 32被引用数 4

ひとこと要約

本稿では、尤度関数が解析的に扱いにくいモデルに対し、要約統計量、その観測値、および任意のパラメータ値における統計量のシミュレーション能力のみを要する、新規で使いやすいEmpirical Likelihoodに基づくABC手法を提案する。この手法は、解析的に扱いやすい推定方程式やカーネル近似に依存せずに後方確率分布の一貫性を達成し、従来のABC手法に対するロバストでデータ駆動的な代替手法を提供する。計算上の実行可能性と解釈可能性が向上している。

ABSTRACT

Many scientifically well-motivated statistical models in natural, engineering and environmental sciences are specified through a generative process, but in some cases it may not be possible to write down a likelihood for these models analytically. Approximate Bayesian computation (ABC) methods, which allow Bayesian inference in these situations, are typically computationally intensive. Recently, computationally attractive empirical likelihood based ABC methods have been suggested in the literature. These methods heavily rely on the availability of a set of suitable analytically tractable estimating equations. We propose an easy-to-use empirical likelihood ABC method, where the only inputs required are a choice of summary statistic, it's observed value, and the ability to simulate summary statistics for any parameter value under the model. It is shown that the posterior obtained using the proposed method is consistent, and its performance is explored using various examples.

研究の動機と目的

• 尤度関数が計算不能なモデルに対して、実用的で使いやすいABC手法を自然・環境科学分野に適用可能にする。
• 従来のEmpirical Likelihood ABC手法の適用範囲を制限する解析的に扱いやすい推定方程式の必要性を排除する。
• 弱い正則性条件のもとで後方確率分布の一貫性を保証し、複雑な生成モデルにおける信頼性の高いベイズ推論を可能にする。
• 多変量正規性の仮定を避けることで、標準ABCおよび合成尤度法に対する計算効率の高い代替手法を提供する。

提案手法

• 本手法は、シミュレートされた要約統計量と観測された統計量に基づき、明示的な推定方程式を必要とせずにEmpirical Likelihood関数を構築する。
• 凸包制約を通じて妥当性を保証する制約付き最適化フレームワークを用い、パラメータ空間上で尤度に類似した関数を定義する。
• データクラーニングの原則を活用し、シミュレートされた再現回数を増やすことで、Empirical Likelihoodが真のパラメータ値に集中するようにする。
• 後方確率分布は正規化されたEmpirical Likelihoodによって定義され、標準ABCで用いられるカーネル密度近似を回避する。
• 繰り返しのシミュレーションにおけるEmpirical Likelihoodの漸近的挙動に依存し、シミュレーション回数が増加するにつれて一貫性が保証される。
• すべての仮定がデータに依存し、要約統計量の分布に関するパラメトリックな仮定を一切設けない。

実験結果

リサーチクエスチョン

• RQ1 解析的に扱いやすい推定方程式が不要な、計算効率的かつ実装容易なABC手法を開発できるか？
• RQ2 要約統計量とシミュレーション能力のみが利用可能な状況で、Empirical Likelihoodに基づくABC手法が後方確率分布の一貫性を達成できるか？
• RQ3 本手法は、既存のABC法および合成尤度法と比較して、精度と頑健性の点で優れているか？
• RQ4 要約統計量に非正規の依存構造が存在する場合でも、正規性仮定に依存せず有効性を保つことができるか？
• RQ5 モデルの誤指定や高次元の要約統計量に対しても、本手法は頑健性を保つことができるか？

主な発見

• 提案されたEmpirical Likelihood ABC手法は、シミュレーション回数が増加するにつれて、真のパラメータ値に弱収束する後方確率分布の一貫性を達成する。
• 解析的に扱いやすい推定方程式を一切必要としないため、尤度関数が計算不能なより広範なモデルクラスに適用可能である。
• 要約統計量の分布が非正規であっても、後方確率分布の集中が成立し、正規性仮定の違反に対しても頑健であることが示された。
• カーネル密度近似を回避することで、バンド幅選択への感受性が低減し、解釈可能性が向上した。
• 理論的結果により、後方確率分布が真のパラメータの収縮する近傍以外のパラメータ集合にゼロの質量を割り当てることが示され、一貫性が確認された。
• 数値例では、複雑な依存構造を有するモデルを含め、本手法の実用的妥当性と競争力のある性能が示された。