[論文レビュー] Robust and Efficient Approximate Bayesian Computation: A Minimum Distance Approach

David T. Frazier|arXiv (Cornell University)|Jun 25, 2020

Markov Chains and Monte Carlo Methods参考文献 18被引用数 8

ひとこと要約

本稿では、要約統計量に依存せずに、ノルムに基づく乖離を用いて経験的確率測度を比較することで、尤度フリーなベイズ手法である最小距離近似ベイズ計算（MD-ABC）を提案する。ヘリンジャー距離を用いる場合、MD-ABCは正確なベイズ推論と同等の漸近的効率性を達成し、局所的なモデル不適合に対しても最適なロバスト性を示す。これは、モデルのずれがある状況でも、正確なベイズ推論や他のABC手法を上回る性能を発揮する。

ABSTRACT

In many instances, the application of approximate Bayesian methods is hampered by two practical features: 1) the requirement to project the data down to low-dimensional summary, including the choice of this projection, which ultimately yields inefficient inference; 2) a possible lack of robustness to deviations from the underlying model structure. Motivated by these efficiency and robustness concerns, we construct a new Bayesian method that can deliver efficient estimators when the underlying model is well-specified, and which is simultaneously robust to certain forms of model misspecification. This new approach bypasses the calculation of summaries by considering a norm between empirical and simulated probability measures. For specific choices of the norm, we demonstrate that this approach can deliver point estimators that are as efficient as those obtained using exact Bayesian inference, while also simultaneously displaying robustness to deviations from the underlying model assumptions.

研究の動機と目的

• 要約統計量の選定やモデル不適合による、標準的な近似ベイズ計算（ABC）手法の非効率性とロバスト性の欠如を是正すること。
• 正しくモデルが指定された場合に高い効率性を維持するとともに、仮定されたモデルからの局所的逸脱に対してもロバストなベイズ推論手法を開発すること。
• 全データを経験的確率測度を通じて使用することで、要約統計量の手動選択の必要性を排除すること。
• 尤度が解析的に扱えない状況下において、最小距離推定のロバスト性と効率性の性質をベイズ枠組みへと拡張すること。
• モデル不確実性下でも効率的かつ信頼性がある正確なベイズ推論の実用的代替手段を提供すること。

提案手法

• 観測データとシミュレートされたデータの経験的確率測度を比較することで、要約統計量に依存しない新しいABC手法、MD-ABCを提案する。
• 経験的分布間のノルムに基づく乖離測度を用いてABCの受容基準を定義し、特にヘリンジャー距離とクラメール＝ヴァン・ミーゼス（CvM）距離に注目する。
• MD-ABCの事後分布を、事前分布と乖離測度の核密度推定の積に比例する形で定義し、SMCアルゴリズムによる事後分布のシミュレーションを可能にする。
• 正則性条件下でMD-ABC推定量の漸近的正規性と漸近的効率性を示し、特にヘリンジャー距離を用いる場合に顕著であることを確認する。
• 局所的モデル不適合の枠組みを用いて、特定の逸脱状況下でMD-ABCが、すべてのABC推定量の中で最小のバイアスと平均二乗誤差を達成することを示す。
• 後方推定の近似には逐次モンテカルロ（SMC）を、シミュレーションスタディーにおける正確なベイズ推定のベンチマークにはNUTSを用いる。

実験結果

リサーチクエスチョン

• RQ1 要約統計量を用いず、正確なベイズ推論と同等の漸近的効率性を達成できる尤度フリーなベイズ手法は存在するか？
• RQ2 経験的分布間のノルムに基づく乖離測度は、標準的なABC手法と比較して、モデル不適合に対するロバスト性を向上させるか？
• RQ3 局所的なモデル不適合下において、MD-ABCは正確なベイズ推定やワッサーシュタインABCなどの他のABC手法と比べてどのように性能を発揮するか？
• RQ4 最小距離原理は、尤度が解析的に扱えないモデルのベイズ推論へと拡張可能か？
• RQ5 ヘリンジャー距離やCvM距離といった異なるノルムを用いることで、ABC推定の効率性とロバスト性にどのような影響を与えるか？

主な発見

• ヘリンジャー距離を用いたMD-ABCは、正しいモデル指定下で、正確なベイズ推論と同等の漸近的効率性を持つ点推定を達成する。
• 局所的なモデル不適合下では、MD-ABCはすべてのABC推定量の中で最小のバイアスと平均二乗誤差を達成し、最適なロバスト性を示す。
• 5%のジャンプ強度を有する確率的ボラティリティ（SV）モデルにおいて、正確なベイズ推定は顕著なバイアスと不安定な事後標準偏差を示したが、MD-ABCは安定かつ正確であった。
• MD-ABCの事後平均と標準偏差は、データにジャンプ成分が存在しても、真のデータ生成過程が仮定されたモデルから逸脱してもほとんど影響を受けなかった。
• CvM距離に基づくMD-ABCはm = nのシミュレート済み観測値を使用したが、ヘリンジャー距離に基づくMD-ABCは精度向上のためm = 10nを用いた。これは、シミュレーション予算に応じたスケーラビリティを示している。
• 特にSVモデルのパrameter πとβに関して、モデル不適合下でMD-ABCはワッサーシュタインABCや正確なベイズ推定を上回る推定量の安定性と正確性を示した。