[論文レビュー] Bayesian Indirect Inference and the ABC of GMM

Michael Creel, Jiti Gao+2 more|arXiv (Cornell University)|Dec 23, 2015

Bayesian Methods and Mixture Models被引用数 3

ひとこと要約

本稿では、非パラメトリック回帰を用いて、近似ベイズ推定（ABC）および一般化モーメント法（GMM）における局所線形および多項式推定量を導入し、数値最適化やMCMCを必要としない頻度主義的推論を可能にする。漸近的妥当性を確立し、理論的および有限標本において局所線形法が局所定数法を上回ることを示している。

ABSTRACT

In this paper we propose and study local linear and polynomial based estimators for implementing Approximate Bayesian Computation (ABC) style indirect inference and GMM estimators. This method makes use of nonparametric regression in the computation of GMM and Indirect Inference models. We provide formal conditions under which frequentist inference is asymptotically valid and demonstrate the validity of the estimated posterior quantiles for confidence interval construction. We also show that in this setting, local linear kernel regression methods have theoretical advantages over local constant kernel methods that are also reflected in finite sample simulation results. Our results also apply to both exactly and over identified models. These estimators do not need to rely on numerical optimization or Markov Chain Monte Carlo (MCMC) simulations. They provide an effective complement to the classical M-estimators and to MCMC methods, and can be applied to both likelihood based models and method of moment based models.

研究の動機と目的

• 数値最適化やMCMCに依存しない、非パラメトリック回帰に基づくABCおよびGMM推定量の開発。
• ABCおよびGMMの設定において、頻度主義的推論が漸近的に妥当であるための形式的条件の確立。
• 間接推定における局所線形法と局所定数法の理論的および有限標本的性能の比較。
• これらの推定量を正確に識別可能および過剰識別可能な両モデルに拡張すること。
• 尤度ベースおよびモーメントベースのモデルにおける古典的M推定量およびMCMCの計算的に効率的な代替手段の提供。

提案手法

• ABCおよびGMMの枠組みにおいて、スコア関数の推定に局所線形および多項式回帰を適用する。
• 明示的な尤度評価や数値最適化の必要性を回避するため、非パラメトリック回帰を用いる。
• 間接推定モデルにおける条件付き期待値の推定に、カーネルベースの推定技術を適用する。
• 有効な頻度主義的推論および事後分位数のキャリブレーションを保証する正則性条件の下で漸近的性質を導出する。
• GMMおよびABCにおけるモーメント条件の推定に、カーネルスムージング法を統合する。
• 本手法が正確に識別可能なモデルおよび過剰識別可能なモデルの両方に適用可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 MCMCや最適化を必要とせず、非パラメトリック回帰手法がABCおよびGMMの実装に有効に用いられるか。
• RQ2 この文脈において、局所線形法と局所定数法のカーネル推定量の理論的および有限標本的性質は何か。
• RQ3 これらの非パラメトリック推定量を用いた場合、頻度主義的推論がどのような条件下で漸近的に妥当になるか。
• RQ4 提案された推定量は、古典的M推定量と比較して、有効性およびロバストネスの点でどのように異なるか。
• RQ5 本手法で推定された事後分位数は、信頼区間の構築に信頼的に用いることができるか。

主な発見

• 提案された推定量は、形式的な正則性条件の下で、頻度主義的推論に対して漸近的に妥当である。
• 局所線形カーネル回帰法は、理論的に局所定数法を上回る優位性を示し、有限標本のシミュレーションでも確認された。
• 本手法で推定された事後分位数は、信頼区間の構築に有効である。
• 本手法は、数値最適化やMCMCを必要としないため、計算的に効率的である。
• 本手法は正確に識別可能なモデルおよび過剰識別可能なモデルの両方に適用可能であり、適用範囲が広がる。
• 推定量は、尤度ベースおよびモーメントベースのモデルにおける古典的M推定量およびMCMCのロバストな代替手段を提供する。