[論文レビュー] Instrumental Variable Bayesian Model Averaging via Conditional Bayes Factors

Anna Karl, Alex Lenkoski|arXiv (Cornell University)|Feb 27, 2012

Complex Systems and Time Series Analysis参考文献 19被引用数 25

ひとこと要約

本稿では、条件付きベイズ因子（CBFs）をギブスサンプリングフレームワーク内に統合することで、2段階線形IV回帰におけるモデルの不確実性を計算的に効率よく統合する、計算効率の高い手法であるインストゥルメンタル変数ベイズモデル平均化（IVBMA）を提案する。モデル移動をギブスサンプラー内に埋め込むことで、逆遷移MCMCの複雑さを避けつつ、混合安定性の高いシンプルなモデル平均化を実現し、近似手法に対する完全なベイズ的手法を提供する。

ABSTRACT

We develop a method to perform model averaging in two-stage linear regression systems subject to endogeneity. Our method extends an existing Gibbs sampler for instrumental variables to incorporate a component of model uncertainty. Direct evaluation of model probabilities is intractable in this setting. We show that by nesting model moves inside the Gibbs sampler, model comparison can be performed via conditional Bayes factors, leading to straightforward calculations. This new Gibbs sampler is only slightly more involved than the original algorithm and exhibits no evidence of mixing difficulties. We conclude with a study of two different modeling challenges: incorporating uncertainty into the determinants of macroeconomic growth, and estimating a demand function by instrumenting wholesale on retail prices.

研究の動機と目的

• 内生性が存在する状況におけるインストゥルメンタル変数回帰におけるモデルの不確実性を扱うため。
• IVシステムにおける直接的なモデル比較の非可解性を、条件付きベイズ因子を活用することで克服するため。
• 逆遷移MCMCに対する計算的に効率的で混合性に優れた代替手法を、IVモデル平均化のために開発するため。
• 標準的なIV推定にモデルの不確実性を統合する実用的で完全なベイズ枠組みを提供するため。
• 既存のベイズモデル平均化手法を、最小限のアルゴリズム的オーバーヘッドで、内生変数の設定に拡張するため。

提案手法

• 本手法は、元来IV推定を目的としたギブスサンプリングフレームワークを採用し、条件付きベイズ因子（CBFs）を用いたモデル移動を拡張して適用する。
• 第一段階および第二段階の両モデルに対して、多変量正規分布の正規化定数を活用することでCBFを計算し、入れ子構造を持つ階層的構造下での正確なモデル比較を可能にする。
• モデル移動をギブスサンプラー内に埋め込むことで、混合性に優れたMC3-内ギブスのアルゴリズムを形成する。
• CBFから導かれる条件付きモデル確率に依存することで、逆遷移MCMCで一般的に見られる複雑なモデル提案メカニズムや混合性の問題を回避する。
• Rパッケージ「ivbma」を介して実装されており、CRANに公開されており、単一および複数の内生変数をサポートする。
• ディリクレ過程混合モデルにおいてIVカーネルをIVBMAカーネルに置き換えることで、非正規誤差構造への拡張が可能となる。

実験結果

リサーチクエスチョン

• RQ1 MCMCの混合性を損なわせることなく、2段階インストゥルメンタル変数回帰にモデルの不確実性を効率的に組み込む方法は何か？
• RQ2 条件付きベイズ因子は、内生回帰系におけるモデル比較に対して、実行可能で理論的に妥当な手法を提供できるか？
• RQ3 IVBMA手法は、逆遷移MCMCなどの既存手法と比較して、計算効率および混合性の観点でどのように異なるか？
• RQ4 モデル平均化は、マクロ経済成長要因や需要関数推定における推論にどのような影響を与えるか？
• RQ5 IVBMA枠組みは、一般化線形モデルのようなより複雑な尤度構造や非正規誤差を扱うために拡張可能か？

主な発見

• モデル移動の単純な埋め込み機構のおかげで、逆遷移MCMCとは異なり、混合の困難さの兆候が一切認められない。
• IVモデルにおける条件付きベイズ因子は、多変量正規分布の正規化定数に簡略化され、正確なモデル比較を容易に可能にする。
• 元のギブスサンプラーと比較してわずかに複雑なだけであり、3段階手順から5段階手順に拡張されるが、計算オーバーヘッドは最小限に抑えられる。
• マクロ経済成長の例では、インフレ率や政治的安定性といった主要な決定要因が、高い包含確率で特定された一方、関連性の低い変数は除外された。
• マーガリン需要データセットでは、価格弾力性の事後中央値が1.841で、97.5%事後分位数が得られ、価格変化に対する強い感受性が示された。
• Rパッケージ「ivbma」は、手法の実装に成功しており、複数の内生変数や非正規誤差構造に対しても、ディリクレ過程混合モデルを介して拡張可能である。