[論文レビュー] Bayesian Inference in High-Dimensional Time-varying Parameter Models using Integrated Rotated Gaussian Approximations

Florian Huber, Gary Koop+1 more|arXiv (Cornell University)|Feb 24, 2020

Statistical Methods and Inference参考文献 27被引用数 7

ひとこと要約

この論文は、高次元の時変パラメータ（TVP）モデルにおける計算的に効率的なベイズ推論のための統合回転ガウス近似（IRGA）を提案する。ガウス分布の回転不変性を活用することで、IRGAは定数係数と高次元のTVPにパrameter空間を分離し、TVPには高速な近似手法（VAMP）を、係数には正確なMCMCを用いる。これにより、確率的ボラティリティを伴う大規模マクロ経済モデルにおけるスケーラブルな予測と構造的分析が可能になる。

ABSTRACT

Researchers increasingly wish to estimate time-varying parameter (TVP) regressions which involve a large number of explanatory variables. Including prior information to mitigate over-parameterization concerns has led to many using Bayesian methods. However, Bayesian Markov Chain Monte Carlo (MCMC) methods can be very computationally demanding. In this paper, we develop computationally efficient Bayesian methods for estimating TVP models using an integrated rotated Gaussian approximation (IRGA). This exploits the fact that whereas constant coefficients on regressors are often important, most of the TVPs are often unimportant. Since Gaussian distributions are invariant to rotations we can split the the posterior into two parts: one involving the constant coefficients, the other involving the TVPs. Approximate methods are used on the latter and, conditional on these, the former are estimated with precision using MCMC methods. In empirical exercises involving artificial data and a large macroeconomic data set, we show the accuracy and computational benefits of IRGA methods.

研究の動機と目的

• 多くの説明変数を伴う高次元TVPモデルにおけるMCMCベースのベイズ推定の計算上の非現実性に対処すること。
• 大規模なTVP-VARを効率的に扱いながら、予測と構造的分析の精度を保つ手法を開発すること。
• 先行研究が同一分散誤差に限られていたのを拡張し、IRGAフレームワークに確率的ボラティリティを組み込むこと。
• TVPモデルが定数係数モデルを超えて意味のある洞察を提供することを示すこと、特に小規模から中規模の情報セットにおいて。
• 標準的なMCMC手法が非現実的である大規模モデルにおいて、IRGAが実用的な計算時間を実現できることを示すこと。

提案手法

• IRGAはパrameter空間を2つのブロックに分割する：注目すべき定数係数と高次元の時変パラメータ（雑音項）。ガウス事前分布の回転不変性を活用する。
• 高次元のTVPブロックは、高次元推論に適した高速でスケーラブルなアルゴリズムであるベクトル近似メッセージパッシング（VAMP）を用いて近似される。
• TVPのVAMP近似に条件づけた上で、定数係数は高精度なMCMCで推定され、重要なパrameterの精度が保証される。
• 状態空間表現を用いて確率的ボラティリティを組み込み、IRGAを時変誤差分散を伴うモデルに拡張する。
• スパarsityを誘導するための縮約事前分布（SBLおよびS&S事前分布）を用い、時変係数の柔軟な同定を可能にする。
• 人工データと大規模な米国マクロ経済データセットを用いて検証し、MCMCベンチマークおよび定数係数モデルと比較した。

実験結果

リサーチクエスチョン

• RQ1 標準的なMCMCが非現実的になる高次元TVPモデルにおいて、IRGAは正確かつ計算的に効率的なベイズ推論を提供できるか？
• RQ2 IRGAフレームワークに確率的ボラティリティを組み込むことで、計算効率を維持しながらモデル適合度が向上するか？
• RQ3 IRGAを用いて推定されたTVP-VARモデルは、さまざまなモデルサイズにおいて定数係数VARと比較して予測性能に優れているか？
• RQ4 どのモデル次元において、時変係数が定数係数モデルと比較してインパulse応答ダイナミクスを顕著に変化させるか？
• RQ5 IRGAベースのTVPモデルは、定数係数モデルでは捉えきれない構造的洞察をどの程度明らかにするか、特に不確実性ショックへの反応において。

主な発見

• IRGAは大規模モデルにおいて、MCMCベンチマークと同等の予測性能を達成しながら、計算時間を桁違いに短縮した。
• 大規模マクロ経済データセット（2005–2019年）において、IRGAベースのTVP-VARは定数係数ベンチマークを上回る予測精度を示した。
• 小規模および中規模のVARでは、TVPモデルと定数係数モデルとの間のインパulse応答差の事後信用区間が頻繁にゼロを含まず、意味的な構造的差を示している。
• 大規模モデルでは、インパルス応答差の事後信用区間がゼロを含むため、多くの説明変数がすでに含まれている状況では係数の時変性がほとんど影響しないことが示唆された。
• IRGA手法は確率的ボラティリティを効果的に組み込み、分散が時間的に変化する誤差を伴うモデルにおいても、計算速度を損なわずに頑健な推論を可能にした。
• 実証的結果は、IRGAを用いて推定されたTVPモデルが、定数係数モデルでは得られない洞察を提供することを確認した。特に、変数の漏れが懸念される小規模な情報セットにおいて顕著である。