[論文レビュー] Large Vector Auto Regressions

Song Song, Peter J. Bickel|arXiv (Cornell University)|Jun 20, 2011

Face and Expression Recognition被引用数 57

ひとこと要約

本稿では、時系列的依存構造と高次元の空間的構造を考慮しつつ、関連する変数とラグを同時に選択する、新しい大規模ベクトル自己回帰（LARGE-VAR）フレームワークを提案する。グループリッジペナルティとチューニングパラメータのデータ駆動的ローリングスキームを統合することで、予測においてオラクル効率性を達成し、強い自己相関とクロスセクショナル依存性を示す高次元的・低サンプルサイズ条件において、標準Lassoや既存のVAR推定法を凌駕する性能を発揮する。

ABSTRACT

One popular approach for nonstructural economic and financial forecasting is to include a large number of economic and financial variables, which has been shown to lead to significant improvements for forecasting, for example, by the dynamic factor models. A challenging issue is to determine which variables and (their) lags are relevant, especially when there is a mixture of serial correlation (temporal dynamics), high dimensional (spatial) dependence structure and moderate sample size (relative to dimensionality and lags). To this end, an extit{integrated} solution that addresses these three challenges simultaneously is appealing. We study the large vector auto regressions here with three types of estimates. We treat each variable's own lags different from other variables' lags, distinguish various lags over time, and is able to select the variables and lags simultaneously. We first show the consequences of using Lasso type estimate directly for time series without considering the temporal dependence. In contrast, our proposed method can still produce an estimate as efficient as an extit{oracle} under such scenarios. The tuning parameters are chosen via a data driven "rolling scheme" method to optimize the forecasting performance. A macroeconomic and financial forecasting problem is considered to illustrate its superiority over existing estimators.

研究の動機と目的

• 強い時系列的依存性と中程度のサンプルサイズを伴う高次元的ベクトル自己回帰モデルにおいて、関連する変数とラグを効果的に選択する課題に対処すること。
• 時系列データにおける標準Lassoの限界を克服し、明示的に時系列的ダイナミクスと変数間依存性をモデル化すること。
• 高次元VAR設定における予測性能を最適化するためのデータ駆動的チューニング手法（「ローリングスキーム」）を考案すること。
• マクロ経済学およびファイナンス分野の実応用において、既存の推定法と比較して優れた予測精度を示すことを実証すること。

提案手法

• 自身の変数のラグと他の変数のラグを区別する大規模ベクトル自己回帰モデルを提案し、個別に正則化を可能にする。
• 各変数-ラグペアをグループとして扱い、グループリッジペナルティを適用することで、関連する変数とそのラグを同時に選択する。
• アウトオブサンプル予測性能を最適化するため、チューニングパラメータの選択に「ローリングスキーム」を用いる。
• 2段階推定戦略を採用：まずグループリッジによる変数およびラグの選択；次に選択されたモデルに基づく推定。
• 弱い依存性と高次元スケーリングの下で漸近的性質を導出し、一貫性およびオラクル効率性を示す。
• KKT条件およびマルティングール中心極限定理を用いて理論的保証を確立し、スパarsityおよび漸近正規性を証明する。

実験結果

リサーチクエスチョン

• RQ1 時系列的依存性を考慮しつつ、高次元VARモデルにおいて、関連する変数とラグを同時に正則化手法で選択可能か？
• RQ2 自己相関と高次元的クロスセクショナル依存性が存在する状況下でも、提案手法が予測においてオラクル効率性を達成できるか？
• RQ3 チューニングパラメータ選択のためのデータ駆動的ローリングスキームは、固定値または交差検証法と比較して、予測性能で優位性を示すか？
• RQ4 高次元スケーリング下での推定量の理論的性質として、変数選択の一貫性および漸近正規性はどのように保証されるか？
• RQ5 実マクロ経済学およびファイナンス予測応用において、標準Lassoや既存のVAR推定法を上回る性能を示せるか？

主な発見

• 標準Lassoが時系列的依存性を考慮しないがために失敗する状況下でも、提案手法は推定および予測においてオラクル効率性を達成する。
• 理論的分析により、推定量の一貫性および漸近正規性が示され、正しい変数およびラグ選択確率が1に収束することが判明した。
• チューニングパラメータ選択のためのローリングスキームは、固定値または交差検証法と比較して、アウトオブサンプル予測精度を顕著に向上させる。
• スパarsityが達成された：誤って関連のない変数やラグを含める確率は、KKT条件を用いて証明されたように1に収束する。
• 本手法は、実世界の予測タスクにおいて、関連するマクロ経済学的およびファイナンシャル変数とそのラグを効果的に同定でき、既存のVARおよびLassoベースのモデルを凌駆する。
• 実証的結果により、特に高次元的かつ低サンプルサイズ条件の下で、マクロ経済学およびファイナンスデータセットにおいて優れた予測性能を確認した。