[論文レビュー] Hierarchical Vector Autoregression

William B. Nicholson, Jacob Bien+1 more|arXiv (Cornell University)|Dec 17, 2014

Monetary Policy and Economic Impact参考文献 70被引用数 17

ひとこと要約

本稿では、ネストされたグループlasso正則化を用いてラグ順序選択を凸最適化フレームワークに統合する正則化VARモデル、階層的ベクトル自己回帰（HVAR）を提案する。ラグごとの順序付きスパarsityを強制することで、HVARは高次元時系列における予測精度と解釈可能性を向上させ、シミュレーションおよびマクロ経済応用において、従来のVAR手法やlassoベースのVAR手法を上回る性能を発揮する。

ABSTRACT

Vector autoregression (VAR) is a fundamental tool for modeling the joint dynamics of multivariate time series. However, as the number of component series is increased, the VAR model quickly becomes overparameterized, making reliable estimation difficult and impeding its adoption as a forecasting tool in high dimensional settings. A number of authors have sought to address this issue by incorporating regularized approaches, such as the lasso, that impose sparse or low-rank structures on the estimated coefficient parameters of the VAR. More traditional approaches attempt to address overparameterization by selecting a low lag order, based on the assumption that dynamic dependence among components is short-range. However, these methods typically assume a single, universal lag order that applies across all components, unnecessarily constraining the dynamic relationship between the components and impeding forecast performance. The lasso-based approaches are more flexible but do not incorporate the notion of lag order selection. We propose a new class of regularized VAR models, called hierarchical vector autoregression (HVAR), that embed the notion of lag selection into a convex regularizer. The key convex modeling tool is a group lasso with nested groups which ensure the sparsity pattern of autoregressive lag coefficients honors the ordered structure inherent to VAR. We provide computationally efficient algorithms for solving HVAR problems that can be parallelized across the components. A simulation study shows the improved performance in forecasting and lag order selection over previous approaches, and a macroeconomic application further highlights forecasting improvements as well as the convenient, interpretable output of a HVAR model.

研究の動機と目的

• 正則化にラグ順序選択を組み込むことで、高次元ベクトル自己回帰（VAR）モデルにおける過パrameter化を是正すること。
• 固定ラグ順序のVARモデルの限界を克服すること。固定ラグ順序のVARモデルは、すべての成分にわたって均一なラグ依存性を仮定し、動的関係を制限する。
• ラグ係数の順序構造を保ちつつ、スパースで解釈可能な係数推定を可能にする凸最適化フレームワークを構築すること。
• 構造的スパarsityと効率的かつ並列化可能な計算を組み合わせることで、高次元設定における予測性能を向上させること。
• ラグ順序選択を明示的にモデル化しない既存の正則化VARアプローチよりも、より解釈可能で正確な代替手段を提供すること。

提案手法

• HVARは、ラグ係数に階層的スパarsityを強制するネストされたグループlasso正則化を採用しており、高次のラグが含まれる場合、それより低い次数のラグもすべて含まれていなければならないことを保証する。
• 正則化構造は、VARモデルにおけるラグの自然な順序を反映しており、依存関係の因果的・時系列的順序を保持する。
• 推定問題を凸最適化問題として定式化し、座標降下法やその他の近接勾配法を用いて効率的な計算を可能にする。
• 変数ごとに並列化可能であり、多数の変数を含む高次元時系列に対してもスケーラブルである。
• グループlasso正則化は、各ラグ順序に対応する係数のネストされたグループに適用され、構造的スパarsityを促進する。
• アプローチにより、各変数ごとに自動的にラグ順序選択が可能となり、成分間での非一様な動的依存関係を表現できる。

実験結果

リサーチクエスチョン

• RQ1 明示的にラグ順序選択を組み込んだ正則化VARモデルは、従来のVAR手法やlassoベースのVAR手法に比べ、予測精度で優れるか？
• RQ2 ネストされたグループlassoによる階層的スパarsityの強制は、推定されたVAR係数の解釈可能性と構造を向上させるか？
• RQ3 標準VARモデルが過パrameter化する高次元設定において、HVARはどのように性能を発揮するか？
• RQ4 HVARは、多次元時系列の異なる成分間で非一様なラグ順序をどの程度正確に特定できるか？
• RQ5 HVARフレームワークは、並列化によって大規模データセットに対しても効率的に計算可能か？

主な発見

• シミュレーション研究において、HVARは標準VARおよびlassoベースのVAR手法に比べ、顕著に高い予測精度を達成した。
• モデルは成分間で非一様なラグ順序を正しく特定し、真の背後にある動的依存関係を反映した。
• HVARは、比較手法に比べてより優れたラグ順序選択性能を発揮し、合成データにおいて真のラグ構造を正しく同定した。
• 凸最適化フレームワークにより、変数ごとに並列化可能な効率的なアルゴリズムが実現され、計算が高速化された。
• マクロ経済応用において、HVARは優れた予測性能を発揮するとともに、解釈可能なスパース係数行列を生成した。
• ネストされたグループlasso構造により、ラグ係数のスパarsityパターンが自己回帰項の時系列的順序を尊重した形で保証された。