[論文レビュー] High Dimensional Forecasting via Interpretable Vector Autoregression

William B. Nicholson, Ines Wilms+2 more|arXiv (Cornell University)|Dec 17, 2014

Grey System Theory Applications参考文献 40被引用数 38

ひとこと要約

本稿では、リッジペナルティを用いて数値的安定性を向上させ、行列の明示的逆行列を回避する三角行列ソルバーを用いて、予測のための解釈可能な高次元ベクトル自己回帰（VAR）手法を提案する。リラクストド・リッジ・スクェアド・リグレッション（relaxed least squares）を用いることで、特に大規模VARおよび短い予測期間において優れた予測性能を示す。マクロ経済および金融データセットにおいて、要素ごとのおよび自身・他の系列のHLag手法が一貫して他の手法を上回る。

ABSTRACT

Vector autoregression (VAR) is a fundamental tool for modeling multivariate time series. However, as the number of component series is increased, the VAR model becomes overparameterized. Several authors have addressed this issue by incorporating regularized approaches, such as the lasso in VAR estimation. Traditional approaches address overparameterization by selecting a low lag order, based on the assumption of short range dependence, assuming that a universal lag order applies to all components. Such an approach constrains the relationship between the components and impedes forecast performance. The lasso-based approaches work much better in high-dimensional situations but do not incorporate the notion of lag order selection. We propose a new class of hierarchical lag structures (HLag) that embed the notion of lag selection into a convex regularizer. The key modeling tool is a group lasso with nested groups which guarantees that the sparsity pattern of lag coefficients honors the VAR's ordered structure. The HLag framework offers three structures, which allow for varying levels of flexibility. A simulation study demonstrates improved performance in forecasting and lag order selection over previous approaches, and a macroeconomic application further highlights forecasting improvements as well as HLag's convenient, interpretable output.

研究の動機と目的

• 大規模VARモデルにおける高次元多次元時系列予測のための、数値的に安定かつ解釈可能な手法の開発。
• 条件数が悪い行列を伴う高次元設定における従来の最小二乗法の計算的・数値的課題の解決。
• 標準ベンチマークと比較して、提案手法のマクロ経済および金融データセットにおける予測性能の評価。
• ローリングウインドウ予測におけるラグ選択および係数推定のロバストネスと安定性の評価。
• 為替レートや株価など、予測が困難な系列において、多次元手法が単変量モデルよりも有意義な利点を提供するかの特定。

提案手法

• 設計行列にリッジペナルティを付加したQR分解を用いたリラクストド・リッジ・スクェアド・リグレッションを採用し、行列の明示的逆行列を回避する。
• 設計行列の列ノルムに基づく機械精度に基づくリッジペナルティを導出し、数値的安定性を向上させる。
• 行列の逆行列を計算せずに推定器を算出するための三角行列ソルバーを用い、計算効率を向上させる。
• 全再適合を実行するためのアルゴリズム3を実装し、システム内の各変数について反復的にリラクストド推定器を計算する。
• 168変数のストック・アンド・ウォーソンデータセットを、元のデータセットのコードに従って変換処理を施し、近似的に定常化する。
• 複数のVARサイズおよび予測期間において、ローリングウインドウ予測と出鱗予測誤差の加重平均二乗誤差（wMSFE）評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 高次元VARにおけるリラクストド・リッジ・スクェアド・リグレッションは、行列の明示的逆行列を回避することで、従来手法よりも優れた予測精度を達成できるか？
• RQ2 異なるマクロ経済分類において、提案手法はlasso、FAVAR、およびランダムウォークモデルと比較してどのように性能を発揮するか？
• RQ3 機械精度に基づくリッジペナルティの使用は、条件数が悪いVARにおける数値的安定性および予測性能を向上させるか？
• RQ4 どのようなマクロ経済および金融系列において、多次元手法が単変量モデルよりも顕著な利点を提供するか？
• RQ5 特に高次元性が顕著な大規模VARにおいて、選択されたラグ構造および非ゼロ係数は時間経過とともにどの程度安定しているか？

主な発見

• 168変数のストック・アンド・ウォーソンデータセットにおける13のマクロ経済分類のうち10で、要素ごとのHLag手法が一貫して他の手法を上回り、75%モデル信頼区間（MCS）に含まれる。
• 大規模VARおよび短い予測期間（h=1）において、要素ごとのHLagおよび自身・他のHLag手法はlassoおよびARモデルを顕著に上回り、GDP、インフレーション、金利系列において特に顕著な改善が見られる。
• ラグ重み付きlassoおよびFAVARは、第二の分類群（例：工業生産、賃金、物価）において優れた性能を示し、13の分類のうち6つでMCSに含まれる。
• 為替レート、株価、消費者期待など、予測が困難な系列では、多次元手法が単変量ARまたは標本平均モデルよりも有意義な改善をもたらさない。
• 安定性分析（図21）では、中～大規模VARにおいて、GDP成長、インフレーション（CPIAUSL）、連邦基金金利など重要な変数の非ゼロ係数が一貫して選択され、時間経過に伴う選択パターンが安定している。
• 図19および図20に示すように、最大ラグ順序（pmax=13）および予測期間（h=4およびh=8）の異なる条件下でも、本手法は安定した性能を維持し、大規模VARにおいて一貫してMCSに含まれる。