[論文レビュー] Interpretable Vector AutoRegressions with Exogenous Time Series

Ines Wilms, Sumanta Basu+2 more|arXiv (Cornell University)|Nov 9, 2017

Forecasting Techniques and Applications参考文献 12被引用数 8

ひとこと要約

本稿では、外生変数を伴う大規模なベクトル自己回帰モデル（VARX）に対して、階層的スパース推定器HVARXを提案する。HVARXは、階層的グループlasso正則化を用いて、ラグに基づくスパース性を導入することで、次元削減と自動ラグ選択を同時に実現する。HVARXは、低ラグ次数の解釈性の高いモデルを生成し、lasso型推定器と比較して予測精度が著しく向上する。

ABSTRACT

The Vector AutoRegressive (VAR) model is fundamental to the study of multivariate time series. Although VAR models are intensively investigated by many researchers, practitioners often show more interest in analyzing VARX models that incorporate the impact of unmodeled exogenous variables (X) into the VAR. However, since the parameter space grows quadratically with the number of time series, estimation quickly becomes challenging. While several proposals have been made to sparsely estimate large VAR models, the estimation of large VARX models is under-explored. Moreover, typically these sparse proposals involve a lasso-type penalty and do not incorporate lag selection into the estimation procedure. As a consequence, the resulting models may be difficult to interpret. In this paper, we propose a lag-based hierarchically sparse estimator, called "HVARX", for large VARX models. We illustrate the usefulness of HVARX on a cross-category management marketing application. Our results show how it provides a highly interpretable model, and improves out-of-sample forecast accuracy compared to a lasso-type approach.

研究の動機と目的

• 時系列数の増加に伴いパラメータ空間が二次的に増大する大規模VARXモデルの推定という課題に対処すること。
• VARXモデルにおける高次元推定とラグ次数選択の問題を同時に解決すること。
• 推定プロセスに自動ラグ選択を組み込むことで、モデルの解釈性を向上させること。
• lassoベースのVARX手法と比較して、予測精度を向上させること。
• 内生的および外生的成分を有する多変量時系列に対して、柔軟で単純なモデリングフレームワークを提供すること。

提案手法

• HVARXは、内生的および外生的係数行列に階層的グループlasso正則化を適用し、ラグに基づくスパース性を誘導する。
• VARXモデルの各周辺方程式において、それぞれの内生的および外生的系列に対して個別のラグ次数を推定する。
• 行列形式 Y = ΦZ + BX + E を用い、ΦおよびBを階層的スパース制約の下で推定する。
• 推定器は、ラグレベルでのスパース性を促進するため、階層的グループlasso正則化を適用する。
• ラグ選択を推定プロセスに直接統合し、推定後のモデル選択を回避する。
• 最大ラグ次数を内生的および外生的成分の両方で ⌊1.5√T⌋ = 13 に設定して適用する。

実験結果

リサーチクエスチョン

• RQ1 自動ラグ選択を実行するスパースVARX推定器は、高次元多変量時系列におけるモデルの解釈性を向上させることができるか？
• RQ2 次元削減とラグ次数選択を同時に推定することで、lassoベースのVARX手法と比較して予測精度が向上するか？
• RQ3 推定されたラグ行列は、マーケティング応用において潜在的なカテゴリ間需要効果をどのように明らかにするか？
• RQ4 lasso型推定器と比較して、HVARXは誤った高ラグ係数推定をどの程度低減するか？
• RQ5 情報量基準（BICなど）による評価において、HVARXのモデルフィットはlasso-VARXよりも有意に優れているか？

主な発見

• HVARXはBICが11.08を記録し、lasso-VARXの43.11と比べて顕著に低い値を示し、より優れた標本内モデルフィットを示している。
• HVARXによる内生的販売のラグ行列では、非対角成分の15%しか非ゼロでないことが判明し、カテゴリ間効果がスパースであることを示している。
• 外生的価格およびプロ motion 系列に関しては、それぞれ256個の要素のうち8および7個しか非ゼロでないことが推定され、強いスパース性が確認された。
• HVARXは平均二乗予測誤差（MSFE）を0.391にまで低下させ、lasso-VARXの0.453と比較して統計的に有意（5%水準）に改善された。
• モデルは、カテゴリ内販売効果が支配的であることを示しており、内生的ラグ行列の非ゼロ係数の大部分が対角成分に集中していた。
• 外生的ラグ行列は、製品カテゴリ間の代替効果または親和効果を示しており、遅延反応は主に特定のカテゴリ間関係に見られた。