[论文解读] Interpretable Vector AutoRegressions with Exogenous Time Series

Ines Wilms, Sumanta Basu+2 more|arXiv (Cornell University)|Nov 9, 2017

Forecasting Techniques and Applications参考文献 12被引用 8

一句话总结

该论文提出HVARX，一种基于滞后项的分层稀疏估计器，用于大规模带外生变量的向量自回归模型（VARX），通过分层组lasso惩罚项联合实现降维与自动滞后阶数选择。HVARX生成高度可解释的模型，滞后阶数更低，且相比lasso型估计器显著提升了样本外预测精度。

ABSTRACT

The Vector AutoRegressive (VAR) model is fundamental to the study of multivariate time series. Although VAR models are intensively investigated by many researchers, practitioners often show more interest in analyzing VARX models that incorporate the impact of unmodeled exogenous variables (X) into the VAR. However, since the parameter space grows quadratically with the number of time series, estimation quickly becomes challenging. While several proposals have been made to sparsely estimate large VAR models, the estimation of large VARX models is under-explored. Moreover, typically these sparse proposals involve a lasso-type penalty and do not incorporate lag selection into the estimation procedure. As a consequence, the resulting models may be difficult to interpret. In this paper, we propose a lag-based hierarchically sparse estimator, called "HVARX", for large VARX models. We illustrate the usefulness of HVARX on a cross-category management marketing application. Our results show how it provides a highly interpretable model, and improves out-of-sample forecast accuracy compared to a lasso-type approach.

研究动机与目标

• 解决参数空间随时间序列数量呈平方增长的大规模VARX模型估计问题。
• 同时解决VARX模型中的高维估计与滞后阶数选择问题。
• 通过将自动滞后阶数选择嵌入估计过程，提升模型可解释性。
• 相比基于lasso的VARX方法，提升样本外预测精度。
• 为包含内生与外生分量的多元时间序列提供灵活且简洁的建模框架。

提出的方法

• HVARX对内生与外生系数矩阵施加分层组lasso惩罚，以实现基于滞后阶数的稀疏性。
• 该方法在VARX模型的每个边际方程中，分别为每个内生与外生序列估计独立的滞后阶数。
• 采用矩阵形式 Y = ΦZ + BX + E，其中Φ与B在分层稀疏性约束下进行估计。
• 估计器应用分层组lasso惩罚，以在滞后阶数层级上促进稀疏性，偏好较低的滞后阶数。
• 滞后阶数选择直接嵌入估计过程，避免事后模型选择。
• 最大滞后阶数设定为 ⌊1.5√T⌋ = 13，适用于内生与外生分量。

实验结果

研究问题

• RQ1 一种能实现自动滞后阶数选择的稀疏VARX估计器，是否能提升高维多元时间序列中的模型可解释性？
• RQ2 联合估计降维与滞后阶数选择是否能带来比基于lasso的VARX方法更好的预测精度？
• RQ3 估计的滞后矩阵在营销应用中如何揭示潜在的跨品类需求效应？
• RQ4 与lasso型估计器相比，HVARX在多大程度上减少了虚假的高阶滞后系数估计？
• RQ5 根据BIC等信息准则，HVARX的模型拟合是否显著优于lasso-VARX？

主要发现

• HVARX的BIC为11.08，显著低于lasso-VARX的43.11，表明其在样本内模型拟合更优。
• HVARX估计的内生销量滞后矩阵仅有15%的非对角元素非零，表明跨品类效应稀疏。
• 对于外生价格与促销序列，HVARX分别仅估计出8个与7个非零条目（每类共256个），表明稀疏性显著。
• HVARX将均方预测误差（MSFE）降低至0.391，低于lasso-VARX的0.453，且在5%显著性水平下具有统计显著性。
• 模型显示，同类品类内部的销量效应占主导地位，大多数非零系数位于内生滞后矩阵的对角线上。
• 外生滞后矩阵揭示了品类间替代或亲和效应，且延迟响应主要集中在特定跨品类关系中。