[论文解读] Sparse Identification and Estimation of High-Dimensional Vector AutoRegressive Moving Averages

Ines Wilms, Sumanta Basu+2 more|arXiv (Cornell University)|Jul 28, 2017

Monetary Policy and Economic Impact被引用 2

一句话总结

本文提出了一种基于稀疏诱导凸正则化器的两阶段稀疏识别与估计方法，用于高维向量自回归滑动平均（VARMA）模型。该方法实现了对无限阶VAR模型的一致估计，并在宏观经济学、需求预测和波动率预测等应用中，相较于VAR模型展现出更优的预测精度。

ABSTRACT

The Vector AutoRegressive Moving Average (VARMA) model is fundamental to the study of multivariate time series. However, estimation becomes challenging in even relatively low-dimensional VARMA models. With growing interest in the simultaneous modeling of large numbers of marginal time series, many authors have abandoned the VARMA model in favor of the Vector AutoRegressive (VAR) model, which is seen as a simpler alternative, both in theory and practice, in this high-dimensional context. However, even very simple VARMA models can be very complicated to represent using only VAR modeling. In this paper, we develop a new approach to VARMA identification and propose a two-phase method for estimation. Our identification and estimation strategies are linked in their use of sparsity-inducing convex regularizers, which favor VARMA models that have only a small number of nonzero parameters. We establish sufficient conditions for consistency of sparse infinite-order VAR estimates in high dimensions, a key ingredient for our two-phase sparse VARMA estimation strategy. The proposed framework has good estimation and forecast accuracy under numerous simulation settings. We illustrate the forecast performance of the sparse VARMA models for several application domains, including macro-economic forecasting, demand forecasting, and volatility forecasting. The proposed sparse VARMA estimator gives parsimonious forecast models that lead to important gains in relative forecast accuracy.

研究动机与目标

• 解决高维VARMA模型估计的挑战，相较于VAR模型，VARMA模型更为复杂且计算成本更高。
• 克服在高维设置下仅使用VAR模型的局限性，因为VARMA模型可能更简洁且更准确。
• 开发一种两阶段估计策略，利用稀疏性高效识别并估计高维VARMA模型。
• 建立稀疏无限阶VAR估计的一致性理论，为所提出的两阶段方法提供关键理论基础。
• 在宏观经济学、需求预测和波动率预测等多样化领域，展示稀疏VARMA模型在预测精度上的提升。

提出的方法

• 在识别和估计两个阶段均使用稀疏诱导凸正则化器（如L1型惩罚），以促进仅包含少量非零参数的模型。
• 实施两阶段方法：首先通过正则化估计识别稀疏VARMA结构；其次利用一致的无限阶VAR近似来优化参数估计。
• 建立高维设置下稀疏无限阶VAR估计一致性的充分条件，确保估计框架的理论有效性。
• 利用稀疏VARMA模型与高维VAR表示之间的联系，实现高效计算和模型选择。
• 通过模拟研究和来自宏观经济、需求及波动率序列的真实数据，将该框架应用于实际预测任务。

实验结果

研究问题

• RQ1 稀疏正则化能否有效识别仅含少量非零参数的高维VARMA模型？
• RQ2 在高维设置下，无限阶VAR表示的估计在何种条件下具有一致性？
• RQ3 在高维时间序列中，稀疏VARMA模型的预测精度与标准VAR模型相比如何？
• RQ4 所提出的两阶段方法能否在多样化应用领域中同时实现模型简洁性与高预测精度？
• RQ5 当真实模型为高维且稀疏时，稀疏VARMA估计的理论保证是什么？

主要发现

• 在充分条件下，所提出的两阶段稀疏VARMA估计方法可实现对无限阶VAR的一致估计，为高维VARMA建模提供了理论基础。
• 稀疏VARMA模型生成了简洁的预测模型，在多种模拟设置下，其相对预测精度显著优于标准VAR模型。
• 该方法在宏观经济学预测、需求预测和波动率预测中均表现出强劲的预测性能，凸显其实际应用价值。
• 稀疏诱导正则化器能有效识别非零参数数量较少的VARMA模型，从而在高维设置下实现高效估计。
• 即使简单的VARMA模型，仅用VAR模型表示时也可能变得极为复杂，这凸显了所提出的稀疏VARMA框架的价值。