[论文解读] Estimation of Causal Invertible VARMA Models

Anindya Roy, Tucker McElroy+1 more|arXiv (Cornell University)|Jun 18, 2014

Random Matrices and Applications参考文献 34被引用 3

一句话总结

本文提出了一种新型重参数化方法，通过使用正定矩阵和正交矩阵对多变量因果可逆VARMA模型进行重参数化，以参数化分块托普利茨矩阵，从而在严格因果性和可逆性约束下实现精确的似然估计——此前由于参数空间几何结构复杂而难以实现。主要贡献在于对舒尔稳定矩阵多项式进行了数学上严谨的表征，确保了预测和动力系统分析中的稳定估计。

ABSTRACT

We present a re-parameterization of vector autoregressive moving average (VARMA) models that allows estimation of parameters under the constraints of causality and invertibility. The parameter constraints associated with a causal invertible VARMA model are highly complex. Currently there are no procedures that can maintain the constraints in the estimated VARMA process, except in the special case of a vector autoregression (VAR), where some moment based causal estimators are available. Even in the VAR case, the available likelihood based estimators are not causal. The maximum likelihood estimator based on the full likelihood that does not condition on the initial observations by definition satisfies the causal invertible constraints but optimization of the likelihood under the complex constraints is an intractable problem. The commonly used Bayesian procedure for VAR often has posterior mass outside the causal set because the priors are not constrained to the causal set of parameters. We provide an exact mathematical solution to this problem. An $m$-variate VARMA$(p, q)$ process contains $(p+ q) m^2 + \binom{m+1}{2}$ parameters, which must be constrained to a subset of Euclidean space in order to guarantee causality and invertibility. This space is implicitly described in this paper, through the device of parameterizing the entire space of block Toeplitz matrices in terms of positive definite matrices and orthogonal matrices. The parameterization has connection to Schur- stability of polynomials and the associated Stein transformation that are often used in dynamical systems literature. As an important by-product of our investigation, we generalize a classical result in dynamical systems to provide a characterization of Schur stable matrix polynomials.

研究动机与目标

• 为解决一般VARMA模型中缺乏维持因果性和可逆性的估计方法的问题，而这些特性对于稳定长期预测至关重要。
• 解决在多变量时间序列模型中，由于因果性和可逆性隐式约束导致的完整似然函数优化不可行的问题。
• 将经典舒尔稳定性结果推广至矩阵多项式，为VARMA过程提供稳定参数空间表示。
• 开发一种重参数化方法，使基于似然的估计器能保持在因果-可逆参数空间内，克服标准MLE和贝叶斯方法的局限性。
• 为具有保证稳定性的VARMA模型估计提供计算上可行的框架，尤其适用于宏观经济学和动力系统领域。

提出的方法

• 使用正定矩阵和正交矩阵对VARMA模型进行重参数化，以表示分块托普利茨协方差矩阵结构。
• 利用施泰因变换和行列式方程，将系数矩阵A与协方差矩阵关联，确保舒尔稳定性。
• 通过涉及 $ C_t = U(0) - \xi_t' \underline{U}_{t-1}^{-1} \xi_t $ 的递推公式表征参数空间，确保每一步的正定性。
• 建立矩阵多项式 $ A(z) $ 的舒尔稳定性与由此导出的协方差块 $ C_t $ 正定性之间的等价关系。
• 通过确保 $ \underline{U}_k $ 为正定且 $ C_k > 0 $，构建稳定参数化，从而蕴含相伴矩阵的所有特征值满足 $ |\lambda| < 1 $。
• 利用分块托普利茨结构，将因果性和可逆性约束直接嵌入参数空间，避免在复杂流形上进行数值优化。

实验结果

研究问题

• RQ1 如何对因果可逆VARMA模型的空间进行参数化，以在估计过程中保证稳定性？
• RQ2 哪些数学条件可确保VARMA模型既具有因果性又具有可逆性，且这些条件如何嵌入基于似然的估计框架中？
• RQ3 能否将经典舒尔稳定性结果从标量多项式推广至多变量时间序列模型中的矩阵多项式？
• RQ4 为何标准的基于似然和贝叶斯的估计器无法保持因果性和可逆性，以及如何纠正这一问题？
• RQ5 分块托普利茨矩阵和正交变换在构建VARMA模型稳定且受约束的参数空间中起什么作用？

主要发现

• 本文建立了稳定VARMA模型与正定分块托普利茨矩阵之间的一一对应关系，通过嵌入因果性和可逆性约束的重参数化实现。
• 证明了矩阵多项式 $ A(z) $ 的舒尔稳定性等价于由协方差结构递推导出的序列 $ C_t $ 的正定性。
• 作者通过表征舒尔稳定矩阵多项式为序列 $ C_0 > C_1 > \cdots > C_k > 0 $ 的正性，推广了动力系统中一个经典结果。
• 重参数化确保了基于完整似然的极大似然估计器始终位于因果-可逆集合内，解决了长期存在的估计难题。
• 该方法实现了保证稳定的基于似然的推断，克服了VARMA模型中条件似然和无约束MLE的局限性。
• 该框架通过确保长期稳定性和可解释性，支持在多变量时间序列中实现改进的预测与系统辨识。