[论文解读] Autoregressive Models for Variance Matrices: Stationary Inverse Wishart Processes

Emily B. Fox, Mike West|arXiv (Cornell University)|Jul 26, 2011

Financial Risk and Volatility Modeling参考文献 32被引用 13

一句话总结

本文提出了一类基于逆威沙特分布的新型平稳一阶自回归模型，用于方差矩阵，实现了多元随机波动率的灵活且可处理的贝叶斯推断。该方法在MCMC框架内采用自定义的创新值抽样器，实现了高效滤波，并提升了高维时间序列中时变协方差估计的计算可扩展性，如在脑电信号（EEG）数据分析中所展示的。

ABSTRACT

We introduce and explore a new class of stationary time series models for variance matrices based on a constructive definition exploiting inverse Wishart distribution theory. The main class of models explored is a novel class of stationary, first-order autoregressive (AR) processes on the cone of positive semi-definite matrices. Aspects of the theory and structure of these new models for multivariate "volatility" processes are described in detail and exemplified. We then develop approaches to model fitting via Bayesian simulation-based computations, creating a custom filtering method that relies on an efficient innovations sampler. An example is then provided in analysis of a multivariate electroencephalogram (EEG) time series in neurological studies. We conclude by discussing potential further developments of higher-order AR models and a number of connections with prior approaches.

研究动机与目标

• 开发一类理论上可处理且计算上可行的平稳一阶自回归方差矩阵模型。
• 解决现有状态空间模型在多元波动率中的局限性，特别是高阶扩展中的非平稳性和计算不可行性。
• 通过基于前向滤波与后向抽样的新型MCMC抽样策略，实现时变协方差矩阵的贝叶斯推断。
• 在实际应用中展示该模型的实用性，例如在多元脑电信号时间序列分析中的应用。
• 探讨所提出的逆威沙特自回归框架中的理论性质，如平稳性、可逆性以及条件矩。

提出的方法

• 在正半定矩阵的锥上提出一阶自回归过程，使用逆威沙特条件分布。
• 通过状态空间构造定义模型，其中方差矩阵演化为 $ \Sigma_t = \Upsilon_t \Sigma_{t-1} \Upsilon_t^\prime + \Psi_t $，其中 $ \Psi_t \sim \text{IW}(n+q+2, nV) $ 且 $ \Upsilon_t \sim N(F, (nS)^{-1}) $。
• 开发一种基于前向滤波与后向抽样（FFBS）的贝叶斯滤波算法，采用矩阵创新值过程，避免全局拒绝步骤。
• 通过潜变量的数据增强方法，利用逆威沙特族的条件共轭性，实现高效的MCMC抽样。
• 利用标准多元正态分布与逆威沙特分布理论，推导出自回归参数与方差矩阵的条件后验分布。
• 通过推导条件期望与理论矩，将框架扩展至更高阶AR(2)模型，分析当 $ n \to \infty $ 时的渐近行为。

实验结果

研究问题

• RQ1 能否基于逆威沙特分布，在正半定矩阵空间上构建一个平稳的一阶自回归模型？
• RQ2 此类模型如何支持高维时间序列中时变协方差估计的高效贝叶斯计算？
• RQ3 所提出的IW-AR(1)过程的理论性质是什么，例如平稳性、可逆性以及条件矩？
• RQ4 与标准的拒绝法相比，所提出的基于创新值的MCMC抽样器在接受率与可扩展性方面表现如何？
• RQ5 该模型能否扩展至更高阶自回归结构，同时保持理论可处理性与计算可行性？

主要发现

• 所提出的IW-AR(1)过程是平稳的，并展现出理想的理论性质，包括可逆性与定义良好的条件矩。
• 基于创新值的MCMC抽样器避免了全局拒绝方法中常见的接受率指数衰减，从而实现了对长时间序列的可扩展推断。
• 当 $ n \to \infty $ 时，给定 $ \Delta_{t-1} $ 的 $ \Sigma_t $ 的条件期望收敛于 $ \Sigma_{t-1} $、$ S $ 与涉及 $ \Upsilon_{t-1} $ 的校正项的线性组合，确保了长期稳定性。
• 该模型成功捕捉了多元脑电信号数据中的时变波动率动态，展示了在神经时间序列分析中的实际应用价值。
• 理论扩展至AR(2)模型，表明条件期望依赖于 $ \Sigma_{t-1} $ 与 $ \Psi_{t-1} $，其表达式可通过迹运算与矩阵运算获得，具有可处理性。
• 该方法可通过共轭先验与多元正态理论，高效计算自回归参数的边际似然与后验分布。