[论文解读] Locally adaptive factor processes for multivariate time series

Daniele Durante, Bruno Scarpa+1 more|arXiv (Cornell University)|Oct 7, 2012

Gaussian Processes and Bayesian Inference参考文献 39被引用 36

一句话总结

本文提出了一种用于多变量时间序列的局部自适应因子（LAF）过程，通过嵌套高斯过程和稀疏线性映射，对均值和协方差矩阵中的时变平滑性进行建模。通过采用微分方程表示法，该方法实现了高效的MCMC和在线推断，在捕捉快速与缓慢变化方面优于固定平滑度模型，且在金融数据上的预测校准和不确定性量化方面表现出显著改进。

ABSTRACT

In modeling multivariate time series, it is important to allow time-varying smoothness in the mean and covariance process. In particular, there may be certain time intervals exhibiting rapid changes and others in which changes are slow. If such time-varying smoothness is not accounted for, one can obtain misleading inferences and predictions, with over-smoothing across erratic time intervals and under-smoothing across times exhibiting slow variation. This can lead to mis-calibration of predictive intervals, which can be substantially too narrow or wide depending on the time. We propose a locally adaptive factor process for characterizing multivariate mean-covariance changes in continuous time, allowing locally varying smoothness in both the mean and covariance matrix. This process is constructed utilizing latent dictionary functions evolving in time through nested Gaussian processes and linearly related to the observed data with a sparse mapping. Using a differential equation representation, we bypass usual computational bottlenecks in obtaining MCMC and online algorithms for approximate Bayesian inference. The performance is assessed in simulations and illustrated in a financial application.

研究动机与目标

• 解决现有模型在捕捉多变量时间序列均值与协方差过程局部变化平滑性方面的局限性。
• 开发一种灵活的非参数贝叶斯模型，以适应动态均值-协方差结构中的快速与缓慢变化。
• 实现高维多变量时间序列中时变平滑性的计算高效MCMC与在线推断。
• 通过避免在波动时期过度平滑和在稳定时期欠平滑，提升预测准确性和不确定性校准。
• 通过结构化的分层构造处理缺失数据并保持协方差矩阵的正定性。

提出的方法

• LAF过程利用通过嵌套高斯过程演化的时间潜变量字典函数，对均值与协方差中的时变平滑性进行建模。
• 观测数据通过稀疏映射矩阵Θ与潜变量过程线性关联，确保降维与计算效率。
• 该模型采用状态空间过程的微分方程表示，以绕过MCMC和在线推断中的计算瓶颈。
• 通过全局与局部超参数对因子载荷施加分层收缩先验，以诱导稀疏性与自适应性。
• 后验推断通过吉布斯采样器实现，通过共轭后验分布迭代更新潜变量状态、因子载荷与超参数。
• 通过将模型参数固定在其后验均值，并利用模拟平滑法，开发了在线更新算法，以顺序更新潜变量状态与预测分布。

实验结果

研究问题

• RQ1 贝叶斯非参数模型是否能比固定平滑度模型更有效地捕捉多变量时间序列均值与协方差的局部变化平滑性？
• RQ2 如何在保持协方差矩阵正定性的前提下，对均值-协方差过程中的时变平滑性进行建模？
• RQ3 哪些计算策略能够实现高维多变量时间序列中复杂动态依赖关系的可扩展MCMC与在线推断？
• RQ4 局部自适应平滑在多大程度上能改善波动性金融时间序列中的预测区间校准与风险预测？
• RQ5 在存在缺失数据与非平稳波动模式的情况下，该模型表现如何？

主要发现

• LAF过程成功捕捉了均值与协方差中的局部时变平滑性，避免了在波动期间的过度平滑与在稳定期间的欠平滑。
• 该模型改善了预测区间校准，使不同波动率制度下的预测区间既不太窄也不太宽。
• 微分方程表示法实现了高效的MCMC与在线推断，与标准MCMC方法相比显著降低了计算成本。
• 采用共轭先验的吉布斯采样器确保了即使在中等规模p下，后验计算也稳定且可处理。
• 在线更新算法通过利用超参数的后验均值与模拟平滑法，顺序更新潜变量状态，从而保持了预测准确性。
• 基于DAX30平方对数收益的实证结果表明，LAF模型在捕捉动态波动率与共动模式方面优于固定平滑度的替代模型。