[论文解读] Sparse-GEV: Sparse Latent Space Model for Multivariate Extreme Value Time Serie Modeling

Yan Liu, Taha Bahadori+1 more|arXiv (Cornell University)|Jun 18, 2012

Forecasting Techniques and Applications被引用 10

一句话总结

本文提出Sparse-GEV，一种基于广义极值（GEV）理论的稀疏潜在空间模型，用于捕捉多变量极端值时间序列中的稀疏时间依赖性。通过结合极值理论与诱导稀疏性的正则化方法，该模型在合成数据、气候数据和Twitter数据集上，相较于Granger因果关系、copula方法和传递熵等最先进方法，显著提升了预测准确性。

ABSTRACT

In many applications of time series models, such as climate analysis and social media analysis, we are often interested in extreme events, such as heatwave, wind gust, and burst of topics. These time series data usually exhibit a heavy-tailed distribution rather than a Gaussian distribution. This poses great challenges to existing approaches due to the significantly different assumptions on the data distributions and the lack of sufficient past data on extreme events. In this paper, we propose the Sparse-GEV model, a latent state model based on the theory of extreme value modeling to automatically learn sparse temporal dependence and make predictions. Our model is theoretically significant because it is among the first models to learn sparse temporal dependencies among multivariate extreme value time series. We demonstrate the superior performance of our algorithm to the state-of-art methods, including Granger causality, copula approach, and transfer entropy, on one synthetic dataset, one climate dataset and two Twitter datasets.

研究动机与目标

• 解决具有重尾分布和稀疏历史极端事件的多变量极端值时间序列建模挑战。
• 学习高维时间序列数据中极端事件之间的稀疏时间依赖性。
• 开发一种理论基础坚实的模型，将极值理论与潜在变量建模相结合，以提升预测性能。
• 在极端事件预测中超越现有方法，如Granger因果关系、基于copula的方法以及传递熵。
• 在气候科学与社交媒体趋势检测等应用中，实现对罕见但具有重大影响事件的稳健建模。

提出的方法

• 该模型采用潜在状态空间框架，假设极端值服从广义极值（GEV）分布。
• 在转移矩阵与观测矩阵上引入诱导稀疏性的先验分布，以识别极端事件之间的关键时间依赖性。
• 采用变分贝叶斯推断方法训练模型，以近似潜在状态的后验分布。
• 利用极值理论建模多变量时间序列的尾部分布行为，确保与极端事件数据的统计一致性。
• 稀疏结构可自动识别极端事件中相关的时间依赖性与跨变量依赖性。
• 该框架支持多变量时间序列中极端事件的推理与预测。

实验结果

研究问题

• RQ1 潜在状态模型能否有效捕捉多变量极端值时间序列中的稀疏时间依赖性？
• RQ2 在极端事件预测中，所提出的Sparse-GEV模型相较于Granger因果关系、copula方法与传递熵的预测性能如何？
• RQ3 在转移矩阵与观测矩阵中引入稀疏性，在多大程度上提升了极端事件建模的可解释性与准确性？
• RQ4 该模型能否在气候与社交媒体数据等多样化领域中实现泛化，这些领域具有重尾极端事件？
• RQ5 将极值理论整合到潜在变量框架中，是否能带来比标准高斯模型更优的尾部分布预测性能？

主要发现

• 在合成数据集上，Sparse-GEV在极端事件预测方面显著优于Granger因果关系、基于copula的模型以及传递熵。
• 在气候数据集上，该模型在极端气温与风速事件的预测准确性上优于基线方法。
• 在两个Twitter数据集中，Sparse-GEV成功识别并预测了趋势话题的爆发，F1得分优于最先进方法。
• 该模型的稀疏性诱导机制有效识别出少量关键的时间依赖性与跨变量依赖性，显著提升了可解释性。
• 将GEV理论整合到潜在变量框架中，相比非极值模型，实现了更准确的尾部概率估计。
• 实证结果证实，该模型在包括重尾与罕见极端事件在内的多种数据类型中均表现出稳健性。