[论文解读] Copula Conformal Prediction for Multi-step Time Series Forecasting

Sophia Sun, Rose Yu|arXiv (Cornell University)|Dec 6, 2022

Neural Networks and Applications被引用 4

一句话总结

该论文提出了一种名为 CopulaCPTS 的新型分位数预测方法，用于多变量、多步时间序列预测，通过使用对称函数（copulas）建模不确定性中的时间依赖性，确保有限样本有效性，同时在四个真实世界和合成数据集上生成的预测区间显著更尖锐且更校准，优于当前最先进的基线方法。

ABSTRACT

Accurate uncertainty measurement is a key step to building robust and reliable machine learning systems. Conformal prediction is a distribution-free uncertainty quantification algorithm popular for its ease of implementation, statistical coverage guarantees, and versatility for underlying forecasters. However, existing conformal prediction algorithms for time series are limited to single-step prediction without considering the temporal dependency. In this paper, we propose a Copula Conformal Prediction algorithm for multivariate, multi-step Time Series forecasting, CopulaCPTS. We prove that CopulaCPTS has finite sample validity guarantee. On several synthetic and real-world multivariate time series datasets, we show that CopulaCPTS produces more calibrated and sharp confidence intervals for multi-step prediction tasks than existing techniques.

研究动机与目标

• 解决多步时间序列预测中缺乏有效且高效的不确定性量化方法，且该方法能考虑时间依赖性。
• 开发一种无需分布假设的分位数预测框架，确保多变量、多步预测的有限样本有效性。
• 通过使用对称函数对预测时间步的联合不确定性进行建模，提升置信区域的校准性和效率。
• 使分位数预测能够应用于不同长度的时间序列，并提供统计保证。
• 在覆盖度和区间尖锐性方面，优于现有的分位数和非分位数不确定性量化方法。

提出的方法

• CopulaCPTS 使用对称函数对多步预测输出的联合依赖结构进行建模，捕捉时间步之间的时序相关性。
• 在联合预测分布上应用归纳分位数预测，确保在交换性假设下的有限样本有效性。
• 该方法在校准数据上估计一个对称函数模型，以表示预测误差在时间步上的多变量依赖性。
• 基于对称函数估计的联合概率，构建非一致性评分。
• 通过在每个时间步上对自适应显著性水平进行随机梯度下降，优化置信区域。
• 通过学习灵活的对称函数结构，支持可变长度的预测，实现对不同预测范围的泛化。

实验结果

研究问题

• RQ1 一种分位数预测方法是否能在建模多步时间序列预测中的时间依赖性的同时，保持有限样本有效性？
• RQ2 通过使用对称函数联合建模预测不确定性，对预测区间的校准性和效率有何影响？
• RQ3 CopulaCPTS 是否能在区间尖锐性和覆盖准确度方面优于现有的分位数和非分位数不确定性量化方法？
• RQ4 该方法在具有复杂时间依赖性的多变量、长预测范围预测任务中表现如何？
• RQ5 在建模高维不确定性区域时，数值稳定性和性能之间的权衡是什么？

主要发现

• 在粒子模拟数据集上（σ=0.01），CopulaCPTS 实现了 91.3% 的覆盖度（±2.1）和 1.08 的区域面积（±0.36），显著优于 L2-Conformal（88.5% 覆盖度，7.21 区域面积）和 Direct Gaussian（11.9% 覆盖度，0.07 区域面积）。
• 在 COVID-19 数据集上，CopulaCPTS 实现了 90.5% 的覆盖度（±1.6），区域面积为 408.6（±65.8），在效率方面显著优于 EllipsoidalCP（231.5 区域面积），同时保持了相近的覆盖度。
• 在 Argoverse 轨迹预测任务中，CopulaCPTS 实现了 90.2% 的覆盖度（±0.1），区域面积为 126.8（±12.2），在真实世界运动预测任务中表现出色。
• 该方法在交换性假设下保持了有限样本有效性的保证，论文中已理论证明。
• 在时间步上对 αj 进行自适应优化的随机梯度下降方法，其性能与固定 αj 方法相当，表明对超参数调优具有鲁棒性。
• 在高维设置下，CopulaCPTS 的效率优于 EllipsoidalCP，但当相关性较强且维度适中时，EllipsoidalCP 表现更优。