[论文解读] Sequential Predictive Conformal Inference for Time Series

Xu Chen, Yao Xie|arXiv (Cornell University)|Dec 7, 2022

Statistical Methods and Inference被引用 12

一句话总结

本文提出顺序预测校准推断（SPCI），一种无需分布假设的方法，通过使用分位数回归建模预测残差的条件分位数，在时间序列中构建自适应预测区间。通过利用残差中的时间依赖性并随时间动态调整分位数估计，SPCI 在真实和模拟数据上均显著缩小了区间宽度，同时保持了有效的条件覆盖，其区间宽度和覆盖稳定性均优于现有方法。

ABSTRACT

We present a new distribution-free conformal prediction algorithm for sequential data (e.g., time series), called the extit{sequential predictive conformal inference} ( exttt{SPCI}). We specifically account for the nature that time series data are non-exchangeable, and thus many existing conformal prediction algorithms are not applicable. The main idea is to adaptively re-estimate the conditional quantile of non-conformity scores (e.g., prediction residuals), upon exploiting the temporal dependence among them. More precisely, we cast the problem of conformal prediction interval as predicting the quantile of a future residual, given a user-specified point prediction algorithm. Theoretically, we establish asymptotic valid conditional coverage upon extending consistency analyses in quantile regression. Using simulation and real-data experiments, we demonstrate a significant reduction in interval width of exttt{SPCI} compared to other existing methods under the desired empirical coverage.

研究动机与目标

• 解决时间序列中因交换性假设不成立而导致的不确定性量化挑战，需要为依赖数据开发新的校准预测方法。
• 开发一种顺序校准预测框架，利用历史残差的反馈以提升区间的自适应性和覆盖能力。
• 在时间依赖条件下实现渐近有效的条件覆盖，将分位数回归的一致性结果扩展至非交换时间序列。
• 在不牺牲覆盖能力的前提下减小预测区间宽度，尤其在能源和金融等高风险应用中。
• 实现多步预测区间构建，以反映预测时域增加带来的不确定性。

提出的方法

• SPCI 将预测区间构建问题转化为对未来残差的条件分位数估计，以历史残差作为协变量。
• 采用分位数回归（如随机森林分位数回归）对随时间变化的残差条件分布进行建模。
• 该方法在每个时间步自适应地重新估计残差分位数，结合近期预测误差以反映当前不确定性。
• 使用历史残差的滚动窗口训练分位数回归模型，实现时间自适应的区间校准。
• 对于多步预测，SPCI 依次在滞后数据上应用该方法，构建 S 个同时的区间，以捕捉联合不确定性。
• 该框架为模型无关且无需分布假设，可与任意点预测模型（如随机森林、神经网络）兼容。

实验结果

研究问题

• RQ1 在时间依赖下能否构建有效的时间序列预测区间，其中标准校准预测因非交换性而失效？
• RQ2 如何利用历史残差的反馈来提升预测区间的自适应性和精确度？
• RQ3 通过时间自适应分位数回归建模残差的条件分位数，是否能实现更窄的区间同时保持条件覆盖？
• RQ4 与现有顺序校准方法相比，SPCI 在多步预测中的表现如何？
• RQ5 SPCI 是否能在非独立同分布数据下保持有效覆盖，同时实现比 EnbPI 或 NEX-CP 更窄的区间？

主要发现

• SPCI 通过将分位数回归的一致性结果扩展至非交换残差，实现了对依赖时间序列的渐近有效条件覆盖。
• 在真实时间序列（太阳能、电力、风速）上，SPCI 的预测区间显著窄于 EnbPI 和 NEX-CP，尤其在风速数据上表现突出。
• 在滚动窗口评估中，SPCI 即使在其他方法（如 EnbPI）失效时仍能维持接近 100% 的覆盖，展现出对数据动态变化的鲁棒性。
• SPCI 区间具有自适应性：随着预测时域增加而变宽，反映不确定性增长，而 EnbPI 则产生过度保守或不增加的区间宽度。
• 在多步预测中，SPCI 区间紧密跟随实际数据轨迹，并随预测时域增加而变宽，展现出更高的自适应性和现实感。
• 在股票收益率数据上，SPCI 维持了有效的 90% 覆盖，且区间比 AdaptiveCI 更窄，证实其在高方差、依赖性环境下的优越性。