[论文解读] Conformal prediction interval for dynamic time-series

Xu Chen, Yao Xie|arXiv (Cornell University)|Oct 18, 2020

Gaussian Processes and Bayesian Inference参考文献 32被引用 16

一句话总结

该论文提出了EnbPI，一种无需假设数据交换性的动态时间序列序列预测区间构建方法。通过封装任意自助集成估计器，EnbPI在强混合误差下确保有限样本的近似边际覆盖有效性，同时避免过拟合、数据分割和训练多个模型，为各种回归函数提供可扩展、易于实现的解决方案。

ABSTRACT

We develop a method to construct distribution-free prediction intervals for dynamic time-series, called \Verb|EnbPI| that wraps around any bootstrap ensemble estimator to construct sequential prediction intervals. \Verb|EnbPI| is closely related to the conformal prediction (CP) framework but does not require data exchangeability. Theoretically, these intervals attain finite-sample, extit{approximately valid} marginal coverage for broad classes of regression functions and time-series with strongly mixing stochastic errors. Computationally, \Verb|EnbPI| avoids overfitting and requires neither data-splitting nor training multiple ensemble estimators; it efficiently aggregates bootstrap estimators that have been trained. In general, \Verb|EnbPI| is easy to implement, scalable to producing arbitrarily many prediction intervals sequentially, and well-suited to a wide range of regression functions. We perform extensive real-data analyses to demonstrate its effectiveness.

研究动机与目标

• 开发一种在动态时间序列中构建预测区间的算法，无需依赖预测方法中的数据交换性这一关键假设。
• 确保在广泛类别的回归函数和具有强混合误差的时间序列中，实现有限样本的近似有效边际覆盖。
• 在序列预测中避免过拟合，并消除对数据分割或训练多个集成估计器的需求。
• 构建一个可扩展、计算高效且易于实现的框架，用于生成任意多个序列预测区间。
• 在多种真实世界时间序列数据中验证该方法的有效性。

提出的方法

• EnbPI作为任何自助集成估计器的封装器构建，利用其预测结果形成预测区间。
• 采用一种序列校准程序，可适应时间序列结构，而无需假设观测值的交换性。
• 通过利用强混合随机误差的性质，确保有限样本的近似有效边际覆盖。
• 通过高效聚合预训练的自助估计器避免过拟合，无需重新训练或分割数据。
• EnbPI通过支持按顺序生成任意多个预测区间，保持可扩展性。
• 该方法为分布自由方法，对模型误设具有鲁棒性，适用于广泛的回归函数。

实验结果

研究问题

• RQ1 能否为动态时间序列开发一种无需依赖数据交换性的预测区间方法？
• RQ2 该方法能否在弱依赖假设（如强混合）下实现有限样本的近似有效边际覆盖？
• RQ3 该方法能否避免过拟合并消除对数据分割或训练多个集成模型的需求？
• RQ4 该方法在真实世界时间序列应用中生成序列预测区间时，其可扩展性与实用性如何？
• RQ5 EnbPI能否在各种回归函数和时间序列数据类型中保持可靠性？

主要发现

• EnbPI在具有强混合误差的广泛类别的回归函数和时间序列中实现了有限样本的近似有效边际覆盖。
• 该方法无需数据交换性假设，适用于交换性假设不成立的动态时间序列。
• EnbPI避免了过拟合并消除了对数据分割或训练多个集成估计器的需求，提升了计算效率。
• 该方法具有可扩展性，可高效生成任意多个序列预测区间。
• 大量真实数据分析证实，EnbPI在多样化时间序列应用中均表现有效且稳健。
• 该方法易于实现，适用于序列预测任务中广泛的回归函数。