[论文解读] A Better Alternative to Piecewise Linear Time Series Segmentation

Daniel Lemire|ArXiv.org|May 24, 2006

Time Series Analysis and Forecasting参考文献 34被引用 11

一句话总结

该论文提出了一种自适应时间序列分割模型，通过在每个分段中动态选择恒定或线性多项式拟合，以在不增加模型复杂度或计算成本的前提下降低拟合误差。与传统分段线性分割不同，后者因强制使用线性拟合而对非线性趋势产生过拟合，该方法通过在每个区间内允许模型灵活性来提高准确性，在合成数据和真实世界数据上实现了最高13%的误差降低，同时保持线性时间性能。

ABSTRACT

Time series are difficult to monitor, summarize and predict. Segmentation organizes time series into few intervals having uniform characteristics (flatness, linearity, modality, monotonicity and so on). For scalability, we require fast linear time algorithms. The popular piecewise linear model can determine where the data goes up or down and at what rate. Unfortunately, when the data does not follow a linear model, the computation of the local slope creates overfitting. We propose an adaptive time series model where the polynomial degree of each interval vary (constant, linear and so on). Given a number of regressors, the cost of each interval is its polynomial degree: constant intervals cost 1 regressor, linear intervals cost 2 regressors, and so on. Our goal is to minimize the Euclidean (l_2) error for a given model complexity. Experimentally, we investigate the model where intervals can be either constant or linear. Over synthetic random walks, historical stock market prices, and electrocardiograms, the adaptive model provides a more accurate segmentation than the piecewise linear model without increasing the cross-validation error or the running time, while providing a richer vocabulary to applications. Implementation issues, such as numerical stability and real-world performance, are discussed.

研究动机与目标

• 解决分段线性时间序列分割中的过拟合问题，因为非线性趋势被不准确地建模为线性。
• 通过允许每个区间的模型选择（恒定或线性）而非强制使用单一模型类型，提高分割准确性。
• 保持线性时间性能和数值稳定性，以实现对大规模数据集的可扩展性。
• 与标准分段线性和恒定模型相比，降低拟合误差和交叉验证误差。
• 为需要识别平坦、上升或下降趋势的应用提供更丰富、更具语义意义的分割词汇。

提出的方法

• 该方法采用自顶向下的启发式策略，通过最小化每个候选分割点的l2误差来评估分段边界，并根据哪种拟合方式能更显著降低误差来选择恒定或线性拟合。
• 模型复杂度通过总回归器数量衡量：恒定拟合为1个，线性区间为2个，总和受给定k值的约束。
• 通过O(n)时间预计算缓冲区，实现在O(nk)时间内完成自顶向下分割，保持线性时间性能。
• 最优分割的动态规划解法运行时间为O(n²k)，作为比较基准。
• 自适应模型允许区间为恒定或线性，避免了检测平坦区域所需的后处理。
• 通过仔细实现最小二乘拟合和缓冲区计算，确保数值稳定性。

实验结果

研究问题

• RQ1 混合模型分割策略（恒定与线性区间结合）是否能相比统一的分段线性模型降低拟合误差？
• RQ2 自适应模型在降低拟合误差的同时，是否保持或改善了交叉验证误差？
• RQ3 自适应分割方法在大规模数据下是否具有计算可行性，特别是线性时间性能？
• RQ4 与标准分段线性和恒定模型相比，自适应模型在真实世界数据（如心电图和股票价格）上的表现如何？
• RQ5 自适应模型是否能在无需后处理的情况下更好识别定性上不同的行为（如平坦与上升）？

主要发现

• 在合成的随机游走数据上，自适应模型在相同模型复杂度下相比分段线性模型将拟合误差降低了13%。
• 在心电图数据上，对于k=10，自适应模型相比分段线性模型实现了13%的平均拟合误差降低，且交叉验证误差未增加。
• 对于k=10，自适应模型相比分段线性模型在留一法交叉验证中平均降低了10%的误差。
• 在白噪声数据上，自适应模型相比分段线性模型在拟合误差上实现了平均5%的提升。
• 自适应模型的最优动态规划解法运行时间为O(n²k)，对中等规模数据集可行，但对超大规模数据集不切实际。
• 尽管最优解存在，自适应自顶向下启发式方法在保持线性时间的同时实现了接近最优的性能，在小k值下优于标准启发式方法。