[论文解读] Application of data compression techniques to time series forecasting

K. S. Chirikhin, Boris Ryabko|arXiv (Cornell University)|Apr 8, 2019

Computational Physics and Python Applications参考文献 13被引用 5

一句话总结

本文提出了一种新颖的时间序列预测方法，通过利用标准无损数据压缩算法（如 zlib、bzip2 和 PPM）作为预测模型，借助数据压缩与预测之间的理论联系。通过基于压缩的概率估计以及多种压缩器的集成加权，该方法在 T-index 和 Kp-index 系列的一步预测中实现了具有竞争力的预测精度，优于澳大利亚气象局和 SWPC 等权威机构的预测结果。

ABSTRACT

In this study we show that standard well-known file compression programs (zlib, bzip2, etc.) are able to forecast real-world time series data well. The strength of our approach is its ability to use a set of data compression algorithms and "automatically" choose the best one of them during the process of forecasting. Besides, modern data-compressors are able to find many kinds of latent regularities using some methods of artificial intelligence (for example, some data-compressors are based on finding the smallest formal grammar that describes the time series). Thus, our approach makes it possible to apply some particular methods of artificial intelligence for time-series forecasting. As examples of the application of the proposed method, we made forecasts for the monthly T-index and the Kp-index time series using standard compressors. In both cases, we used the Mean Absolute Error (MAE) as an accuracy measure. For the monthly T-index time series, we made 18 forecasts beyond the available data for each month since January 2011 to July 2017. We show that, in comparison with the forecasts made by the Australian Bureau of Meteorology, our method more accurately predicts one value ahead. The Kp-index time series consists of 3-hour values ranging from 0 to 9. For each day from February 4, 2018 to March 28, 2018, we made forecasts for 24 values ahead. We compared our forecasts with the forecasts made by the Space Weather Prediction Center (SWPC). The results showed that the accuracy of our method is similar to the accuracy of the SWPC's method. As in the previous case, we also obtained more accurate one-step forecasts.

研究动机与目标

• 探究广泛可用的标准数据压缩程序是否可作为有效的时间序列预测工具。
• 探索基于压缩的概率估计在实值和整数值时间序列中的可行性。
• 评估集成压缩方法在真实地球物理时间序列中相对于现有预测基准的性能表现。
• 证明现代压缩器隐式应用类似人工智能的启发式规则以检测潜在规律，使其适用于预测任务。

提出的方法

• 使用基于压缩的概率估计公式：$ P_{\text{comp}}(x_{t+1}=a|x_{1}^{t}) = \frac{2^{-|\phi(x_{1}^{t}a)|}}{\sum_{b\in\mathcal{A}} 2^{-|\phi(x_{1}^{t}b)|}} $，其中 $ \phi $ 为压缩函数。
• 采用加权集成压缩器（zlib、PPM、bzip2）的方法，使用公式 $ P_{\phi}(x_{t+1}=a|x_{1}^{t}) = \frac{\sum_{i=1}^{k} \omega_i 2^{-|\phi_i(x_{1}^{t}a)|}}{\sum_{b\in\mathcal{A}} \sum_{i=1}^{k} \omega_i 2^{-|\phi_i(x_{1}^{t}b)|}} $，其中 $ \sum \omega_i = 1 $，实现对最佳性能压缩器的动态选择。
• 通过 STL 分解对时间序列进行预处理，以去除季节性趋势，进行平滑处理、一阶差分，并将数据量化为 2–16 个区间，以处理实值数据。
• 将长预测时序拆分为较短的子时序（例如，对 T-index 使用 6 次 3 步预测，对 Kp-index 使用 8 次 3 步预测），以提升预测精度。
• 在计算 MAE 前，将实值预测结果四舍五入为整数，以确保与整数值目标序列的兼容性。

实验结果

研究问题

• RQ1 标准的现成数据压缩工具（如 zlib、bzip2、PPM）是否可有效用于时间序列预测？
• RQ2 通过加权集成选择方法组合多个压缩算法，是否能提升预测精度，优于单一压缩器？
• RQ3 基于压缩的预测方法在真实地球物理时间序列（如 T-index 和 Kp-index）的 MAE 衡量下，与现有方法相比表现如何？
• RQ4 基于压缩的模型是否能在一步预测中超越机构级预测（如 SWPC 或澳大利亚气象局）？

主要发现

• 对于月度 T-index 系列（2011 年 1 月至 2017 年 7 月），基于压缩的方法在一步预测中实现了比澳大利亚气象局更低的平均绝对误差（MAE），分别为 11.3 和 12.2。
• 使用 zlib + PPM + rp 集成的方法，在预测时序 1–4 的平均 MAE 为 15.0，1–8 时为 18.3，1–18 时为 23.1，优于 SWS 的预测结果，尤其在一步预测中表现更优。
• 对于 Kp-index 系列（2018 年 2 月至 2018 年 3 月），该方法使用 zlib 的一步 MAE 为 0.70，使用 PPM 的为 0.77，而 SWPC 的结果为 1.11，表明在第一步预测中精度更高。
• zlib、PPM 和 rp 的集成方法在一步预测中实现了 0.77 的 MAE，显著低于 SWPC 的 1.11，证实了其在短期预测中的性能优势。
• 该基于压缩的方法在所有预测时序中均保持了具有竞争力的性能，其 MAE 值在 1–3 步预测中与 SWPC 相当或更优。
• 结果表明，现代压缩器通过类似人工智能的启发式规则隐式检测复杂的时间模式，从而在无需显式建模的情况下实现有效的预测。