[论文解读] Time Series Analysis via Matrix Estimation.

Anish Agarwal, Muhammad Jehangir Amjad+2 more|arXiv (Cornell University)|Feb 25, 2018

Time Series Analysis and Forecasting参考文献 50被引用 6

一句话总结

本文提出了一种基于矩阵估计的方法，用于在存在噪声和缺失数据的情况下进行时间序列插补与预测。通过将时间序列转换为矩阵，应用奇异值阈值化（SVT）以同时恢复缺失和噪声数据，再利用线性回归进行预测，该方法能有效处理有限和的谐波、亚线性趋势、线性时不变（LTI）系统及其混合情况——即使在缺乏模型知识的情况下，其性能也优于标准工具。

ABSTRACT

We consider the task of interpolating and forecasting a time series in the presence of noise and missing data. As the main contribution of this work, we introduce an algorithm that transforms the observed time series into a matrix, utilizes singular value thresholding to simultaneously recover missing values and de-noise observed entries, and performs linear regression to make predictions. We argue that this method provides meaningful imputation and forecasting for a large class of models: finite sum of harmonics (which approximate stationary processes), non-stationary sublinear trends, Linear Time-Invariant (LTI) systems, and their additive mixtures. In general, our algorithm recovers the hidden state of dynamics based on its noisy observations, like that of a Hidden Markov Model (HMM), provided the dynamics obey the above stated models. We demonstrate on synthetic and real-world datasets that our algorithm outperforms standard software packages not only in the presence of significantly missing data with high levels of noise, but also when the packages are given the underlying model while our algorithm remains oblivious. This is in line with the finite sample analysis for these model classes.

研究动机与目标

• 解决在数据存在噪声和部分缺失时的时间序列插补与预测挑战。
• 开发一种与模型无关的方法，无需事先了解数据生成过程即可恢复潜在动态。
• 在高噪声、高缺失率场景下，性能优于标准软件包。
• 提供一个统一框架，适用于平稳过程、非平稳趋势、LTI系统及其混合情况。
• 通过利用时间序列数据中的低秩结构，实现准确的插补与预测。

提出的方法

• 将观测到的时间序列转换为矩阵表示，以利用其时间结构。
• 应用奇异值阈值化（SVT）以同时对矩阵中的噪声和缺失条目进行去噪与恢复。
• 在恢复后的矩阵上使用线性回归生成未来预测。
• 利用特定模型（如谐波、趋势、LTI系统）下时间序列的低秩结构以增强恢复效果。
• 无需明确了解底层模型，仅依赖矩阵补全与去噪技术。
• 将隐状态动态视为可通过矩阵估计恢复，类似于在特定模型类别下的隐马尔可夫模型。

实验结果

研究问题

• RQ1 矩阵估计技术能否在多种动力学模型下有效恢复缺失和噪声时间序列数据？
• RQ2 当标准软件包已知真实模型而本方法未知时，其性能如何与标准工具对比？
• RQ3 在缺乏对数据生成过程先验知识的情况下，奇异值阈值化在多大程度上能实现准确预测？
• RQ4 该方法在高噪声和高缺失率下是否仍保持良好性能？
• RQ5 该框架能否以统一方式处理谐波、趋势与LTI系统的混合情况？

主要发现

• 即使标准软件包已知真实底层模型，所提方法在插补与预测精度上仍优于标准工具。
• 在高噪声和显著缺失数据的场景下，该算法表现出色，而标准工具则失效。
• 该方法能有效恢复有限和的谐波、非平稳亚线性趋势及LTI系统的隐藏动态。
• 该方法对上述模型类别的加法混合具有良好的泛化能力，表现出强鲁棒性。
• 有限样本分析支持该方法在所考虑模型类别中的有效性。
• 基于矩阵的转换与奇异值阈值化可实现去噪与插补的同步处理，从而提高预测可靠性。