[论文解读] MASA: Motif-Aware State Assignment in Noisy Time Series Data

Saachi Jain, David Hallac+2 more|arXiv (Cornell University)|Sep 6, 2018

Time Series Analysis and Forecasting参考文献 27被引用 7

一句话总结

MASA 是一种新颖的无监督方法，通过利用基序意识，联合发现重复的系统状态序列（即基序）并改进噪声多变量时间序列中的状态分配。基于期望最大化框架，MASA 在合成数据上的基序发现准确率相比最先进基线方法最高提升 38.2%，并在真实世界数据中识别出可解释且一致的飞行与驾驶基序，即使存在噪声干扰。

ABSTRACT

Complex systems, such as airplanes, cars, or financial markets, produce multivariate time series data consisting of a large number of system measurements over a period of time. Such data can be interpreted as a sequence of states, where each state represents a prototype of system behavior. An important problem in this domain is to identify repeated sequences of states, known as motifs. Such motifs correspond to complex behaviors that capture common sequences of state transitions. For example, in automotive data, a motif of "making a turn" might manifest as a sequence of states: slowing down, turning the wheel, and then speeding back up. However, discovering these motifs is challenging, because the individual states and state assignments are unknown, have different durations, and need to be jointly learned from the noisy time series. Here we develop motif-aware state assignment (MASA), a method to discover common motifs in noisy time series data and leverage those motifs to more robustly assign states to measurements. We formulate the problem of motif discovery as a large optimization problem, which we solve using an expectation-maximization type approach. MASA performs well in the presence of noise in the input data and is scalable to very large datasets. Experiments on synthetic data show that MASA outperforms state-of-the-art baselines by up to 38.2%, and two case studies demonstrate how our approach discovers insightful motifs in the presence of noise in real-world time series data.

研究动机与目标

• 解决在状态和基序模式未知的情况下，对噪声多变量时间序列中的测量值进行鲁棒状态分配的挑战。
• 以无监督方式联合学习状态分配、基序及其时间模式。
• 通过将发现的基序作为上下文先验，提升状态分配的准确性，特别是在存在传感器噪声的情况下。
• 实现对复杂系统行为（如驾驶中的转弯或航空中的起降）的可解释分割。
• 在保持对测量噪声和可变基序持续时间的鲁棒性的同时，将方法扩展至大规模真实世界数据集。

提出的方法

• 将基序发现与状态分配建模为三个相互依赖变量（状态模型、状态分配、基序集）的联合优化问题。
• 采用类似期望最大化（EM）的算法，迭代优化状态分配与基序发现，以处理该问题的非凸性和组合性。
• 使用概率状态模型（TICC）作为状态分配的底层似然函数，并通过状态序列上的模式匹配施加基序约束。
• 利用基序实例纠正错误分配的状态——将受噪声影响的测量值重新分配至更一致的基序模式。
• 在状态分配前对高维传感器数据进行降维（PCA），以确保可扩展性。
• 通过引入基于基序的上下文来提升状态分配的鲁棒性，将基序视为指导状态标记的结构先验。

实验结果

研究问题

• RQ1 是否可以在不依赖状态或基序模式先验知识的情况下，从噪声多变量时间序列中发现基序？
• RQ2 如何利用基序发现来提升在传感器噪声存在下的状态分配鲁棒性？
• RQ3 基于基序的状态分配在真实世界时间序列上相比标准聚类与分割方法，性能提升程度如何？
• RQ4 MASA 是否能够在飞机和车辆等复杂系统中识别出可解释且一致的行为基序？
• RQ5 与顺序或独立方法相比，状态与基序的联合优化在准确性和可扩展性方面表现如何？

主要发现

• 在合成数据上，MASA 的基序发现准确率相比最先进基线方法最高提升 38.2%，证明其对噪声具有更强的鲁棒性。
• 在汽车数据中，MASA 成功识别出‘转弯’基序——减速、转向、加速，即使单个测量值因噪声被错误分配。
• 该方法在商用飞机数据中正确识别出‘起降’基序 [J,G,A,H,D,E]，一致捕捉了下降前、下降、滑行、登机、起飞和爬升等阶段。
• 各基序实例的平均高度和地速曲线表明，每个状态段均对应飞行行为的有意义阶段。
• MASA 基于基序的校正方法成功将受噪声影响的测量值重新分配至正确状态，如在汽车数据集中，TICC 未能保持转弯模式。
• 该方法在大规模数据集上表现出良好可扩展性，处理了来自 85 次飞行的 1,459 维传感器数据，经 13D PCA 降维后仍保持 10 个状态，且保持可解释性。