[论文解读] AMP: a new time-frequency feature extraction method for intermittent time-series data

Duncan Barrack, James Goulding+3 more|arXiv (Cornell University)|Jul 20, 2015

Time Series Analysis and Forecasting参考文献 31被引用 4

一句话总结

本文提出AMP（聚合、模态分解与投影），一种专为间歇性时间序列数据设计的新型时频特征提取方法——该类数据的特点是长时间静默期夹杂短暂活跃期。通过将单个序列聚合为复合信号，利用经验模态分解（EMD）提取本征模态函数（IMFs），再将各序列投影到这些IMFs上，AMP能有效捕捉显著的时频模式。该方法在合成数据和真实世界的间歇性数据（包括MIT通信日志）上显著优于传统聚类技术，可准确发现具有行为意义的子群体。

ABSTRACT

The characterisation of time-series data via their most salient features is extremely important in a range of machine learning task, not least of all with regards to classification and clustering. While there exist many feature extraction techniques suitable for non-intermittent time-series data, these approaches are not always appropriate for intermittent time-series data, where intermittency is characterized by constant values for large periods of time punctuated by sharp and transient increases or decreases in value. Motivated by this, we present aggregation, mode decomposition and projection (AMP) a feature extraction technique particularly suited to intermittent time-series data which contain time-frequency patterns. For our method all individual time-series within a set are combined to form a non-intermittent aggregate. This is decomposed into a set of components which represent the intrinsic time-frequency signals within the data set. Individual time-series can then be fit to these components to obtain a set of numerical features that represent their intrinsic time-frequency patterns. To demonstrate the effectiveness of AMP, we evaluate against the real word task of clustering intermittent time-series data. Using synthetically generated data we show that a clustering approach which uses the features derived from AMP significantly outperforms traditional clustering methods. Our technique is further exemplified on a real world data set where AMP can be used to discover groupings of individuals which correspond to real world sub-populations.

研究动机与目标

• 解决传统时频特征提取方法（如傅里叶变换和小波变换）在处理具有长时间常数值和剧烈瞬态变化的间歇性时间序列时的局限性。
• 开发一种稳健且计算高效的特征提取技术，能够可靠识别此类数据中的本征时频模式，尤其适用于聚类和分类任务。
• 证明AMP可从间歇性数据中提取出有意义且可解释的特征，反映现实世界的行为模式，如人类活动中的昼夜节律和周循环。
• 通过在合成生成的间歇性时间序列和MIT Reality Mining项目的真实世界通信数据集上进行对比评估，验证AMP的有效性。

提出的方法

• 将数据集中所有单个时间序列聚合为一个非间歇性的复合信号，以稳定分解过程。
• 对复合信号应用经验模态分解（EMD），提取一组本征模态函数（IMFs），每个IMF代表数据中一种独特的时频模式。
• 将每个单个时间序列投影到复合信号所获得的IMFs上，为每个IMF计算一个系数，以量化该模式在单个序列中的表达程度。
• 将所得的投影系数集合用作下游机器学习任务（如聚类和分类）的数值特征。
• 定义间歇性度量 φ(x) = P(xi = M(x))，以量化时间序列的间歇性程度，其中M(x)为序列的众数。
• 应用经典多维缩放（MDS）技术，可视化特征空间，并在低维表示中评估聚类性能。

实验结果

研究问题

• RQ1 能否开发一种特征提取方法，有效捕捉传统基于傅里叶和小波的方法因振铃效应而失效的间歇性时间序列中的时频模式？
• RQ2 当应用于具有已知底层模式的合成间歇性时间序列时，所提出的AMP方法与标准聚类技术相比表现如何？
• RQ3 AMP提取的特征在多大程度上能揭示真实世界间歇性数据（如人类通信模式）中的有意义子群体？
• RQ4 AMP中的聚合步骤是否能缓解间歇性对特征提取的负面影响，特别是在存在长时间静默期的情况下？
• RQ5 AMP能否用于识别并解释真实世界间歇性时间序列数据中嵌入的行为节律（如昼夜节律或周循环）？

主要发现

• 在合成生成的间歇性时间序列上，AMP显著优于传统聚类方法，使用AMP提取的特征后，聚类准确率大幅提升。
• 在MIT Reality Mining数据集上，AMP特征成功根据通信模式将媒体实验室与斯隆管理学院的个体分离为不同聚类，高维MDS可视化显示出清晰的群体分离。
• 斯隆管理学院成员在IMF 4–6上的系数值始终高于媒体实验室成员，表明前者群体中某些时频模式的表达更强。
• 该方法在单个3.2 GHz处理器上运行时间不足两分钟，证明其计算效率足以支持大规模应用。
• 间歇性度量φ(x)有效量化了间歇性程度，且AMP在该度量未能完全捕捉所有间歇性类型的情况下仍保持有效性。
• 对IMF分解的视觉检查表明，IMF 1对应1天（昼夜）周期，IMF 3对应7天（周）周期，证实AMP能捕捉到具有生物学和行为学意义的模式。