[论文解读] Elastic Similarity and Distance Measures for Multivariate Time Series

Ahmed Shifaz, Charlotte Pelletier+2 more|arXiv (Cornell University)|Feb 19, 2021

Time Series Analysis and Forecasting参考文献 28被引用 4

一句话总结

本论文提出了七种弹性相似性与距离度量——DTW、WDTW、DDTW、LCSS、ERP、MSM 和 TWE——的多变量扩展，采用独立与依赖策略，灵感源自多变量 DTW。结果表明，每种度量在至少一个数据集上优于其他度量，且独立与依赖策略的选择本质上取决于数据集特性；通过结合这些度量的集成方法，在多变量时间序列分类任务中达到了最先进水平的准确率。

ABSTRACT

This paper contributes multivariate versions of seven commonly used elastic similarity and distance measures for time series data analytics. Elastic similarity and distance measures are a class of similarity measures that can compensate for misalignments in the time axis of time series data. We adapt two existing strategies used in a multivariate version of the well-known Dynamic Time Warping (DTW), namely, Independent and Dependent DTW, to these seven measures. While these measures can be applied to various time series analysis tasks, we demonstrate their utility on multivariate time series classification using the nearest neighbor classifier. On 23 well-known datasets, we demonstrate that each of the measures but one achieves the highest accuracy relative to others on at least one dataset, supporting the value of developing a suite of multivariate similarity and distance measures. We also demonstrate that there are datasets for which either the dependent versions of all measures are more accurate than their independent counterparts or vice versa. In addition, we also construct a nearest neighbor-based ensemble of the measures and show that it is competitive to other state-of-the-art single-strategy multivariate time series classifiers.

研究动机与目标

• 将七种广泛使用的单变量弹性相似性与距离度量扩展至多变量时间序列场景。
• 在多个多变量时间序列分类任务中评估独立与依赖策略的性能表现。
• 确定在 DTW 中独立策略与依赖策略的相对优势是否为偶然现象，还是数据结构的根本属性。
• 开发并评估基于多种多变量相似性度量的集成分类器，以提升分类准确率。
• 建立基于相似性方法的多变量时间序列分类基准，为未来混合模型的发展铺平道路。

提出的方法

• 通过将每个单变量度量分别应用于各维度并求和，来实现独立策略的适配。
• 通过将每个时间步视为多维点，并使用多变量距离度量计算距离，来实现依赖策略的适配。
• 使用独立与依赖策略，将七种单变量度量——DTW、WDTW、DDTW、LCSS、ERP、MSM 和 TWE——扩展为多变量形式。
• 对每种多变量度量实现最近邻分类，并在 23 个基准数据集上评估性能。
• 构建多变量弹性集成（MEE），通过训练准确率对所有多变量度量的预测结果进行加权组合。
• 使用留一法交叉验证训练集成模型，并与最先进分类器对比其泛化性能。

实验结果

研究问题

• RQ1 多变量扩展的常用单变量弹性相似性与距离度量是否能在真实世界数据集中提升分类性能？
• RQ2 在多变量 DTW 中，独立策略与依赖策略的性能优势是偶然现象，还是数据结构的根本属性？
• RQ3 是否存在某些数据集，使得独立策略在所有度量上均持续优于依赖策略，或反之？
• RQ4 多变量相似性与距离度量的集成是否能实现与最先进单策略分类器相当的准确率？
• RQ5 所提出的多变量度量与集成方法的计算成本与现有方法相比如何？其可扩展性有何影响？

主要发现

• 七个多变量相似性与距离度量中的每一个，在 23 个基准数据集中的至少一个上达到了最高分类准确率，证明了多样化工具集的价值。
• 存在某些数据集，使得独立策略在所有度量上均持续优于依赖策略，也存在依赖策略更优的情况，表明二者之间存在根本性的数据依赖关系。
• 依赖策略在高维数据集上表现较差，表明其在捕捉多维间复杂依赖关系方面存在局限。
• 当各维度本身作为单变量分类器表现良好时，独立策略表现更优，表明当维度间相对独立时，可能存在潜在协同效应。
• 所提出的多变量弹性集成（MEE）结合了所有度量，其分类准确率与最先进单策略分类器相当。
• MEE 集成的训练时间较长，DTWF_D 每折耗时超过一小时，但目标是建立准确率基准而非可扩展性，与单变量弹性集成在推动领域发展中的角色一致。