[论文解读] SparseDTW: A Novel Approach to Speed up Dynamic Time Warping

Ghazi Al‐Naymat, Sanjay Chawla+1 more|arXiv (Cornell University)|Jan 13, 2012

Time Series Analysis and Forecasting参考文献 19被引用 131

一句话总结

SparseDTW 提出了一种空间高效、最优的动态时间规整（DTW）算法，能够根据时间序列之间的固有相似性和相关性动态自适应，减少内存使用量而不损失最优性。与带状法或索引法不同，它采用稀疏矩阵表示法，仅计算相关单元，从而在保证最优对齐的前提下实现显著的加速和内存节省。

ABSTRACT

We present a new space-efficient approach, (SparseDTW), to compute the Dynamic Time Warping (DTW) distance between two time series that always yields the optimal result. This is in contrast to other known approaches which typically sacrifice optimality to attain space efficiency. The main idea behind our approach is to dynamically exploit the existence of similarity and/or correlation between the time series. The more the similarity between the time series the less space required to compute the DTW between them. To the best of our knowledge, all other techniques to speedup DTW, impose apriori constraints and do not exploit similarity characteristics that may be present in the data. We conduct experiments and demonstrate that SparseDTW outperforms previous approaches.

研究动机与目标

• 解决标准 DTW 的高空间复杂度问题，其时间复杂度为 O(mn)，限制了其在长时间序列中的应用。
• 克服现有加速方法在效率与最优性之间的权衡，其中约束或抽象化处理会牺牲准确性。
• 开发一种能够根据数据特征（特别是相似性和相关性）自适应的算法，而无需预先假设。
• 通过最小化存储的矩阵单元数量，同时保持最优性，实现在大规模时间序列数据上实用的 DTW 计算。
• 提供与下界索引技术兼容的框架，提升相似性搜索工作负载中的性能。

提出的方法

• 基于时间序列之间观察到的相似性和相关性，动态构建 DTW 规整矩阵的稀疏表示。
• 使用稀疏矩阵数据结构，仅存储可能属于最优规整路径的单元，避免完整的 O(mn) 存储。
• 应用动态规划原理，仅在稀疏的相关单元集合上计算 DTW 距离，从而降低时间和空间复杂度。
• 在计算过程中自适应地演化搜索带，与 Sakoe-Chiba 或 Itakura 的固定带方法不同，确保不损失最优性。
• 利用高度相关序列的规整路径接近对角线的特性，从而最小化需计算的单元数量。
• 与下界过滤技术（如 LBF）集成，因为该方法保证最优结果，可支持高效的相似性搜索流水线。

实验结果

研究问题

• RQ1 我们能否通过利用数据内在相似性，在不损失最优性的情况下，降低 DTW 的空间和时间复杂度？
• RQ2 与固定带方法相比，规整矩阵的自适应稀疏性在内存使用和准确性方面表现如何？
• RQ3 时间序列之间的相关性在多大程度上影响 DTW 计算过程中打开的单元数量？
• RQ4 稀疏 DTW 方法能否与时间序列相似性搜索中使用的下界过滤技术高效结合？
• RQ5 规整带的动态自适应是否能在多样化的现实世界和合成数据集上带来一致的性能提升？

主要发现

• 在所有测试数据集中，SparseDTW 在运行时间和内存使用方面均持续优于标准 DTW、BandDTW 和分治（DC）方法。
• 在 GunX 数据集中，SparseDTW 将计算单元数从 75,076（DTW）减少至 17,220，单元计算量减少了 77%。
• 在 Burst-Water 数据集中，SparseDTW 仅计算了 951,150 个单元，而标准 DTW 为 2,190,000 个，单元计算量减少了 56%。
• SparseDTW 在所有情况下均实现了最优结果，而 BandDTW 与标准 DTW 相比误差范围在 30% 至 500% 之间。
• 该算法性能随相关性提高而显著提升：具有强相似性的序列所需打开的单元远少于不相关序列。
• 对于超过 6,000 个点的数据集，标准 DTW 因内存限制而变得不可行，而 SparseDTW 仍保持实用且高效。