[论文解读] Autowarp: Learning a Warping Distance from Unlabeled Time Series Using Sequence Autoencoders

Abubakar Abid, James Zou|arXiv (Cornell University)|Oct 23, 2018

Time Series Analysis and Forecasting参考文献 20被引用 7

一句话总结

Autowarp 提出了一种端到端方法，通过序列自编码器从未标注的时间序列中学习可微分的形变距离。通过优化与学习到的潜在表示对齐的参数化形变度量族，Autowarp 在复杂噪声条件下相比手工设计的度量（如 DTW 和 EDR）展现出更优的鲁棒性和性能。

ABSTRACT

Measuring similarities between unlabeled time series trajectories is an important problem in domains as diverse as medicine, astronomy, finance, and computer vision. It is often unclear what is the appropriate metric to use because of the complex nature of noise in the trajectories (e.g. different sampling rates or outliers). Domain experts typically hand-craft or manually select a specific metric, such as dynamic time warping (DTW), to apply on their data. In this paper, we propose Autowarp, an end-to-end algorithm that optimizes and learns a good metric given unlabeled trajectories. We define a flexible and differentiable family of warping metrics, which encompasses common metrics such as DTW, Euclidean, and edit distance. Autowarp then leverages the representation power of sequence autoencoders to optimize for a member of this warping distance family. The output is a metric which is easy to interpret and can be robustly learned from relatively few trajectories. In systematic experiments across different domains, we show that Autowarp often outperforms hand-crafted trajectory similarity metrics.

研究动机与目标

• 解决在噪声和可变性（如采样率差异、异常值）使传统距离度量复杂化时，为未标注时间序列选择合适相似性度量的挑战。
• 克服手工设计度量（如 DTW、EDR 和 LCSS）在多样化噪声条件下常失效且在不同数据集间泛化能力不足的局限性。
• 开发一种端到端、可微分的框架，直接从未标注轨迹中学习有意义且可解释的形变距离，无需标签或先验聚类知识。
• 通过学习捕捉数据内在结构的度量，实现对聚类、可视化和最近邻搜索等下游任务的有效支持。

提出的方法

• 定义一个灵活且可微分的形变距离族，通过可学习参数（α, γ, ε）泛化常见度量（如 DTW、欧几里得距离和编辑距离）。
• 训练一个序列到序列的自编码器，以学习时间序列轨迹的紧凑且有意义的潜在表示。
• 通过最小化学习到的潜在表示与原始空间中诱导距离之间的差异，来优化形变距离参数。
• 使用批量梯度下降联合训练自编码器与形变距离，实现通过反向传播的端到端优化。
• 利用自编码器的潜在空间作为监督信号，对形变距离进行正则化，确保其反映真实的结构相似性。
• 通过参数化形变族确保计算效率，使每步更新时间复杂度为 O(SN²)，并可借助 FastDTW 风格的近似方法进一步加速。

实验结果

研究问题

• RQ1 在噪声复杂、未标注的时间序列数据上，学习到的形变距离是否能优于手工设计的度量（如 DTW 和 EDR）？
• RQ2 在缺乏标签的情况下，自编码器学习的表示与可微形变族的结合在多大程度上提升了相似性学习效果？
• RQ3 与领域特定度量相比，所学度量在多种噪声类型（如高斯噪声、异常值、采样率变化）下的鲁棒性如何？
• RQ4 将自编码器表示整合到形变距离学习过程中，是否能带来比仅使用自编码器更好的聚类和最近邻性能？
• RQ5 该方法是否能在无需任务特定调优的情况下，泛化到手势识别、移动轨迹和医疗轨迹等多样化领域？

主要发现

• 在 ASL 和 Taxicab Mobility 数据集上，Autowarp 在混合噪声条件下均优于手工设计的度量（如 EDR 和 SSPD），尤其在多种噪声源并存时表现更优。
• 在 ASL 数据集上，所学距离在 'Hybrid1'（高斯噪声 + 异常值）和 'Hybrid2'（高斯噪声 + 采样噪声）两种噪声设置下，准确率均高于 EDR。
• 在包含 50 条轨迹和 5 个种子模式的合成数据中，该方法成功恢复了原始聚类结构，通过 MDS 可视化结果表明其优于欧几里得距离和仅使用自编码器的方法。
• 仅使用深层自编码器无法学习到有用的相似性度量，证明形变距离正则化对有效度量学习至关重要。
• 在 ASL 数据集上，所学形变距离参数（α=0.29, γ=0.22, ε=0.48）反映出对时间偏移和振幅变化的鲁棒性与敏感性之间的平衡。
• 尽管对数据结构无先验知识，Autowarp 在性能上仍可与为特定数据集专门设计的度量（如 Taxicab Mobility 数据集上的 SSPD）相媲美或超越。