[论文解读] Optimal Warping Paths are unique for almost every Pair of Time Series

Brijnesh J. Jain, David Schultz|arXiv (Cornell University)|May 16, 2017

Time Series Analysis and Forecasting参考文献 17被引用 5

一句话总结

该论文证明，在平方误差局部代价下，动态时间规整（DTW）中的最优规整路径几乎处处唯一。通过测度论分析，表明非唯一性仅出现在测度为零的集合上——这意味着对于几乎所有的时间序列对，均存在唯一的最优路径，从而为基于DTW的方法提供了稳健的学习与优化基础。

ABSTRACT

Update rules for learning in dynamic time warping spaces are based on optimal warping paths between parameter and input time series. In general, optimal warping paths are not unique resulting in adverse effects in theory and practice. Under the assumption of squared error local costs, we show that no two warping paths have identical costs almost everywhere in a measure-theoretic sense. Two direct consequences of this result are: (i) optimal warping paths are unique almost everywhere, and (ii) the set of all pairs of time series with multiple equal-cost warping paths coincides with the union of exponentially many zero sets of quadratic forms. One implication of the proposed results is that typical distance-based cost functions such as the k-means objective are differentiable almost everywhere and can be minimized by subgradient methods.

研究动机与目标

• 解决动态时间规整（DTW）空间中由于最优规整路径非唯一性所引发的理论与实际挑战。
• 研究最优规整路径非唯一性在时间序列对空间中的普遍性。
• 建立最优规整路径保证唯一的条件，特别是在学习算法背景下的适用性。
• 为基于DTW的学习方法（如k-means和学习向量量化）中的可微性与次梯度优化提供理论基础。
• 通过分量分析与乘积空间测度，将唯一性结果推广至多变量时间序列。

提出的方法

• 使用测度论分析，将'几乎处处'定义为非唯一性发生的测度为零的集合。
• 将两条规整路径之间的代价差建模为二次型 $ C_i(x,y) - C_j(x,y) = z^T A^{(ij)} z $，其中 $ z = (x,y) $，并证明该差值仅在测度为零的集合上为零。
• 证明具有多个等代价规整路径的时间序列对的集合，是指数多个二次型零集的并集，每个零集的测度均为零。
• 应用分段光滑函数的结果，证明最小代价函数 $ \delta_x(y) = \min_p C_p(x,y) $ 几乎处处为分段光滑且可微。
• 通过将每个多变量序列分解为分量单变量序列，并在每个分量上应用相同的代价公式，将单变量结果推广至多变量时间序列。
• 使用线性嵌入 $ \Phi_d $ 和 $ \Psi_d $ 表示规整后的时间序列，证明DTW代价等于嵌入序列的平方欧几里得范数：$ C_p(x,y) = \| \Phi_d(x) - \Psi_d(y) \|^2 $。

实验结果

研究问题

• RQ1 在何种条件下，DTW中的最优规整路径是唯一的？
• RQ2 最优规整路径的非唯一性在时间序列对空间中有多普遍？
• RQ3 能否通过测度论描述具有多个等代价规整路径的时间序列对的集合？
• RQ4 当使用平方误差局部代价时，最优规整路径是否几乎处处唯一？
• RQ5 DTW的多变量扩展如何保持最优规整路径的唯一性属性？

主要发现

• 在使用平方误差局部代价时，最优规整路径在时间序列对的空间中几乎处处唯一。
• 具有非唯一最优规整路径的时间序列对的集合测度为零，且与指数多个二次型零集的并集完全一致。
• 最小代价函数 $ \delta_x(y) = \min_p C_p(x,y) $ 几乎处处为分段光滑且可微，从而支持基于次梯度的优化。
• 基于距离的学习目标（如k-means和学习向量量化）在DTW空间中几乎处处可微，支持稳健优化。
• DTW的多变量扩展保持了唯一性属性，因为结果可通过乘积空间测度实现分量上的推广。
• 理论基础支持在基于DTW的学习中使用基于梯度的方法，因为不可微点在测度上可忽略。