[论文解读] On the Existence of a Sample Mean in Dynamic Time Warping Spaces

Brijnesh J. Jain, David Schultz|arXiv (Cornell University)|Oct 14, 2016

Time Series Analysis and Forecasting参考文献 19被引用 9

一句话总结

本文通过证明用于计算基于DTW的均值的受限弗雷歇函数在温和条件下能取得全局最小值，建立了动态时间规整（DTW）空间中样本均值存在的充分条件。作者利用损失函数的强制性与连续性，以及规整路径的有限性，确保了存在性，从而填补了基于DTW的模式识别与聚类领域长期存在的理论空白。

ABSTRACT

The concept of sample mean in dynamic time warping (DTW) spaces has been successfully applied to improve pattern recognition systems and generalize centroid-based clustering algorithms. Its existence has neither been proved nor challenged. This article presents sufficient conditions for existence of a sample mean in DTW spaces. The proposed result justifies prior work on approximate mean algorithms, sets the stage for constructing exact mean algorithms, and is a first step towards a statistical theory of DTW spaces.

研究动机与目标

• 解决动态时间规整（DTW）空间中样本均值是否存在这一长期未解的理论问题。
• 通过建立存在的充分条件，为DTW中近似均值算法的使用提供理论依据。
• 通过证明弗雷歇函数全局极小化器的存在性，支持精确均值算法的开发。
• 通过形式化集中趋势的概念，为DTW空间的统计理论奠定基础。
• 通过任意损失函数推广标准弗雷歇函数，以包含加权均值与中位数。

提出的方法

• 将时间序列平均形式化为在固定长度时间序列解空间上最小化广义弗雷歇函数的问题。
• 应用约化定理，表明弗雷歇函数的最小值可通过在有限规整路径集合上最小化而实现。
• 利用损失函数 $ h_k $ 的强制性与连续性，确保各分量函数 $ g_{p^{(k)}} $ 达到全局最小值。
• 证明整体弗雷歇函数 $ F_m(x) $ 可达最小值，因其为有限个连续、强制函数的逐点最小值。
• 将结果扩展至加权损失函数 $ h_k' = w_k h_k $，表明即使部分权重为零，存在性依然成立。
• 通过验证连续性与强制性，证明了标准平方误差与类似中位数的 $ L^1 $ 类型损失函数 $ h_k(u) = u^2 $ 和 $ h_k(u) = u $ 的存在性。

实验结果

研究问题

• RQ1 在何种条件下，动态时间规整空间中的样本均值存在？
• RQ2 能否严格证明基于DTW的平均中弗雷歇函数全局极小化器的存在性？
• RQ3 使用一般损失函数（如 $ h_k(u) = u^2 $、$ h_k(u) = u $）是否仍能保持样本均值的存在性？
• RQ4 规整路径的有限性如何促进DTW均值问题中最小值的存在？
• RQ5 该理论基础能否扩展至DTW空间中的加权均值与中位数？

主要发现

• 受限弗雷歇函数 $ F_m(x) $，即最小化加权平方DTW距离之和的函数，对任意固定长度 $ m $ 均能达到全局最小值，从而确保了样本均值的存在性。
• 该存在性结果适用于任意连续、严格递增的损失函数 $ h_k $，包括 $ h_k(u) = u^2 $（均值）与 $ h_k(u) = u $（中位数），在温和的正则性条件下成立。
• 最小值的实现是因为弗雷歇函数是有限个强制且连续的分量函数 $ F_{oldsymbol{ u}}(x) $ 的逐点最小值，每个分量函数对应一个规整路径元组。
• 该证明依赖于规整路径集合 $ oldsymbol{ u} o oldsymbol{p} $ 的有限性，从而确保下确界可被取到。
• 该结果可推广至加权损失函数 $ h_k' = w_k h_k $，即使某些权重为零，存在性依然成立。
• 该理论基础为实践中启发式与近似算法的使用提供了正当性，因为它们所搜索的是一个定义良好且确实存在的对象。