[论文解读] A General Framework for Density Based Time Series Clustering Exploiting a Novel Admissible Pruning Strategy

Nurjahan Begum, Liudmila Ulanova+3 more|arXiv (Cornell University)|Dec 2, 2016

Time Series Analysis and Forecasting参考文献 49被引用 6

一句话总结

本文提出了一种通用的基于密度的时间序列聚类框架，通过一种新颖的可接受剪枝策略加速基于动态时间规整（DTW）的聚类，利用上下界同时消除不必要的距离计算。该方法在保持精确结果的同时，相较于暴力DTW聚类实现了至少10倍的加速，并通过启发式排序剩余计算实现了任意时间执行模式，已在天文学、医学和蛋白质序列等多样化领域得到验证。

ABSTRACT

Time Series Clustering is an important subroutine in many higher-level data mining analyses, including data editing for classifiers, summarization, and outlier detection. It is well known that for similarity search the superiority of Dynamic Time Warping (DTW) over Euclidean distance gradually diminishes as we consider ever larger datasets. However, as we shall show, the same is not true for clustering. Clustering time series under DTW remains a computationally expensive operation. In this work, we address this issue in two ways. We propose a novel pruning strategy that exploits both the upper and lower bounds to prune off a very large fraction of the expensive distance calculations. This pruning strategy is admissible and gives us provably identical results to the brute force algorithm, but is at least an order of magnitude faster. For datasets where even this level of speedup is inadequate, we show that we can use a simple heuristic to order the unavoidable calculations in a most-useful-first ordering, thus casting the clustering into an anytime framework. We demonstrate the utility of our ideas with both single and multidimensional case studies in the domains of astronomy, speech physiology, medicine and entomology. In addition, we show the generality of our clustering framework to other domains by efficiently obtaining semantically significant clusters in protein sequences using the Edit Distance, the discrete data analogue of DTW.

研究动机与目标

• 解决大规模数据集中基于DTW的时间序列聚类带来的高计算成本问题。
• 开发一种剪枝策略，在显著减少距离计算的同时保持精确的聚类结果。
• 通过排序不可避免的计算以实现任意时间聚类，支持逐步优化结果。
• 在包括多维时间序列和离散序列（如蛋白质序列）在内的多样化领域中展示该框架的通用性。
• 将框架扩展至使用编辑距离处理离散数据，证明其在连续时间序列之外的适用性。

提出的方法

• 提出一种新颖的可接受剪枝策略，利用DTW距离的上下界来消除冗余的距离计算。
• 在基于密度的聚类框架中应用该剪枝策略，确保结果与暴力聚类方法完全一致。
• 采用基于启发式的剩余距离计算排序方法，优先处理最有用的计算，从而实现任意时间聚类框架。
• 将框架适配用于处理离散序列的编辑距离，证明其在连续时间序列之外的通用性。
• 利用该框架对多个领域中的时间序列进行聚类，包括天文学、语音生理学、医学和昆虫学。
• 采用分层基于密度的聚类方法，根据局部密度和可达性对时间序列进行分组。

实验结果

研究问题

• RQ1 一种结合DTW距离上下界的剪枝策略是否能显著降低计算成本，同时不影响聚类准确性？
• RQ2 如何使该剪枝策略具有可接受性，以确保与暴力聚类方法结果完全一致？
• RQ3 能否通过排序剩余距离计算，将该框架扩展为支持任意时间聚类？
• RQ4 当应用于多维时间序列和离散序列（如蛋白质序列）时，该框架是否仍保持有效性和高效性？
• RQ5 在天文学和医学等多样化真实应用场景中，该框架是否能实现显著的加速？

主要发现

• 所提出的剪枝策略在保持精确结果的同时，相较于暴力DTW聚类实现了至少10倍的加速。
• 该剪枝策略具有可接受性，可保证与穷举方法结果完全一致。
• 通过排序不可避免的距离计算，该框架支持任意时间执行模式，可逐步输出更优结果。
• 该方法在天文学、语音生理学、医学和昆虫学领域成功聚类时间序列，生成了具有语义意义的有意义聚类。
• 该框架在使用编辑距离处理离散序列时表现出色，成功在蛋白质序列数据中生成具有语义意义的聚类。
• 该方法在单维和多维时间序列上均表现出稳健性能，证实了其广泛适用性。