[논문 리뷰] A Review and Evaluation of Elastic Distance Functions for Time Series Clustering

Chris Holder, Matthew Middlehurst외 1명|arXiv (Cornell University)|2022. 05. 30.

Time Series Analysis and Forecasting참고 문헌 33인용 수 6

한 줄 요약

이 논문은 UCR 시계열 데이터셋에서 k-means와 k-medoids를 사용하여 시계열 클러스터링을 위한 아홉 가지 탄성 거리 함수를 평가한다. 놀랍게도, 동적 시간 왜곡(DTW)은 k-means에서 유클리드 거리보다 성능이 열 劣하다. 반면, 이동-분할-병합(MSM) 거리와 함께 k-medoids는 모든 다른 방법보다 뛰어나게 성능을 발휘하여, 탄성 거리 기반 클러스터링의 권장 기준으로 부상한다.

ABSTRACT

Time series clustering is the act of grouping time series data without recourse to a label. Algorithms that cluster time series can be classified into two groups: those that employ a time series specific distance measure; and those that derive features from time series. Both approaches usually rely on traditional clustering algorithms such as $k$-means. Our focus is on distance based time series that employ elastic distance measures, i.e. distances that perform some kind of realignment whilst measuring distance. We describe nine commonly used elastic distance measures and compare their performance with k-means and k-medoids clustering. Our findings are surprising. The most popular technique, dynamic time warping (DTW), performs worse than Euclidean distance with k-means, and even when tuned, is no better. Using k-medoids rather than k-means improved the clusterings for all nine distance measures. DTW is not significantly better than Euclidean distance with k-medoids. Generally, distance measures that employ editing in conjunction with warping perform better, and one distance measure, the move-split-merge (MSM) method, is the best performing measure of this study. We also compare to clustering with DTW using barycentre averaging (DBA). We find that DBA does improve DTW k-means, but that the standard DBA is still worse than using MSM. Our conclusion is to recommend MSM with k-medoids as the benchmark algorithm for clustering time series with elastic distance measures. We provide implementations in the aeon toolkit, results and guidance on reproducing results on the associated GitHub repository.

연구 동기 및 목표

• k-means와 k-medoids를 사용하여 시계열 클러스터링에서 아홉 가지 탄성 거리 측정법의 성능을 평가하는 것.
• 탄성 거리가 k-means에서 유클리드 거리보다 성능을 향상시키는지, 이는 시계열 분류에서처럼 성립하는지 확인하는 것.
• DTW 기반 k-means 클러스터링에 대한 바리센터 평균(DBA)의 영향을 평가하는 것.
• 새로운 시계열 클러스터링 알고리즘을 탄성 거리 기반으로 평가하기 위한 견고하고 재현 가능한 기준을 규명하는 것.
• 특히 정규화 및 테스트 세트 평가 조건에서, 다양한 방법 간의 계산 효율성과 클러스터링 품질을 비교하는 것.

제안 방법

• 유클리드, DTW, wDTW, MSM, EDR, LCSS, DDTW, ERP, TWE, WDDTW를 포함한 아홉 가지 탄성 거리 측정법을 평가하였다.
• 모든 시계열을 정규화하여 척도 편향을 제거한 후, 112개의 UCR 시계열 데이터셋에 대해 k-means와 k-medoids 클러스터링을 적용하였다.
• k-medoids의 효율성을 높이고 중심점 평균화 문제를 방지하기 위해 사전 계산된 거리 행렬을 사용하였다.
• DTW를 사용한 중심점 개선을 위해 바리센터 평균(DBA)을 적용하여 정렬 및 평균화를 수행하였다.
• 일致성 있는 구현과 재현 가능성을 확보하기 위해 aeon과 tslearn 라이브러리를 사용하여 결과를 재현하였다.
• 과적합 편향을 방지하기 위해 학습 데이터가 아닌 별도의 테스트 세트에서 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 시계열 데이터에서 탄성 거리 측정법을 사용할 경우, 유클리드 거리 대비 k-means 클러스터링 성능이 향상되는가?
• RQ2 탄성 거리 기반 시계열 클러스터링에서 k-medoids는 k-means보다 어떻게 비교되는가?
• RQ3 바리센터 평균(DBA)이 DTW 기반 k-means 클러스터링에 얼마나 기여하는가?
• RQ4 다양한 시계열 데이터셋에서 가장 높은 클러스터링 정확도를 보이는 탄성 거리 측정법은 무엇인가?
• RQ5 새로운 시계열 클러스터링 알고리즘 평가를 위한 계산 효율성이 뛰어나고 높은 성능을 보이는 기준이 존재하는가?

주요 결과

• k-means와 함께 사용할 경우, 동적 시간 왜곡(DTW)은 유클리드 거리보다 성능이 열 劣하며, 이는 시계열 분류에서의 강력한 성능과는 정반대이다.
• 모든 아홉 가지 탄성 거리 측정법에 대해 k-medoids는 k-means보다 클러스터링 성능을 크게 향상시키며, 이는 탄성 거리에 대해 중심점 평균화가 최적의 전략이 아님을 시사한다.
• 이동-분할-병합(MSM) 거리는 DTW와 TWE를 포함한 모든 다른 탄성 거리 측정법보다 k-medoids와 함께 사용할 경우 뛰어난 성능을 보였다.
• DBA는 DTW 기반 k-means 클러스터링을 향상시켰지만, 여전히 MSM과 k-medoids 조합의 성능을 뛰어넘지 못했으며, 높은 계산 비용을 수반한다.
• tslearn의 DBA 구현은 원본보다 훨씬 빠르지만, 여전히 MSM만큼은 아니며 성능 면에서도 앞서지 못한다.
• MSM과 k-medoids 조합은 뛰어난 정확도와 효율성 덕분에 탄성 거리 기반 시계열 클러스터링의 새로운 기준으로 권장된다.