[논문 리뷰] Sparsification of the Alignment Path Search Space in Dynamic Time Warping

Saeid Soheily-Khah, Pierre-François Marteau|arXiv (Cornell University)|2017. 11. 13.

Time Series Analysis and Forecasting참고 문헌 29인용 수 15

한 줄 요약

이 논문은 동적 시간 왜곡(DTW)의 정렬 경로 탐색 공간을 희박화하여 계산 비용을 줄이는 데 목적이 있는 새로운 (비)유사도 측정법인 SP-DTW와 SP-Krdtw를 제안한다. 최적의 정렬 경로에서 경로 가중치를 학습하고 임계값을 적용하여 계산량을 감소시킨다. 1-NN 및 SVM 분류기로 여러 UCR 데이터셋에서 평균 89.9%의 속도 향상을 달성하며, 정확도 손실가능성이 매우 낮고, 사코에-치바 밴드 방법보다도 속도와 정확도 면에서 뛰어나다.

ABSTRACT

Temporal data are naturally everywhere, especially in the digital era that sees the advent of big data and internet of things. One major challenge that arises during temporal data analysis and mining is the comparison of time series or sequences, which requires to determine a proper distance or (dis)similarity measure. In this context, the Dynamic Time Warping (DTW) has enjoyed success in many domains, due to its 'temporal elasticity', a property particularly useful when matching temporal data. Unfortunately this dissimilarity measure suffers from a quadratic computational cost, which prohibits its use for large scale applications. This work addresses the sparsification of the alignment path search space for DTW-like measures, essentially to lower their computational cost without loosing on the quality of the measure. As a result of our sparsification approach, two new (dis)similarity measures, namely SP-DTW (Sparsified-Paths search space DTW) and its kernelization SP-K rdtw (Sparsified-Paths search space K rdtw kernel) are proposed for time series comparison. A wide range of public datasets is used to evaluate the efficiency (estimated in term of speed-up ratio and classification accuracy) of the proposed (dis)similarity measures on the 1-Nearest Neighbor (1-NN) and the Support Vector Machine (SVM) classification algorithms. Our experiment shows that our proposed measures provide a significant speed-up without loosing on accuracy. Furthermore, at the cost of a slight reduction of the speedup they significantly outperform on the accuracy criteria the old but well known Sakoe-Chiba approach that reduces the DTW path search space using a symmetric corridor.

연구 동기 및 목표

• 시퀀스 길이에 따라 제곱적으로 증가하는 계산 비용으로 인해 대규모 시간적 데이터 응용에서 제한을 받는 동적 시간 왜곡(DTW)의 높은 계산 비용을 해결하기 위해.
• 정렬 과정에서 탐색하는 격자 셀의 수를 줄여 DTW 유사 측정법의 효율성을 높이되, 분류 정확도를 희생시키지 않기 위해.
• 최적의 정렬에서 빈도와 가중치를 기반으로 가장 관련성이 높은 정렬 경로만 식별하고 유지하는 학습 가능한, 데이터 기반의 희박화 방법을 개발하기 위해.
• SVM과 같은 커널 기반 분류기에서 효율적인 유사도 계산을 가능하게 하는 커널화된 변형인 SP-Krdtw를 제안하기 위해.
• 다양한 실제 시간 시리즈 데이터셋에서 최신의 희박화 기법들과의 실험적 비교를 통해 제안된 측정법의 유효성을 검증하기 위해.

제안 방법

• 학습 세트 내 최적의 정렬 경로에서 경로 가중치를 학습하여, 모든 쌍별 비교에서 자주 사용되는 격자 셀일수록 높은 가중치를 할당한다.
• 학습된 가중치에 임계값을 적용하여 탐색 공간을 희박화하고, 낮은 가중치를 가진 셀은 제거하여 가장 중요한 정렬 경로만 유지한다.
• 결과적으로 SP-DTW 측정법은 절단된 고가중치 격자 셀들만을 대상으로 DTW를 계산함으로써 방문하는 셀의 수를 크게 줄인다.
• 커널화된 버전인 SP-Krdtw는 동일한 임계값 적용을 커널 행렬 계산에 적용하여 Krdtw의 희박화를 확장한다.
• 이 희박화 방법은 데이터 기반이며 적응형이며, 사코에-치바 밴드처럼 고정된 기하학적 제약 조건이 아닌, 최적의 정렬에서 셀 사용 빈도에 기반한다.
• 30개 이상의 공개 UCR 데이터셋에서 1-Nearest Neighbor(1-NN) 및 서포트 벡터 머신(SVM) 분류기를 사용하여 평가한다.

실험 결과

연구 질문

• RQ1 최적의 정렬 경로 탐색 공간에 대해 데이터 기반으로 학습 가능한 희박화 기법이 계산 비용을 크게 줄이면서도 분류 정확도를 유지할 수 있는가?
• RQ2 SP-DTW의 성능은 다양한 시간 시리즈 데이터셋에서 사코에-치바 밴드 방법과 비교해 속도 향상과 정확도 면에서 어떻게 다른가?
• RQ3 이 희박화 기법은 커널 기반 DTW(Krdtw)의 가속화를 위해 효과적으로 커널화될 수 있는가?
• RQ4 SP-DTW 및 SP-Krdtw에서 희박화 임계값을 변화시킬 경우 속도 향상과 정확도 사이의 상호 교환 관계는 어떠한가?
• RQ5 제안된 방법은 계산 효율성과 분류 성능 면에서 기존 최고 수준의 희박화 기법들을 모두 초월하는가?

주요 결과

• 제안된 SP-DTW 및 SP-Krdtw 측정법은 30개의 UCR 데이터셋에서 표준 DTW 및 Krdtw 대비 평균 82.6% 및 82.3%의 속도 향상을 기록한다.
• 평균적으로 SP-DTW는 방문하는 격자 셀 수를 82.6% 감소시키며, Beef 및 Ham 데이터셋과 같이 일부 데이터셋에서는 99% 이상의 감소율을 기록한다.
• SP-DTW는 최적화된 사코에-치바 밴드(DTWsc)보다 모든 테스트 데이터셋에서 정확도 면에서 뚜렷이 뛰어나지만, 임계값을 강화할 경우 약간의 속도 향상 흐름이 감소한다.
• 커널화된 변형인 SP-Krdtw는 표준 Krdtw와 유사한 정확도를 유지하면서도 계산 시간을 줄여, 커널화된 DTW의 희박화 가능성은 입증한다.
• SP-DTW는 1-NN 및 SVM 분류기 모두에서 높은 분류 정확도를 유지하며, 높은 희박화 수준에서도 성능 저하가 없이 안정적인 성능을 보인다.
• 격자 셀 점유도 시각화 결과는 SP-DTW가 최적의 정렬에서 자주 사용되는 경로에 집중하고 있음을 확인하여, 이 방법의 데이터 기반 희박화 전략이 타당함을 검증한다.