[논문 리뷰] Elastic Similarity and Distance Measures for Multivariate Time Series

Ahmed Shifaz, Charlotte Pelletier외 2명|arXiv (Cornell University)|2021. 02. 19.

Time Series Analysis and Forecasting참고 문헌 28인용 수 4

한 줄 요약

이 논문은 다변량 DTW에 영감을 얻은 독립적 및 종속 전략을 사용하여 일곱 가지 유일변량 탄성 유사성 및 거리 측정법—DTW, WDTW, DDTW, LCSS, ERP, MSM, TWE—의 다변량 확장을 제안한다. 각 측정법이 적어도 하나의 데이터셋에서 다른 측정법을 능가함을 보이며, 독립 전략과 종속 전략 간의 선택은 본질적으로 데이터셋에 따라 달라지며, 이러한 측정법들의 앙상블은 다변량 시계열 분류에서 최신 기술 수준의 정확도를 달성한다.

ABSTRACT

This paper contributes multivariate versions of seven commonly used elastic similarity and distance measures for time series data analytics. Elastic similarity and distance measures are a class of similarity measures that can compensate for misalignments in the time axis of time series data. We adapt two existing strategies used in a multivariate version of the well-known Dynamic Time Warping (DTW), namely, Independent and Dependent DTW, to these seven measures. While these measures can be applied to various time series analysis tasks, we demonstrate their utility on multivariate time series classification using the nearest neighbor classifier. On 23 well-known datasets, we demonstrate that each of the measures but one achieves the highest accuracy relative to others on at least one dataset, supporting the value of developing a suite of multivariate similarity and distance measures. We also demonstrate that there are datasets for which either the dependent versions of all measures are more accurate than their independent counterparts or vice versa. In addition, we also construct a nearest neighbor-based ensemble of the measures and show that it is competitive to other state-of-the-art single-strategy multivariate time series classifiers.

연구 동기 및 목표

• 일곱 가지 널리 사용되는 유일변량 탄성 유사성 및 거리 측정법을 다변량 시계열 설정으로 확장하기.
• 다양한 다변량 시계열 분류 작업에서 독립 전략과 종속 전략의 성능 평가하기.
• DTW에서의 독립 전략과 종속 전략 간 성능 우월성이 우연의 산물인지, 데이터 구조의 본질적인 특성인지 규명하기.
• 다양한 다변량 유사성 측정법을 기반으로 한 앙상블 분류기 개발 및 평가를 통해 분류 정확도 향상하기.
• 유사성 기반 방법을 사용한 다변량 시계열 분류의 벤치마크 설정하기. 이는 향후 하이브리드 모델 개발의 기반을 마련한다.

제안 방법

• 각 차원에 대해 유일변량 측정법을 별도로 적용하고 결과를 합산함으로써 독립 전략을 적용한다.
• 각 시간 단계를 다변량 점으로 간주하고 다변량 거리 측정법을 사용하여 거리를 계산함으로써 종속 전략을 적용한다.
• DTW, WDTW, DDTW, LCSS, ERP, MSM, TWE의 일곱 가지 유일변량 측정법을 독립 및 종속 전략을 사용하여 다변량 형태로 확장한다.
• 각 다변량 측정법을 사용하여 최근접 이웃 분류를 구현하고, 23개의 벤치마크 데이터셋에서 성능을 평가한다.
• 모든 다변량 측정법의 예측을 학습 정확도를 가중치로 사용하여 조합하는 다변량 탄성 앙상블(MEE)을 구성한다.
• 한 번에 하나의 데이터셋을 제외하는 교차 검증을 사용하여 앙상블를 학습하고, 최신 기술 수준의 분류기들과의 일반화 성능을 평가한다.

실험 결과

연구 질문

• RQ1 일상적으로 사용되는 유일변량 탄성 유사성 및 거리 측정법의 다변량 확장은 실제 데이터셋에서 분류 성능을 향상시키는가?
• RQ2 다변량 DTW에서의 독립 전략과 종속 전략 간 성능 우월성은 우연의 산물인가, 아니면 데이터의 본질적 특성인가?
• RQ3 모든 측정법에서 독립 전략이 항상 종속 전략을 능가하거나 그 반대인 데이터셋이 존재하는가?
• RQ4 다양한 다변량 유사성 및 거리 측정법의 앙상블은 최신 기술 수준의 단일 전략 분류기와 경쟁 가능한 정확도를 달성할 수 있는가?
• RQ5 제안된 다변량 측정법과 앙상블의 계산 비용은 기존 방법과 비교해 어떻게 되며, 확장성에 대한 영향은 무엇인가?

주요 결과

• 일곱 가지 다변량 유사성 및 거리 측정법 중 각각이 적어도 23개의 벤치마크 데이터셋 중 하나에서 최고의 분류 정확도를 달성하여 다양한 도구 키트의 가치를 입증한다.
• 모든 측정법에서 독립 전략이 항상 종속 전략을 능가하거나 그 반대인 데이터셋이 존재하며, 이는 본질적으로 데이터에 의존하는 관계를 시사한다.
• 종속 전략은 고차원 데이터셋에서 성능이 열등한 편이므로, 많은 차원 간의 복잡한 상호의존성을 포착하는 데 한계가 있음을 시사한다.
• 독립 전략은 개별 차원이 강력한 유일변량 분류기인 경우 잘 작동하므로, 차원 간 상대적으로 독립적인 경우 상호 보완적 상호작용의 잠재력이 있음을 시사한다.
• 모든 제안된 측정법을 조합한 다변량 탄성 앙상블(MEE)은 최신 기술 수준의 단일 전략 분류기와 경쟁 가능한 분류 정확도를 달성했다.
• MEE 앙상블의 학습 시간은 높은 편이며, DTWF_D는 한 폴드당 1시간이 조금 넘는 시간이 소요되지만, 목표는 확장성보다 정확도 기준 벤치마크 설정이었으며, 이는 유일변량 탄성 앙상블이 분야 발전에 기여한 방식을 그대로 따르는 것이다.