[논문 리뷰] Time Series Alignment with Global Invariances

Titouan Vayer, Romain Tavenard외 4명|arXiv (Cornell University)|2020. 02. 10.

Time Series Analysis and Forecasting참고 문헌 45인용 수 5

한 줄 요약

이 논문은 다변량 시계열에서 시간적 및 특징 수준의 불변성(예: 시간 왜곡, 센서 순열)을 동시에 다루기 위해 동적 시간 왜곡(DTW)을 통한 시간 정렬과 특징 공간 변환을 동시에 최적화하는 새로운 유사도 측정법인 DTW-GI를 제안한다. 새로운 기하학적 구조 아래에서 미분 가능한 손실 함수와 바리센터 계산을 도입함으로써, 커버 노래 식별 및 인간 운동 예측에서 최신 기술 수준의 성능을 달성한다. 이는 시간 왜곡과 특징 공간 내의 강체 변환을 동시에 최적화할 수 있도록 한다.

ABSTRACT

Multivariate time series are ubiquitous objects in signal processing. Measuring a distance or similarity between two such objects is of prime interest in a variety of applications, including machine learning, but can be very difficult as soon as the temporal dynamics and the representation of the time series, {\em i.e.} the nature of the observed quantities, differ from one another. In this work, we propose a novel distance accounting both feature space and temporal variabilities by learning a latent global transformation of the feature space together with a temporal alignment, cast as a joint optimization problem. The versatility of our framework allows for several variants depending on the invariance class at stake. Among other contributions, we define a differentiable loss for time series and present two algorithms for the computation of time series barycenters under this new geometry. We illustrate the interest of our approach on both simulated and real world data and show the robustness of our approach compared to state-of-the-art methods.

연구 동기 및 목표

• 시간 왜곡과 센서 순열과 같은 전역 불변성으로 인해 시간 동적 특성과 특징 공간 표현이 다른 다변량 시계열을 비교하는 데 도전하는 문제를 해결하기 위해.
• 시간 정렬과 특징 공간 변환을 동시에 최적화하는 통합 유사도 측정법을 개발하여, 시계열 데이터의 분포 이탈에 대한 강건성을 향상시키기 위해.
• 새로운 기하학적 프레임워크 하에서 이질적인 시계열에 대한 바리센터 계산을 가능하게 하여 클러스터링 및 예측과 같은 후속 응용을 지원하기 위해.
• 예를 들어 음악에서의 키 전치와 같은 변환 유형에 대한 사전 지식을 제약 최적화를 통해 통합함으로써, 방법의 유연성을 입증하기 위해.

제안 방법

• 시계열 정렬 문제를 시간 정렬(DTW 또는 소프트DTW를 통한)과 특징 공간 내 전역 변환(예: 스티펠 맨포이드 상의 회전)을 동시에 최적화하는 통합 최적화 문제로 공식화한다.
• 기울기 기반 최적화 방법을 사용하여 정렬 및 변환 파라미터를 엔드 투 엔드로 최적화할 수 있도록, 미분 가능한 손실 함수를 도입한다.
• 직교 변환(예: 회전, 순열)과 같은 다양한 불변성 유형을 지원하며, 변환 가족에 대한 사전 지식을 통해 제약 최적화를 가능하게 한다.
• DTW-GI 기하학 하에서 시계열 바리센터를 계산하기 위한 두 가지 알고리즘을 제안하여, 이질적인 시계열에 대한 클러스터링 및 표현 학습을 가능하게 한다.
• 예를 들어 음악에서의 12개 음계 전치와 같은 이산 변환 집합을 처리하기 위해 모든 후보를 체계적으로 평가하고 최적의 것을 선택함으로써, 이론적으로도 유연성을 확보한다.
• 기존의 CTW 및 GromovDTW와 달리 변환 매핑을 명시적으로 학습함으로써, 후속 작업에서의 재사용과 딥러닝 파ip라인과의 더 나은 통합을 가능하게 한다.

Figure 1: DTW-GI aligns time series by optimizing on temporal alignment $\pi$ (through Dynamic Time Warping) and feature space transformation $f$ ( e.g. here in the Stiefel manifold $\mathbb{V}_{2,3}$ ). In the figure $\pi^{*},f^{*}$ denote the solutions of the optimization problem DTW-GI. Time seri

실험 결과

연구 질문

• RQ1 전역 불변성 하에서 시계열 유사도 측정을 향상시키기 위해, 시간 정렬과 특징 공간 변환을 동시에 최적화할 수 있는 통합 프레임워크가 가능한가?
• RQ2 실제 시계열 데이터에서 이질적인 표현을 가진 데이터를 다룰 때, 제안된 시간 왜곡과 특징 변환의 통합 최적화 방식이 최신 기술 수준의 방법들과 비교해 어떻게 성능을 내는가?
• RQ3 예를 들어 음악에서의 키 전치와 같은 변환 유형에 대한 사전 지식을 정렬 과정에 얼마나 잘 통합할 수 있으며, 성능 향상에 기여하는가?
• RQ4 제안된 기하학적 구조는 이질적인 시계열에 대해 의미 있는 바리센터를 계산하는 데 얼마나 기여하는가? 이는 클러스터링 및 표현 학습을 가능하게 하는가?
• RQ5 DTW-GI의 미분 가능한 공식화 방식은 딥러닝 모델에 어떻게 통합될 수 있으며, 표현 학습 또는 모방 학습과 같은 작업에 잠재적 활용 가능성이 있는가?

주요 결과

• 스티펠 맨포이드 상에서 특징 공간 최적화를 적용한 경우, 커버 노래 식별 작업에서 MR1가 29.0 ± 1.0을 기록하며, 정렬과 변환을 동시에 최적화하지 않는 기준 모델들을 능가한다.
• 12개의 가능한 키 전치에 대한 사전 지식을 통합함으로써, 평균 특징 상에서 전치를 계산하는 기준 모델 대비 상당한 성능 향상을 달성하며, 통합 최적화의 유용성을 입증한다.
• 모의 데이터와 실제 데이터셋 양쪽 모두에서 CTW 및 기타 최신 기술 수준의 접근 방식을 능가하며, 특징 공간 내의 회전과 시간 이동에 대해 강건함을 보였다.
• 저자들의 지식에 비추어 볼 때, 이질적인 시계열에 대한 DTW-GI 기하학 하에서의 바리센터 계산은 최초의 공식화로, 클러스터링 및 표현 학습 분야의 새로운 응용 가능성을 열어준다.
• 소프트DTW-GI를 통해 정렬 및 변환을 모두 미분 가능하게 하여, 향후 연구에서 트리플릿 손실 학습과의 호환성을 입증함으로써, 딥러닝 모델에서 손실 함수나 특징 추출기로의 잠재적 활용 가능성을 시사한다.

Figure 2: Example alignments between 2D time series (trajectories in the plane). Color coding corresponds to timestamps. Our DTW-GI method jointly estimates temporal alignment and global rotation between time series. On the contrary, standard DTW alignment fails at capturing feature space distortion