[논문 리뷰] Dynamic Time Warping and Geometric Edit Distance: Breaking the Quadratic Barrier

Omer Gold, Micha Sharir|arXiv (Cornell University)|2016. 07. 20.

Time Series Analysis and Forecasting참고 문헌 32인용 수 9

한 줄 요약

이 논문은 실수 공간 R에서 두 개의 n개 점으로 이루어진 시퀀스 간의 동적 시간 왜곡(DTW)과 기하 편집 거리(GED)를 계산하기 위한 최초의 결정적 알고리즘을 제시한다. 이 알고리즘은 O(n²/log log n) 시간에 작동하여 오랫동안 지속된 O(n²) 제곱 시간 장벽을 뛰어넘는다. 이 방법은 분할정복 전략을 사용하며, 분해된 부분 문제에 대해 확장된 프레드먼 기법과 SMAWK 알고리즘을 새로운 방식으로 적용하여, L1 및 L∞과 같은 다면체 거리 측도 하에서 DTW와 GED 양쪽 모두에 하위제곱 시간 성능을 달성한다.

ABSTRACT

Dynamic Time Warping (DTW) and Geometric Edit Distance (GED) are basic similarity measures between curves or general temporal sequences (e.g., time series) that are represented as sequences of points in some metric space (X, dist). The DTW and GED measures are massively used in various fields of computer science and computational biology, consequently, the tasks of computing these measures are among the core problems in P. Despite extensive efforts to find more efficient algorithms, the best-known algorithms for computing the DTW or GED between two sequences of points in X = R^d are long-standing dynamic programming algorithms that require quadratic runtime, even for the one-dimensional case d = 1, which is perhaps one of the most used in practice. In this paper, we break the nearly 50 years old quadratic time bound for computing DTW or GED between two sequences of n points in R, by presenting deterministic algorithms that run in O( n^2 log log log n / log log n ) time. Our algorithms can be extended to work also for higher dimensional spaces R^d, for any constant d, when the underlying distance-metric dist is polyhedral (e.g., L_1, L_infty).

연구 동기 및 목표

• R에서 점 시퀀스 간의 DTW와 GED를 계산하는 데 약 50년간 지속된 O(n²) 시간 복잡도의 장벽을 뛰어넘는 것.
• L1 및 L∞과 같은 다면체 거리 측도 하에서 고차원 공간 Rd로 하위제곱 시간 성능를 확장하는 것.
• 오랫동안 지속된 제곱 시간 동적 프로그래밍 접근 방식을 향상시킨 결정적 알고리즘을 제공하는 것.
• 시간 시리즈 및 궤적 데이터에서 유사도 계산이 필요한 실용적 응용을 지원하는 것.

제안 방법

• 입력 시퀀스를 블록으로 분해하고, 부분 문제를 처리하기 위해 분할정복 전략을 사용한다.
• 격자 부분 문제에서 계단형 경로의 비용을 효율적으로 비교하기 위해 확장된 프레드먼 기법의 수정 버전을 적용한다.
• 완전 단조행렬에 대해 사용되는 SMAWK 알고리즘을 활용해 동적 프로그래밍 전이를 최적화한다.
• 각 부분 문제를 수직, 수평, 대각선 간선을 가진 가중치가 부여된 격자 그래프로 표현하며, 간선 가중치는 거리 또는 갭 페널티에 해당한다.
• R-경계 계산을 통해 부분 문제 경계를 넘어서 최적 경로 비용을 유지하고 전파한다.
• 갈림길 페널티 ρ를 갖는 단조적 매칭을 격자에서의 경로로 모델링함으로써 GED에 맞게 프레임워크를 적응시켰으며, 동일한 최적화 기법을 적용한다.

실험 결과

연구 질문

• RQ1 일차원 시퀀스에서 DTW를 계산하는 데 있어 O(n²) 시간 복잡도를 결정적 알고리즘을 통해 뛰어넘을 수 있는가?
• RQ2 표준 선형 갭 페널티 하에서 DTW의 하위제곱 시간 성능를 기하 편집 거리(GED)로 확장할 수 있는가?
• RQ3 동일한 알고리즘 프레임워크를 L1 및 L∞과 같은 다면체 거리 측도를 갖는 고차원 공간 Rd로 확장할 수 있는가?
• RQ4 비균일한 간선 가중치 하에서 격자 기반 동적 프로그래밍에서 경로 비용을 비교하기 위해 확장된 프레드먼 기법을 어떻게 적용할 수 있는가?
• RQ5 시간 복잡도의 log log n 요소를 고급 행렬 선택 기법을 사용해 더 줄일 수 있는가?

주요 결과

• 논문은 R에서 n개 점으로 이루어진 두 시퀀스 간의 DTW를 계산하는 결정적 O(n²/log log n) 시간 알고리즘을 달성하여 약 50년간 지속된 제곱 시간 장벽을 뛰어넘었다.
• 동일한 알고리즘 프레임워크는 동일한 시간 복잡도로 GED 계산에도 확장되었으며, 최적 매칭과 비용 계산을 모두 지원한다.
• 기본 거리 측도가 다면체(예: L1 또는 L∞)인 경우, 임의의 상수 d에 대해 고차원 공간 Rd에도 적용 가능하다.
• 분할정복, 확장된 프레드먼 기법, SMAWK 알고리즘의 새로운 조합을 통해 동적 프로그래밍 테이블을 최적화하는 데 사용된다.
• 선형 함수로 표현되는 더 일반적인 갭 페널티 함수를 지원하여 외곽선에 대한 강건성을 향상시킨다.
• SMAWK 알고리즘을 통해 시간 복잡도에서 log log log n 요소를 제거함으로써 성능 향상을 달성하였으며, 이는 감사의 글에서 언급된 바 있다.