[논문 리뷰] Time Series Featurization via Topological Data Analysis

Kwang Ho Kim, Jisu Kim외 1명|arXiv (Cornell University)|2018. 12. 07.

Topological and Geometric Data Analysis참고 문헌 56인용 수 12

한 줄 요약

이 논문은 시간지연 임bedding, PCA 기반 노이즈 제거, 지속적 랜드스케이프/실루엣 특징을 조합하여 노이즈에 강건한 시간 시리즈 특징화 방법을 제안한다. 이 방법은 표본 노이즈에 대해 안정성을 보장하며, 합성 및 실세계 데이터에서 시간 시리즈 예측 및 패턴 분류 작업에서 뛰어난 성능을 보인다.

ABSTRACT

We develop a novel algorithm for feature extraction in time series data by leveraging tools from topological data analysis. Our algorithm provides a simple, efficient way to successfully harness topological features of the attractor of the underlying dynamical system for an observed time series. The proposed methodology relies on the persistent landscapes and silhouette of the Rips complex obtained after a de-noising step based on principal components applied to a time-delayed embedding of a noisy, discrete time series sample. We analyze the stability properties of the proposed approach and show that the resulting TDA-based features are robust to sampling noise. Experiments on synthetic and real-world data demonstrate the effectiveness of our approach. We expect our method to provide new insights on feature extraction from granular, noisy time series data.

연구 동기 및 목표

• 강한 시간적 의존성을 가지며 노이즈가 심한 시간 시리즈에서 전통적인 i.i.d.-기반 특징 공학의 한계를 해결하기 위해.
• 알려진 데이터 생성 과정을 가정하지 않고 시간 시리즈에서 위상적 특징을 체계적이고 이론적으로 기반한 방법으로 추출하기 위해.
• TDA 파이프라인에 PCA 기반 노이즈 제거를 통합하여 표본 노이즈에 대한 강건성을 향상시키기 위해.
• 시간 시리즈 데이터에서 유도된 TDA 기반 특징에 대한 이론적 안정성 보장을 수립하기 위해.
• 이 방법의 실용적 유용성을 시간 시리즈 예측 및 복잡한 패턴 인식 작업에서 입증하기 위해.

제안 방법

• 시간 시리즈의 상태 공간을 재구성하기 위해 시간지연 임베딩을 적용하여 점군으로 변환한다.
• 주성분 분석(PCA)을 사용하여 임bedded된 점군을 노이즈 제거하여, 중요한 위상적 특징은 유지하면서 동질론적 노이즈를 감소시킨다.
• 노이즈 제거된 점군에서 Rips 복합체를 구성하여 기저의 애트랙터 위상적 구조를 모델링한다.
• 지속적 호모로지를 계산하고 지속적 랜드스케이프 및 실루엣 함수를 위상적 특징으로 유도한다.
• 안정성 정리들을 활용하여 입력 데이터의 소규모 변형이 위상적 특징에 유한한 변화를 유도함을 보장한다.
• 하류 기계 학습 작업을 위한 최종 특징으로 랜드스케이프 및 실루엣 함수의 $L_\infty$-노름을 활용한다.

실험 결과

연구 질문

• RQ1 지속적 호모로지를 통해 추출된 위상적 특징이 노이즈가 많고 미세한 시간 시리즈에 대해 강건하고 정보적인 표현을 제공할 수 있는가?
• RQ2 PCA 기반 노이즈 제거가 시간 시리즈 데이터에서 의미 있는 위상적 특징의 유지에 어떤 영향을 미치는가?
• RQ3 시간 시리즈의 표본 노이즈 및 변형에 대해 TDA 기반 특징이 어느 정도 안정적인가?
• RQ4 제안된 방법이 시간 시리즈 예측 및 패턴 분류에서 전통적 특징 공학보다 우월한 성능을 보일 수 있는가?
• RQ5 시간 시리즈에서 유도된 TDA 특징에 대해 어떤 이론적 보장을 수립할 수 있는가?

주요 결과

• 제안된 방법은 표본 노이즈 하에서 안정적인 위상적 특징을 달성하며, Bottleneck 거리가 $\sqrt{m}\|\epsilon\|_{\infty} + \frac{2m^{3/2}L_f T \|\epsilon\|_{\infty}(2L_f T + \|\epsilon\|_{\infty})}{\lambda_{\tilde{l}}} + \frac{\sqrt{m}L_f T}{N}$ 으로 유계임을 보였다.
• 지속적 랜드스케이프 및 실루엣 함수의 $L_\infty$-노름은 변형에 대해 안정적이며, 입력 시간 시리즈의 노이즈에 대한 강건성을 보장한다.
• PCA 기반 노이즈 제거는 중요한 위상적 특징을 효과적으로 유지하면서 동질론적 노이즈를 걸러내어 특징 품질을 향상시킨다.
• 합성 및 실세계 데이터에 대한 실험을 통해 단일 예측 및 복잡한 패턴 분류 작업에서 이 방법의 효과성을 확인하였다.
• 이론적 분석을 통해 방법의 TDA 특징이 노이즈에 대해 강건하며, 안정성 범위가 신호의 리프시츠 상수와 PCA 부분공간의 스펙트럼 갭에 따라 달라짐을 수립하였다.
• 단지 베티 수나 수동적인 시각화에 의존하는 기준 방법보다 이 방법이 더 체계적이고 이론적으로 탄탄한 특징화 파이프라인을 제공한다.