[논문 리뷰] Clustering of Series via Dynamic Mode Decomposition and the Matrix Pencil Method

Leonid Pogorelyuk, Clarence W. Rowley|arXiv (Cornell University)|2018. 02. 27.

Model Reduction and Neural Networks참고 문헌 10인용 수 5

한 줄 요약

이 논문은 다차원 시계열 데이터의 군집화를 위해 동적 모드 분해(DMD)와 매트릭스 펜슬 방법을 조합하여, 모든 시퀀스를 동시에 고려해 복소수 주파수와 진폭을 공동으로 추정하는 새로운 특징 추출 방법을 제안한다. 이 방법은 차원 축소를 가능하게 하며, 어떤 주파수가 어느 데이터 분할에 해당하는지 식별할 수 있게 하여, 통합된 최소제곱 모델을 전체 데이터셋에 적용함으로써 합성 데이터 및 현미경 데이터에서 군집 정확도를 크게 향상시킨다.

ABSTRACT

In this paper, a new algorithm for extracting features from sequences of multidimensional observations is presented. The independently developed Dynamic Mode Decomposition and Matrix Pencil methods provide a least-squares model-based approach for estimating complex frequencies present in signals as well as their corresponding amplitudes. Unlike other feature extraction methods such as Fourier Transform or Autoregression which have to be computed for each sequence individually, the least-squares approach considers the whole dataset at once. It invokes order reduction methods to extract a small number of features best describing all given data, and indicate which frequencies correspond to which sequences. As an illustrative example, the new method is applied to regions of different grain orientation in a Transmission Electron Microscopy image.

연구 동기 및 목표

• 개별적으로 처리하는 대신, 동시에 여러 시계열을 처리할 수 있는 모델 기반 특징 추출 방법을 개발하는 것.
• 전체 데이터셋에 대한 최소제곱 프레임워크를 활용해 시퀀스 간 공통 및 차별화된 동역학 모드를 식별하는 것.
• 기존 방법에 비해 향상된 군집 성능를 달성하기 위해, 기반 역학을 나타내는 주파수 기반 특징을 추출함으로써, 어떤 시퀀스가 공통된 역학을 공유하고 있는지 밝혀내는 것.
• DMD, 매트릭스 펜슬, ESPRIT 방법의 통찰을 통합하여 순차적 데이터를 위한 일관된 특징 추출 파이프라인을 만드는 것.
• 실제 응용 사례인 입자 배향의 투과형 전자현미경 영상에서 이 방법의 효과성을 입증하는 것.

제안 방법

• 지연 관측량을 적용하여 다차원 시계열에서 헨켈 행렬을 구성함으로써 선형 역학을 통한 시스템 식별을 가능하게 한다.
• 헨켈 행렬에 대해 특이값 분해(SVD)를 적용하여 주요 모드와 주파수를 추출하며, DMD, 매트릭스 펜슬, ESPRIT가 특정 조건 하에서 등가임을 활용한다.
• 행렬 펜슬 (X, Y)에 대해 일반화된 고유값 문제를 해결하여, 모든 시퀀스에 걸쳐 복소수 주파수와 해당 진폭을 추출한다.
• 가장 중요한 모드만 선택함으로써 차원 축소를 수행하여 차원을 감소시키면서도 동역학적 구조를 유지한다.
• 분할별 일반화된 고유벡터를 계산하여 각 주파수가 어느 데이터 그룹에서 유래되었는지를 연관지어, 모드 할당을 통한 군집화를 가능하게 한다.
• 모든 시퀀스에 걸쳐 단일 최소제곱 최적화를 통해 주파수와 진폭을 공동으로 추정함으로써, 개별 시퀀스 처리를 피한다.

실험 결과

연구 질문

• RQ1 일관된 최소제곱 접근 방식이 개별 시퀀스 처리 방법에 비해 다수의 시계열 간 공통 동역학적 특징을 더 효과적으로 추출할 수 있는가?
• RQ2 동일한 데이터셋에 대해 동일한 공동 추정 프레임워크 내에서 DMD, 매트릭스 펜슬, ESPRIT 방법이 어떻게 상호 비교될 수 있는가?
• RQ3 전체 데이터셋에서 유도된 주파수 기반 특징이 기존 방법에 비해 군집 성능 향상에 얼마나 기여하는가?
• RQ4 신호가 노이즈가 있거나 겹치는 경우에도 특정 주파수를 명확히 특정 데이터 분할에 할당할 수 있는가?
• RQ5 모드와 진폭을 시퀀스 간 공동으로 추정함으로써 군집 결과의 해석 가능성과 정확도가 향상되는가?

주요 결과

• 제안된 방법은 전체 시퀀스에 걸쳐 주파수와 진폭을 단일 최소제곱 최적화로 공동으로 추정함으로써 정확한 시계열 군집화를 달성한다.
• 행렬 펜슬 (X, Y)의 일반화된 고유벡터는 특정 주파수가 어느 데이터 분할에 포함되어 있는지를 정확히 식별하여 모드 할당을 가능하게 한다.
• 이 방법은 전자현미경 영상에서 입자 배향의 다양한 영역을 그들의 동역학 모드에 기반해 성공적으로 군집화한다.
• 차원 축소와 공통 모델 피팅을 통해 시퀀스 간 관계를 활용함으로써, 개별 처리 방법에 비해 성능이 뛰어나다.
• DMD, 매트릭스 펜슬, ESPRIT 간 이론적 등가성이 공동 데이터 분석의 맥락에서 확인되었으며, 동일 조건 하에서는 동일한 결과를 도출한다.
• 동일한 동역학 성분을 공유하는 다수의 시퀀스가 존재하더라도, 이 방법은 모든 고유한 복소수 주파수와 그에 해당하는 진폭을 정확히 식별한다.