[논문 리뷰] AMP: a new time-frequency feature extraction method for intermittent time-series data

Duncan Barrack, James Goulding외 3명|arXiv (Cornell University)|2015. 07. 20.

Time Series Analysis and Forecasting참고 문헌 31인용 수 4

한 줄 요약

이 논문은 간헐적 시간열 데이터(장기간의 정지 상태에 이어 일시적인 활동이 나타나는 데이터)에 특화된 새로운 시간주파수 특징 추출 방법인 AMP(Aggregation, Mode Decomposition, and Projection)을 제안한다. 개별 시계열을 복합 신호로 집계하고, 이에 대해 경험적 모드 분해(EMD)를 적용해 내재 모드 함수(IMF)를 추출한 후, 개별 시계열을 이들 IMF에 투영함으로써 핵심적인 시간주파수 패턴을 효과적으로 포착한다. 이 방법은 합성 및 실세계 간헐적 데이터(미국 MIT 통신 로그 포함)에서 전통적인 클러스터링 기법보다 뛰어난 성능을 보이며, 행동적으로 의미 있는 하위 집단을 정확히 파악할 수 있다.

ABSTRACT

The characterisation of time-series data via their most salient features is extremely important in a range of machine learning task, not least of all with regards to classification and clustering. While there exist many feature extraction techniques suitable for non-intermittent time-series data, these approaches are not always appropriate for intermittent time-series data, where intermittency is characterized by constant values for large periods of time punctuated by sharp and transient increases or decreases in value. Motivated by this, we present aggregation, mode decomposition and projection (AMP) a feature extraction technique particularly suited to intermittent time-series data which contain time-frequency patterns. For our method all individual time-series within a set are combined to form a non-intermittent aggregate. This is decomposed into a set of components which represent the intrinsic time-frequency signals within the data set. Individual time-series can then be fit to these components to obtain a set of numerical features that represent their intrinsic time-frequency patterns. To demonstrate the effectiveness of AMP, we evaluate against the real word task of clustering intermittent time-series data. Using synthetically generated data we show that a clustering approach which uses the features derived from AMP significantly outperforms traditional clustering methods. Our technique is further exemplified on a real world data set where AMP can be used to discover groupings of individuals which correspond to real world sub-populations.

연구 동기 및 목표

• 간격이 긴 정체 상태와 급격한 일시적 변화를 보이는 간헐적 시간열 데이터에 대해 전통적인 시간주파수 특징 추출 방법(예: 푸리에 변환 및 웨이블릿 변환)이 진동 잔상( ringing artifacts)으로 인해 실패하는 문제를 해결하기 위해.
• 특히 클러스터링 및 분류 작업에 활용하기 위해, 간헐적 시간열 데이터의 내재된 시간주파수 패턴을 신뢰성 있게 식별할 수 있는 강건하고 계산 효율적인 특징 추출 기법을 개발하기 위해.
• AMP가 간헐적 데이터에서 인간 활동의 일주기적, 주간적 리듬과 같은 실제 행동 패턴을 반영하는 의미 있고 해석 가능한 특징을 추출할 수 있음을 입증하기 위해.
• 합성 간헐적 시간열 데이터와 MIT의 Reality Mining 프로젝트에서 확보한 실세계 통신 데이터셋을 대상으로 비교 평가를 통해 AMP의 효과성을 검증하기 위해.

제안 방법

• 분석 대상 데이터셋 내 모든 개별 시계열을 하나의 간헐적이지 않은 복합 신호로 집계하여 분해 과정의 안정성을 확보한다.
• 집계된 신호에 경험적 모드 분해(EMD)를 적용하여 데이터에 존재하는 각기 다른 시간주파수 패턴을 나타내는 내재 모드 함수(IMF)의 집합을 추출한다.
• 집계된 복합 신호로부터 확보한 IMF에 각 개별 시계열을 투영하고, 각 IMF에 대해 해당 패턴이 개별 시계열에 얼마나 강하게 표현되어 있는지를 수량화하는 계수를 계산한다.
• 최종적으로 확보된 투영 계수 집합을 기반으로 기계학습 작업(예: 클러스터링 및 분류)에 사용할 수치적 특징으로 활용한다.
• 간헐성 정도를 측정하기 위해 간헐성 척도 φ(x) = P(xi = M(x))를 정의한다. 여기서 M(x)는 시계열의 최빈값이다.
• 특징 공간을 시각화하고 저차원 표현에서의 클러스터링 성능을 평가하기 위해 고전적 다차원 척도법(MDS)을 적용한다.

실험 결과

연구 질문

• RQ1 전통적인 푸리에 및 웨이블릿 기반 방법이 진동 잔상로 인해 실패하는 간헐적 시간열 데이터에서, 시간주파수 패턴을 효과적으로 포착할 수 있는 특징 추출 방법을 개발할 수 있는가?
• RQ2 알려진 내재 패턴을 가진 합성 간헐적 시간열 데이터에 대해 제안된 AMP 방법이 표준 클러스터링 기법보다 어떻게 성능을 냈는가?
• RQ3 실세계 간헐적 데이터(예: 인간의 통신 패턴)에서 AMP로 유도된 특징이 의미 있는 실제 하위 집단을 얼마나 잘 드러내는가?
• RQ4 AMP의 집계 단계가 장기간의 정지 상태가 존재하는 상황에서 간헐성의 부정적 영향을 완화하여 특징 추출 성능을 향상시키는가?
• RQ5 AMP를 사용하여 실제 간헐적 시간열 데이터에 내재된 행동 리듬(예: 일주기적 또는 주간적 주기)을 식별하고 해석할 수 있는가?

주요 결과

• AMP는 합성 간헐적 시간열 데이터에서 전통적인 클러스터링 기법보다 뚜렷이 뛰어난 성능을 보였으며, AMP 기반 특징을 사용할 경우 클러스터링 정확도가 크게 향상되었다.
• MIT Reality Mining 데이터셋에서 AMP 특징는 미디어 랩 소속자와 스ローン 경영대학원 소속자를 통신 패턴에 기반해 명확히 분리하는 데 성공했으며, 고차원 MDS 시각화 결과에서 그룹 간 분리가 뚜렷하게 관찰되었다.
• 스ローン 경영대학원 소속자에서 IMF 4~6의 계수 값이 미디어 랩 소속자보다 일관되게 높게 나타나, 이 그룹에서 특정 시간주파수 패턴의 표현 강도가 더 높음을 시사했다.
• 단일 3.2 GHz 프로세서를 사용하여 전체 처리 시간이 2분 이내로 끝나, 대규모 응용에 적합한 계산 효율성을 입증했다.
• 간헐성 척도 φ(x)는 간헐성 정도를 효과적으로 측정했으며, 이 척도가 모든 간헐성 유형을 완전히 반영하지 못하더라도 AMP는 여전히 효과적인 성능을 유지했다.
• IMF 분해 결과의 시각적 점검을 통해 IMF 1은 1일 주기(일주기적 리듬)에 해당하고, IMF 3은 7일 주기(주간 리듬)에 해당하는 것으로 확인되어, AMP가 생물학적·행동학적으로 의미 있는 패턴을 정확히 포착함을 확인했다.