[논문 리뷰] Change Points via Probabilistically Pruned Objectives

Nicholas A. James, David S. Matteson|arXiv (Cornell University)|2015. 05. 16.

Statistical Methods and Inference참고 문헌 49인용 수 6

한 줄 요약

이 논문은 임의의 적합도 측도를 사용하여 다변량 시계열에서 다중 변화점 검출을 위한 확률적 분할을 적용한 cp3o 알고리즘을 소개한다. 정확한 탐색과 확률적 분할을 조합함으로써 cp3o는 시계열 길이가 증가함에 따라 변화점의 위치와 수에 대한 일致성 있는 추정을 달성하며, E-통계와 결합될 경우 e-cp3o—최소한의 모멘트 가정 하에 어떤 분포 변화도 감지할 수 있는 비모수적 방법—를 제공한다.

ABSTRACT

The concept of homogeneity plays a critical role in statistics, both in its applications as well as its theory. Change point analysis is a statistical tool that aims to attain homogeneity within time series data. This is accomplished through partitioning the time series into a number of contiguous homogeneous segments. The applications of such techniques range from identifying chromosome alterations to solar flare detection. In this manuscript we present a general purpose search algorithm called cp3o that can be used to identify change points in multivariate time series. This new search procedure can be applied with a large class of goodness of fit measures. Additionally, a reduction in the computational time needed to identify change points is accomplish by means of probabilistic pruning. With mild assumptions about the goodness of fit measure this new search algorithm is shown to generate consistent estimates for both the number of change points and their locations, even when the number of change points increases with the time series length. A change point algorithm that incorporates the cp3o search algorithm and E-Statistics, e-cp3o, is also presented. The only distributional assumption that the e-cp3o procedure makes is that the absolute $α$th moment exists, for some $α\in(0,2)$. Due to this mild restriction, the e-cp3o procedure can be applied to a majority of change point problems. Furthermore, even with such a mild restriction, the e-cp3o procedure has the ability to detect any type of distributional change within a time series. Simulation studies are used to compare the e-cp3o procedure to other parametric and nonparametric change point procedures, we highlight applications of e-cp3o to climate and financial datasets.

연구 동기 및 목표

• 다양한 분포에 대한 최소한의 가정 하에 다변량 시계열에서 변화점을 식별할 수 있는 일반 목적의 계산 효율적인 탐색 알고리즘을 개발하기 위해.
• 통계적 일관성을 유지하면서도 계산 부담을 줄이기 위해 확률적 분할을 통해 변화점 탐지의 계산 비용을 감소시키기 위해.
• 강한 파라미터 가정 없이 어떤 유형의 분포 변화도 감지할 수 있는 비모수적 방법을 만들기 위해.
• 탐색 절차를 변화점 수와 분리함으로써 다양한 분할을 효율적으로 탐색할 수 있도록 하기 위해.
• 약한 정규성 조건 하에서 변화점의 수와 위치에 대한 이론적 일관성 보장을 제공하기 위해.

제안 방법

• 정확한 탐색 알고리즘인 cp3o를 제안하며, 이는 최적화되지 않은 분할을 조기에 제거하기 위해 확률적 분할을 사용한다. 이로 인해 계산 비용이 감소한다.
• 적합도 측도에서 유도된 확률적 경계를 기반으로 한 동적 프로그래밍과 분할을 적용한다.
• cp3o를 E-통계(E-로버스트)와 통합하여 e-cp3o를 구성함으로써, 어떤 분포 변화도 비모수적으로 감지할 수 있도록 한다.
• E-통계는 불완전한 U-통계를 기반으로 하며, α ∈ (0,2)에 대해 α차 절대모멘트 존재를 요구하기만 한다.
• 통계적 안정성 확보와 과적합 방지를 위해 최소 세그먼트 길이 제약 조건(δ = 5 또는 6개 관측치)을 적용한다.
• 적합도 측도의 꼬리 행동에 따라 결정되는 분할 규칙을 사용함으로써, 약한 가정 하에서도 일관성을 확보한다.

실험 결과

연구 질문

• RQ1 기본 분포에 대한 최소한의 가정 하에 다변량 시계열에서 다중 변화점을 감지할 수 있는 일반 목적의 탐색 알고리즘을 설계할 수 있는가?
• RQ2 정확한 변화점 탐지에서 통계적 일관성을 유지하면서도 계산 효율성을 크게 향상시킬 수 있는가?
• RQ3 오직 모멘트 존재 조건만을 요구하는 비모수적 방법이 얼마나 다양한 분포 변화를 감지할 수 있는가?
• RQ4 정확한 탐색과 확률적 분할을 통합함으로써 변화점의 수와 위치에 대한 일관성 있는 추정을 얻을 수 있는가?
• RQ5 기존의 파라미터 기반 및 비모수적 변화점 탐지 기법과 비교할 때 e-cp3o의 성능과 속도는 어떠한가?

주요 결과

• cp3o 알고리즘은 적합도 측도에 대한 약한 가정 하에 시계열 길이가 증가함에 따라 변화점의 수와 위치에 대해 일관성 있는 추정을 달성한다.
• e-cp3o는 어떤 유형의 분포 변화도 다변량 시계열에서 감지할 수 있으며, α ∈ (0,2)에 대해 어떤 α차 절대모멘트가 존재하기만 하면 된다.
• 외환 환율 데이터에서 두 개의 주요 변화점을 식별했다: 1998년 5월 31일(러시아 루블 위기 관련), 2000년 3월 31일(브라질의 자유 환율 제도 전환 관련).
• 정확한 분할을 사용하는 근사 통계와의 조합에 비해 e-cp3o는 정확한 분할을 적용한 근사 E-통계를 사용함으로써 상당히 빠른 성능을 보였다.
• 시뮬레이션 연구 결과, e-cp3o는 다양한 데이터 유형에서 분포 이탈을 감지하는 데 있어 다른 비모수적 및 파라미터 기반 방법보다 뛰어난 성능을 보였다.
• 기후 및 금융 데이터 응용 사례를 통해 비정규분포 및 무거운 尾 분포에 대해 강건함을 입증하였다.