[논문 리뷰] Structural Break Detection in High-Dimensional Non-Stationary VAR models

Abolfazl Safikhani, Ali Shojaie|arXiv (Cornell University)|2017. 08. 09.

Fault Detection and Control Systems참고 문헌 28인용 수 3

한 줄 요약

이 논문은 조각별로 정 stationarity를 가정하는 고차원 비정상 벡터 자기회귀(VAR) 모델에서 구조적 변화점 탐지를 위한 이단계적 정규화 최소제곱 방법을 제안한다. 이 방법은 전체 변화량 LASSO를 사용하여 변화점의 수와 위치를 일관되게 추정하며, 표본 크기와 함께 증가하는 변화점 수가 있는 경우에도 성능을 유지한다. LASSO 페널티로 인한 과대추정을 보완하기 위해 변수 선택과 역선택을 조합함으로써 이를 달성한다.

ABSTRACT

Assuming stationarity is unrealistic in many time series applications. A more realistic alternative is to allow for piecewise stationarity, where the model is allowed to change at given time points. In this article, the problem of detecting the change points in a high-dimensional piecewise vector autoregressive model (VAR) is considered. Reformulated the problem as a high-dimensional variable selection, a penalized least square estimation using total variation LASSO penalty is proposed for estimation of model parameters. It is shown that the developed method over-estimates the number of change points. A backward selection criterion is thus proposed in conjunction with the penalized least square estimator to tackle this issue. We prove that the proposed two-stage procedure consistently detects the number of change points and their locations. A block coordinate descent algorithm is developed for efficient computation of model parameters. The performance of the method is illustrated using several simulation scenarios.

연구 동기 및 목표

• 실제 응용 분야(예: 뇌파 EEG 데이터 또는 금융 시계열)에서 흔히 발생하는 정상성 가정이 부적절한 기존 고차원 시계열 방법의 한계를 해결하기 위해.
• 의존성 구조가 알려지지 않은 시간점에서 변화하는 고차원 조각별 정 stationarity VAR 모델에서 다중 구조적 변화점을 탐지할 수 있는 방법을 개발하기 위해.
• 표본 크기 증가에 따라 변화점 수가 증가하는 경우에도 변화점의 수와 위치를 일관되게 추정하기 위해.
• LASSO의 변화점 수 과대추정 경향을 보완하기 위해 역선택 기준을 도입하기 위해.

제안 방법

• 전이 행렬을 시간에 따라 조각별로 일정하다고 모델링함으로써 변화점 탐지 문제를 고차원 변수 선택 문제로 재정의한다.
• 전체 변화량 LASSO 페널티를 적용한 정규화 최소제곱 추정기를 사용하여 모형 파라미터를 추정하고 변화점을 탐지한다.
• LASSO 페널티의 본질적 과대추정을 보완하기 위해 역선택 기준을 사용하여 선택 일관성을 향상시킨다.
• 고차원 설정에서 정규화 추정기의 효율적 계산을 위해 블록 좌표 강하 알고리즘을 개발한다.
• 추정기의 이론적 일관성을 보장하기 위해 설계 행렬과 오차 구조에 정규성 조건을 도입한다.
• 모형 적합도와 복잡도의 균형을 맞추기 위해 정보기준(IC)을 사용하여 최적의 변화점 수를 선택한다.

실험 결과

연구 질문

• RQ1 조각별로 정 stationarity를 가정할 때, 다중 구조적 변화점이 존재하는 고차원 VAR 모델은 일관되게 추정될 수 있는가?
• RQ2 전체 변화량 LASSO 페널티의 사용이 고차원 비정상 시계열에서 변화점의 수와 위치를 일관되게 탐지하는 데 기여하는가?
• RQ3 다중 변화점이 존재하는 고차원 설정에서 LASSO에 의한 변화점 과대추정은 어떻게 보완할 수 있는가?
• RQ4 제안된 이단계 절차(LASSO + 역선택)는 변화점의 수와 위치를 일관되게 추정하는가?
• RQ5 표본 크기가 증가함에 따라 변화점 탐지가 일관성이 있게 이루어지기 위한 이론적 조건은 무엇인가?

주요 결과

• 제안된 이단계 방법은 표본 크기 증가에 따라 변화점 수를 일관되게 추정하며, 확률이 1로 수렴한다.
• 이 방법은 변화점 위치의 일관된 추정을 달성하며, 추정된 변화점과 진짜 변화점 사이의 최대 이격 거리가 $ n\gamma_n $ 으로 유계이다.
• 역선택 기준은 LASSO 페널티에 기인한 변화점 과대추정을 성공적으로 보정하여 선택 일관성을 확보한다.
• 이론적 분석 결과, 역선택 단계에서 사용된 정보기준은 정규성 조건 하에서 진짜 변화점 수를 정확히 식별함을 보여준다.
• 시뮬레이션 결과는 차원과 변화점 수가 증가함에도 불구하고 이 방법이 고차원 VAR 모델에서 다중 변화점을 정확히 탐지함을 확인한다.
• 블록 좌표 강하 알고리즘은 정규화 추정기의 효율적 계산을 가능하게 하여 이 방법이 고차원 시계열에 대해 확장 가능함을 보여준다.