[논문 리뷰] Localizing Changes in High-Dimensional Vector Autoregressive Processes

Daren Wang, Yi Yu외 2명|arXiv (Cornell University)|2019. 09. 12.

Statistical Methods and Inference참고 문헌 62인용 수 20

한 줄 요약

이 논문은 계수 행렬이 조각별로 일정한 고차원 벡터 자기회귀(VAR) 과정에서 변화점들을 국소화하기 위한 새로운 동적 프로그래밍 방법을 제안한다. 이 방법은 차원 수, 흐ř림 정도, 시간 간격, 계수 차이 등 다양한 조건에서도 일致적인 변화점 탐지 성능을 보이며, 정밀도 향상 알고리즘을 통해 증명 가능한 개선된 오류율을 달성하여 시뮬레이션과 실제 데이터에서 기존 방법들을 능가한다.

ABSTRACT

Autoregressive models capture stochastic processes in which past realizations determine the generative distribution of new data; they arise naturally in a variety of industrial, biomedical, and financial settings. A key challenge when working with such data is to determine when the underlying generative model has changed, as this can offer insights into distinct operating regimes of the underlying system. This paper describes a novel dynamic programming approach to localizing changes in high-dimensional autoregressive processes and associated error rates that improve upon the prior state of the art. When the model parameters are piecewise constant over time and the corresponding process is piecewise stable, the proposed dynamic programming algorithm consistently localizes change points even as the dimensionality, the sparsity of the coefficient matrices, the temporal spacing between two consecutive change points, and the magnitude of the difference of two consecutive coefficient matrices are allowed to vary with the sample size. Furthermore, the accuracy of initial, coarse change point localization estimates can be boosted via a computationally-efficient refinement algorithm that provably improves the localization error rate. Finally, a comprehensive simulation experiments and a real data analysis are provided to show the numerical superiority of our proposed methods.

연구 동기 및 목표

• 시간에 따라 모형 파라미터가 변화하는 고차원 벡터 자기회귀(VAR) 과정에서 변화점을 탐지하는 데 도전하는 것.
• 표본 크기가 증가함에 따라 차원 수, 흐ř림 정도, 시간 간격 등이 변화하더라도 변화점을 일관되게 국소화할 수 있는 방법을 개발하는 것.
• 계산 효율성이 높은 정밀화 알고리즘을 통해 초기 변화점 추정치의 정확도를 향상시키고, 오류율 향상의 증명 가능한 성과를 도출하는 것.
• 시뮬레이션과 실제 데이터에서 기존 방법들인 INSPECT 및 SBS-MVTS에 비해 수치적으로 뛰어난 성능을 입증하는 것.

제안 방법

• 조각별 일정한 계수 행렬을 가진 고차원 VAR 과정에서 변화점을 탐지하기 위한 동적 프로그래밍 알고리즘을 제안한다.
• 모형 적합도와 흐ř림 정도를 균형 있게 조절하기 위해 펜라티드 우도 공식을 활용한다.
• 초기 거친 변화점 추정치의 정확도를 향상시키기 위해 정밀화 알고리즘을 도입하여 국소화 오류율을 감소시킨다.
• 일致성 있는 변화점 국소화를 보장하는 이론적 분석을 수행하였으며, 일반적인 고차원 점점적 근사 조건(다양한 흐ř림 정도와 시간 간격 포함) 하에서도 성립함을 입증하였다.
• 고차원 설정에서 추정 오차를 제어하기 위해 제한된 고유값 조건과 하중형 꼬리 경계를 사용한다.
• 알고리즘은 시뮬레이션 연구와 실증 분석을 통해 합성 데이터와 실제 시계열 데이터에 적용되었으며 성능이 검증되었다.

실험 결과

연구 질문

• RQ1 계수 행렬이 조각별 일정한 고차원 VAR 과정에서 동적 프로그래밍 접근법이 변화점을 일관되게 국소화할 수 있는가?
• RQ2 제안된 방법은 VAR 모델에서의 구조적 변화를 탐지할 때 기존의 변화점 탐지 방법들인 INSPECT 및 SBS-MVTS에 비해 어떻게 성능을 발휘하는가?
• RQ3 제안된 방법의 이론적 오류율은 무엇이며, 정밀화 알고리즘을 통해 향상시킬 수 있는가?
• RQ4 다양한 차원 수, 흐ř림 정도, 변화점 간 시간 간격이 방법의 일치성과 정확도에 미치는 영향은 어떠한가?
• RQ5 이 방법은 평균 또는 공분산 기반 변화점 탐지 기법으로는 탐지할 수 없는 변화를 탐지할 수 있는가?

주요 결과

• 제안된 동적 프로그래밍 방법은 차원 수, 흐ř림 정도, 시간 간격 등이 표본 크기에 따라 변화하더라도 고차원 VAR 모델에서 변화점 국소화에 대해 일관성을 유지한다.
• 정밀화 알고리즘이 오류율 향상을 증명적으로 보이며, 初기 거친 추정치를 초월해 추정 오차를 감소시킨다.
• 시뮬레이션 연구에서 제안된 방법은 예제 1에서 t=80과 t=160에 변화점을 정확히 식별한 반면, INSPECT 및 SBS-MVTS는 이를 탐지하지 못했다.
• 원자료나 표본 공분산 행렬에서 변화가 명백하지 않은 VAR 과정에서의 변화를 탐지하는 데 경쟁 방법들보다 뛰어난 성능을 보였다.
• 이론적 분석 결과, 비독립 동일분포가 아닌 노이즈 및 시간에 따라 변화하는 계수 구조를 포함한 일반적인 고차원 점점적 근사 조건 하에서도 일치성이 유지됨을 입증하였다.
• 희소성 유도 정규화와 동적 프로그래밍 최적화를 활용한 펜라티드 우도 공식을 통해 오류율 향상을 달성하였다.