[논문 리뷰] Dating the Break in High-dimensional Data

Runmin Wang, Xiaofeng Shao|arXiv (Cornell University)|2020. 02. 10.

Statistical Methods and Inference참고 문헌 16인용 수 5

한 줄 요약

이 논문은 고차원적이고 상호 독립적인 데이터의 평균에서 변화점 위치를 추정하기 위한 새로운 U-통계량 기반 추정기법을 제안하며, 최소제곱법보다 뛰어난 효율성을 달성한다. 이 방법은 점근 이론과 부트스트랩 샘플링을 통해 점근 정규성과 신뢰구간을 확립하며, p >> n 이며 구성 요소들이 상관관계가 있을 경우에도 유효하다.

ABSTRACT

This paper is concerned with estimation and inference for the location of a change point in the mean of independent high-dimensional data. Our change point location estimator maximizes a new U-statistic based objective function, and its convergence rate and asymptotic distribution after suitable centering and normalization are obtained under mild assumptions. Our estimator turns out to have better efficiency as compared to the least squares based counterpart in the literature. Based on the asymptotic theory, we construct a confidence interval by plugging in consistent estimates of several quantities in the normalization. We also provide a bootstrap-based confidence interval and state its asymptotic validity under suitable conditions. Through simulation studies, we demonstrate favorable finite sample performance of the new change point location estimator as compared to its least squares based counterpart, and our bootstrap-based confidence intervals, as compared to several existing competitors. The asymptotic theory based on high-dimensional U-statistic is substantially different from those developed in the literature and is of independent interest.

연구 동기 및 목표

• p >> n 이며 구성 요소들이 상관관계가 있을 수 있는 고차원 데이터에서 구조적 붕괴를 탐지하는 문제에 대응한다.
• 기존의 최소제곱 기반 접근법보다 효율성이 뛰어난 변화점 위치 추정 신규 방법을 개발한다.
• 약한 규칙성 조건 하에서 제안된 추정기의 점근 이론을 수립하며, 수렴 속도와 점근 분포를 포함한다.
• 변화점 위치에 대한 점근적 및 부트스트랩 기반 신뢰구간을 구축하여 고차원 설정에서도 유효성을 확보한다.
• 복잡한 고차원 데이터 구조에서 제안된 방법의 이론적 근거와 유한표본 검증을 제공한다.

제안 방법

• 기존의 최소제곱법을 대체하기 위해 변화점 추정을 위한 새로운 U-통계량 기반 목적함수를 제안한다.
• 약한 모멘트 및 의존성 가정 하에서 U-통계량 최대화자의 수렴 속도와 점근 분포를 도출한다.
• 정규화 상수의 일관된 추정량을 사용하여 변화점 위치에 대한 점근적 신뢰구간을 구성한다.
• 변화의 크기에 적응하는 부트스트랩 기반 신뢰구간 절차를 도입하며, 약한 의존성 하에서도 이론적으로 타당하다.
• 고차원 U-통계량 이론을 활용하여 극한 분포를 유도하며, 기존의 저차원 점근 이론 프레임워크와 크게 다름.
• 하제크-레니 및 콜모고로프 유형 부등식을 적용하여 고차원 설정에서 부분합과 교차곱의 꼬리 확률을 제어한다.

실험 결과

연구 질문

• RQ1 U-통계량 기반 추정기는 고차원 변화점 탐지에서 최소제곱법보다 더 높은 효율성을 달성할 수 있는가?
• RQ2 고차원 및 의존성 있는 데이터 가정 하에서 변화점 추정기의 점근 분포는 무엇인가?
• RQ3 p >> n 이며 구성 요소들이 상관관계가 있을 경우 변화점 위치에 대한 유효한 신뢰구간은 어떻게 구성할 수 있는가?
• RQ4 제안된 부트스트랩 기반 구간은 변화 크기가 알려지지 않은 고차원 설정에서도 점근적으로 유효한가?
• RQ5 기존의 최소제곱 및 CUSUM 기반 접근법에 비해 새로운 방법의 이론적 및 유한표본 성능 우월성은 무엇인가?

주요 결과

• 제안된 U-통계량 기반 추정기는 특정 고차원 모델에서 최소제곱 기반 추정기보다 더 높은 효율성을 달성한다.
• 추정기는 일致적이며, 적절한 중심화 및 정규화 후 $ O_p(n^{-1/2}) $ 속도로 수렴하며, 비퇴화적인 점근 분포를 가진다.
• 약한 가정 하에서 점근적 신뢰구간은 유효하며, 특히 변화의 크기가 중간일 경우 유한표본에서 잘 작동한다.
• 부트스트랩 기반 신뢰구간은 점근적으로 유효하며, 알려지지 않은 변화 크기에 적응하여 우수한 유한표본 성능을 보인다.
• 이론적 분석은 고차원 U-통계량의 행동이 고전적 저차원 이론과 근본적으로 다름을 드러내며, 특히 의존성 구조와 정규화 상수에서 뚜렷한 차이를 보인다.
• 시뮬레이션 연구는 제안된 추정기가 최소제곱법 및 기타 경쟁 방법에 비해 고차원 및 의존성 있는 설정에서 더 뛰어난 유한표본 성능을 보임을 확인한다.