[논문 리뷰] Efficiency of change point tests in high dimensional settings

John A. D. Aston, Claudia Kirch|arXiv (Cornell University)|2014. 09. 05.

Global trade and economics인용 수 4

한 줄 요약

이 논문은 고차원 다변량 설정에서 변화점 탐지 능력을 평가하기 위한 새로운 渐近적 프레임워크인 고차원 효율성(high-dimensional efficiency)을 제안한다. 투영 기반 검정(오라클, 랜덤, 전체 패널 방법 포함)을 비교하여, 투영 방법이 공분산 구조의 잘못된 특정화에 더 강건하며, 표본 수가 제한된 경우에도 높은 검정력(power)을 유지함을 보여준다.

ABSTRACT

While there is considerable work on change point analysis in univariate time series, more and more data being collected comes from high dimensional multivariate settings. This paper introduces the asymptotic concept of high dimensional efficiency which quantifies the detection power of different statistics in such situations. While being related to classic asymptotic relative efficiency, it is different in that it provides the rate at which the change can get smaller with dimension while still being detectable. This also allows for comparisons of different methods with different null asymptotics as is for example the case in high-dimensional change point settings. Based on this new concept we investigate change point detection procedures using projections and develop asymptotic theory for how full panel (multivariate) tests compare with both oracle and random projections. Furthermore, for each given projection we can quantify a cone such that the corresponding projection statistic yields better power behavior if the true change direction is within this cone. The effect of misspecification of the covariance on the power of the tests is investigated, because in many high dimensional situations estimation of the full dependency (covariance) between the multivariate observations in the panel is often either computationally or even theoretically infeasible. It turns out that the projection statistic is much more robust in this respect in terms of size and somewhat more robust in terms of power. The theoretic quantification by the theory is accompanied by simulation results which confirm the theoretic (asymptotic) findings for surprisingly small samples. This shows in particular that the concept of high dimensional efficiency is indeed suitable to describe small sample power, and this is demonstrated in a multivariate example of market index data.

연구 동기 및 목표

• 변화 크기가 차원 증가와 함께 감소할 때 변화점 탐지 능력을 정량화할 수 있는 새로운 渐近적 프레임워크인 고차원 효율성을 개발하는 것.
• 변화 방향에 대한 다양한 가정 하에 고차원 변화점 탐지에서 투영 기반 검정(오라클, 랜덤, 전체 패널)의 성능을 비교하는 것.
• 공분산 구조의 잘못된 특정화에 대한 다양한 검정 통계량의 강건성(robustness)을 평가하는 것. 이는 고차원 설정에서 흔한 과제이다.
• 전체 공분산 추정이 불가능하거나 정확하지 않을 경우에도 투영 기반 방법이 높은 검정력과 크기 제어(size control)를 유지할 수 있음을 보여주는 것.
• 이론적 결과를 시뮬레이션과 실제 다변량 시장 지수 데이터 예제를 통해 검증하여, 소표본 설정에서도 적용 가능함을 보여주는 것.

제안 방법

• 변화 크기가 차원 증가와 함께 감소할 때도 탐지 가능한 속도를 정량화하는 척도로 고차원 효율성을 정의한다.
• 선택된 방향에서 관측치의 선형 조합에 기반한 투영 기반 검정 통계량을 사용하며, 최적의 성능은 투영 방향이 진짜 변화 방향과 일치할 때 달성된다.
• 기능 중심극한정리와 Hájek–Rényi 유형 부등식을 사용하여 근사적인 분포를 근본가정과 국소 대립가정 하에 유도한다.
• 주어진 투영이 전체 패널 검정보다 더 높은 검정력을 갖는 방향의 원뿔(cone of directions)을 도입하여, 변화 방향에 대한 사전 지식의 이점 수치화.
• 공분산의 잘못된 특정화가 미치는 영향을 분석하기 위해 잘못된 또는 추정된 공분산 구조 하에서 검정 크기와 검정력을 비교한다.
• CUSUM 유형의 검정 통계량에 이 이론을 적용하고, 공분산 행렬의 고유값과 노름에 대한 다양한 정규성 조건 하에서 그의 渐近적 행동을 유도한다.

실험 결과

연구 질문

• RQ1 변화 크기가 비례적으로 감소할 때, 변화점 탐지 검정의 탐지 능력은 차원 증가와 함께 어떻게 척도화되는가?
• RQ2 투영 방향의 선택은 변화점 탐지 검정의 검정력에 어떻게 영향을 미치며, 전체 패널 검정보다 성능이 뛰어난 방향의 범위는 무엇인가?
• RQ3 투영 기반 검정은 전체 패널 검정에 비해 공분산 구조의 잘못된 특정화에 얼마나 강건한가?
• RQ4 고차원 효율성의 이론적 개념은 실제 데이터 설정에서 소표본 성능을 정확히 예측할 수 있는가?
• RQ5 국소 대립가정 하에서 오라클, 랜덤, 전체 패널 검정의 상대적 효율성은 무엇인가?

주요 결과

• 고차원 효율성은 변화의 탐지 가능성과 데이터의 차원성 간의 의미 있는 渐近적 연결고리 역할을 하며, 변화 크기가 감소할 수 있는 속도를 정량화한다.
• 진짜 변화 방향을 사용하는 오라클 투영 검정은 최고의 효율성을 달성하며, 변화 방향을 알고 있을 경우 전체 패널 검정을 능가한다.
• 투영 기반 검정은 크기 제어 측면에서 공분산의 잘못된 특정화에 매우 강건하며, 공분산이 잘못 특정화된 경우에도 크기 왜곡이 최소한이다.
• 투영 검정의 검정력 역시 전체 패널 검정보다 더 강건하며, 진짜 변화 방향이 더 높은 성능을 내는 원뿔 내에 있을 경우 특히 그렇다.
• 시뮬레이션 결과는 고차원 효율성이 소표본 성능을 정확히 예측함을 확인하며, 중간 크기의 표본에서도 투영 기반 방법이 전체 패널 검정을 능가함을 보여준다.
• 실제 다변량 시장 지수 데이터 예제에서 투영 기반 검정은 뛰어난 검정력과 강건성을 보였으며, 이는 실제 설정에서 이론적 결과의 타당성을 검증한다.