[논문 리뷰] Bootstrapping High Dimensional Time Series

Xianyang Zhang, Guang Cheng|arXiv (Cornell University)|2014. 06. 04.

Statistical Methods and Inference참고 문헌 39인용 수 27

한 줄 요약

이 논문은 차원이 표본 크기와 함께 지수적으로 증가하는 고차원 정적 시간열에서 약한 의존성 하에 블록형 승수(와일드) 부트스트랩을 개발하여, 근사적으로 선형인 통계량에 대한 타당한 추론을 가능하게 한다. 주요 기여는 표본 크기와 함께 다항수로 감소하는 오차를 가진 유한표본 가우시안 근사 이론을 제공함으로써, 균일 신뢰구간, 제2차 모멘트 성질 검정(예: 백색잡음, 띠형 공분산), 스펙트럼 성질 추론이 자료의 자기공분산의 구조나 정규분포 가정 없이도 가능하게 한다.

ABSTRACT

This article studies bootstrap inference for high dimensional weakly dependent time series in a general framework of approximately linear statistics. The following high dimensional applications are covered: (1) uniform confidence band for mean vector; (2) specification testing on the second order property of time series such as white noise testing and bandedness testing of covariance matrix; (3) specification testing on the spectral property of time series. In theory, we first derive a Gaussian approximation result for the maximum of a sum of weakly dependent vectors, where the dimension of the vectors is allowed to be exponentially larger than the sample size. In particular, we illustrate an interesting interplay between dependence and dimensionality, and also discuss one type of "dimension free" dependence structure. We further propose a blockwise multiplier (wild) bootstrap that works for time series with unknown autocovariance structure. These distributional approximation errors, which are finite sample valid, decrease polynomially in sample size. A non-overlapping block bootstrap is also studied as a more flexible alternative. The above results are established under the general physical/functional dependence framework proposed in Wu (2005). Our work can be viewed as a substantive extension of Chernozhukov et al. (2013) to time series based on a variant of Stein's method developed therein.

연구 동기 및 목표

• 약한 의존성을 가진 고차원 시간열에 대해 타당한 부트스트랩 추론 방법의 부족을 해결하기 위해.
• 정규분포나 i.i.d. 가정 없이도 고차원 평균 벡터에 대한 균일 신뢰구간을 구축할 수 있도록 하기 위해.
• 고차원 시간열에서 알려지지 않은 자기공분산의 구조를 사전에 알 필요 없이 작동하는 부트스트랩 절차를 개발하기 위해.
• 띠형 구조나 백색잡음 검정을 포함한 고차원 시간열의 제2차 모멘트 및 스펙트럼 성질에 대한 사양 검정을 지원하기 위해.
• 표본 크기와 함께 지수적으로 증가하는 차원을 가진 약한 의존성 벡터의 최대값에 대한 유한표본 가우시안 근사 이론을 수립하기 위해.

제안 방법

• 스테인의 방법과 슬레피안 보간법을 변형하여 약한 의존성을 가진 랜덤 벡터의 합의 최대값에 대한 가우시안 근사를 유도한다.
• 모르고 있는 자기공분산 행렬의 직접 추정을 피하기 위해 i.i.d. 승수 변수를 사용하는 블록형 승수(와일드) 부트스트랩을 제안한다.
• 블록형 승수 부트스트랩의 영향을 줄이기 위해 비중복 블록 부트스트랩을 민첩한 대안으로 활용한다.
• 우(2005)의 물리적/기능적 의존성 프레임워크를 활용하여 고차원 시간열에서의 약한 의존성을 모델링한다.
• 표본 최대값과 그 가우시안 유사값 사이의 콜모고로프 거리에 대한 경계를 도출하며, 오차는 표본 크기와 함께 다항수로 감소한다.
• 영향 함수 기반 추정 방정식과 블록 평균 통계량을 사용하여 스펙트럼 및 제2차 모멘트 성질에 대한 검정 통계량을 구성한다.

실험 결과

연구 질문

• RQ1 표본 크기와 함께 지수적으로 증가하는 차원을 가진 고차원 시간열에 대해, 표본 크기와 함께 다항수로 감소하는 오차를 가지는 부트스트랩 방법을 개발할 수 있는가?
• RQ2 약한 의존성이 고차원 시간열의 최대값에 대한 가우시안 근사 정확도에 어떤 영향을 미치는가?
• RQ3 알려지지 않은 자기공분산의 구조를 알지 못한 채로도 고차원 시간열에서 작동하는 부트스트랩 절차를 구성할 수 있는가?
• RQ4 존재하지 않는 귀무한정분포를 가정하지 않고도 스펙트럼 및 제2차 모멘트 성질(예: 띠형, 백색잡음)에 대한 타당한 추론을 수행할 수 있는가?
• RQ5 고차원 시간열 설정에서 부트스트랩 근사 오차의 수렴 속도는 얼마인가?

주요 결과

• 제안된 블록형 승수 부트스트랩은 차원이 표본 크기와 함께 지수적으로 증가하더라도, 유한표본 근사 오차가 표본 크기와 함께 다항수로 감소함을 보였다.
• 약한 의존성을 가진 벡터의 최대값에 대한 가우시안 근사는 의존성 강도와 차원성의 상호작용에 따라 오차 경계가 결정됨을 보였다.
• 차원이 독립인 경우와 마찬가지로 증가할 수 있는 '차원에 영향을 받지 않는' 의존성 구조가 새로운 방식으로 규명되었으며, 이는 근사 정확도를 유지한다.
• 부트스트랩 절차를 통해 정규분포나 i.i.d. 가정 없이도 고차원 평균 벡터에 대한 균일 신뢰구간에 대한 타당한 추론이 가능함을 보였다.
• 스펙트럼 및 제2차 모멘트 성질 검정(예: 띠형, 백색잡음)이 귀무한정분포의 존재를 가정하지 않아도 가능하며, 이는 i.i.d. 문헌에 비해 상당한 개선이다.
• 물리적/기능적 의존성 프레임워크 하에서 이론적 보장을 확립하였으며, 부트스트랩 커버리지 오차의 수렴 속도는 $ n^{-c} $ 의 순서를 가지며, 이는 어떤 $ c > 0 $ 에 대해 성립한다.