[논문 리뷰] Notes on the dimension dependence in high-dimensional central limit theorems for hyperrectangles

Yuta Koike|arXiv (Cornell University)|2019. 11. 01.

Stochastic processes and statistical mechanics참고 문헌 44인용 수 22

한 줄 요약

이 논문은 근사 오차 한계에서 차원에 대한 의존성을 줄임으로써 초직사각형에 대한 고차원 중심극한정리의 개선을 다룬다. 모멘트 조건 하에서, 정규화된 i.i.d. 랜덤 벡터 합이 초직사각형에 속할 확률은 n → ∞일 때 그 가우시안 대응값에 대해 균일하게 근사 가능하며, 오차는 (log d)^5 / n → 0일 때 감소한다. 공통 요인 구조가 존재할 경우 조건은 (log d)^3 / n → 0으로 향상된다.

ABSTRACT

Let $X_1,\dots,X_n$ be independent centered random vectors in $\mathbb{R}^d$. This paper shows that, even when $d$ may grow with $n$, the probability $P(n^{-1/2}\sum_{i=1}^nX_i\in A)$ can be approximated by its Gaussian analog uniformly in hyperrectangles $A$ in $\mathbb{R}^d$ as $n o\infty$ under appropriate moment assumptions, as long as $(\log d)^5/n o0$. This improves a result of Chernozhukov, Chetverikov & Kato [Ann. Probab. 45 (2017) 2309-2353] in terms of the dimension growth condition. When $n^{-1/2}\sum_{i=1}^nX_i$ has a common factor across the components, this condition can be further improved to $(\log d)^3/n o0$. The corresponding bootstrap approximation results are also developed. These results serve as a theoretical foundation of simultaneous inference for high-dimensional models.

연구 동기 및 목표

• 초직사각형 위에서 고차원 합의 균일한 가우시안 근사에 필요한 차원 성장 조건을 개선하는 것.
• Chernozhukov 등(2017)에서 제기된 log^7 d 의존성 문제가 줄일 수 있는지 여부에 대한 열린 질문을 다루는 것.
• 고차원 모델에서 동시 추론을 위한 더 날카운 한계를 수립하는 것.
• 주 CLT 한계를 보완하는 부트스트랩 근사 결과를 개발하는 것.

제안 방법

• 차원 d에 대한 근사 오차 의존성을 제어하기 위해 랜덤화된 Lindeberg 방법과 스틴 커널 기법을 사용한다.
• 집중 함수 CF(ε)와 그 이중 측도 ΘX를 도입하여 가우시안 극한의 반집중 정도를 정량화한다.
• 반집중 부등식과 성분의 네 번째 모멘트 및 ψ1-노름에 대한 모멘트 한계를 적용한다.
• 모든 초직사각형 A에 대해 P(SX_n ∈ A)와 P(ZX_n ∈ A)의 차이의 Suprema에 대한 한계를 유도한다.
• 주 CLT 결과를 부트스트랩 근사 정리와 결합하기 위해 대칭화 및 조건부 부등식을 활용한 방법을 개발한다.
• 표본 평균에 대한 의존성을 분리하기 위해 합의 대칭화된 형태(X⋄)를 사용하여 농도 불등식을 통해 오차를 제어한다.

실험 결과

연구 질문

• RQ1 Chernozhukov 등(2017)에서 제시된 (log d)^7 / n → 0 조건은 초직사각형 근사에 대해 개선될 수 있는가?
• RQ2 정규화된 합 SX_n의 성분들 사이에 공통 요인 구조가 존재할 경우 더 날카운 차원 의존성이 가능할까?
• RQ3 일반적인 경우에 (log d)^5 / n 조건이 최적인지, 더 줄일 수 있는가?
• RQ4 개선된 차원 조건 하에서 성분 최댓값에 대한 부트스트랩 근사는 일관되게 적용될 수 있는가?
• RQ5 초직사각형과 같이 볼록이 아닌 집합에 대해 고차원 CLT를 가능하게 하는 반집중(ΘX로 측정)의 역할은 무엇인가?

주요 결과

• 논문은 (log d)^5 / n → 0 조건 하에서 n → ∞일 때 ρn(Are) → 0 임을 증명하며, Chernozhukov 등(2017)의 (log d)^7 / n → 0 조건을 향상시킨다.
• 정규화된 합 SX_n의 성분들 사이에 공통 요인 구조가 존재할 경우 조건은 (log d)^3 / n → 0 으로 향상된다.
• 한계는 ρn(Are) ≲ Θ_X^{2/3} (B_n^4 log^3 d / n)^{1/6} 형태를 띠며, Θ_X는 반집중 정도를 측정하고 B_n는 모멘트 성장 정도를 제어한다.
• 부트스트랩 근사 오차는 동일한 (log d)^5 / n → 0 조건 하에서 균일하게 유계임이 입증되어 고차원 모델에서 타당한 추론이 가능하다.
• 세밀한 랜덤화된 Lindeberg 방법 적용과 스틴 커널 및 ψ1-노름을 통한 더 정교한 반집중 제어를 통해 개선이 달성되었다.
• 결과는 동시에 추론(강력한 가족별 오류율 제어를 포함한 신뢰구간 및 다중 검정 등)을 위한 이론적 기반을 제공한다.