[논문 리뷰] High-dimensional Central Limit Theorems by Stein's Method

Xiao Fang, Yuta Koike|arXiv (Cornell University)|2020. 01. 29.

Random Matrices and Applications참고 문헌 29인용 수 8

한 줄 요약

이 논문은 스텐의 방법을 사용하여 초직사각형 위에서 정규 근사의 명시적 오차 한계를 갖는 고차원 중심극한정리들을 개발한다. 이는 로그볼록 밀도를 가진 i.i.d. 등방향 랜덤 벡터에 대해 로그 n 요소까지 최적의 오차 비율을 달성하며, 게오체의 접근법, 앤더슨 등(1998)의 수정된 추정치, 바타차리야와 라오(1976)의 스무딩 부등식을 활용한다.

ABSTRACT

We obtain explicit error bounds for the $d$-dimensional normal approximation on hyperrectangles for a random vector that has a Stein kernel, or admits an exchangeable pair coupling, or is a non-linear statistic of independent random variables or a sum of $n$ locally dependent random vectors. We assume the approximating normal distribution has a non-singular covariance matrix. The error bounds vanish even when the dimension $d$ is much larger than the sample size $n$. We prove our main results using the approach of Götze (1991) in Stein's method, together with modifications of an estimate of Anderson, Hall and Titterington (1998) and a smoothing inequality of Bhattacharya and Rao (1976). For sums of $n$ independent and identically distributed isotropic random vectors having a log-concave density, we obtain an error bound that is optimal up to a $\log n$ factor. We also discuss an application to multiple Wiener-Itô integrals.

연구 동기 및 목표

• 차원 d가 표본 크기 n보다 훨씬 클 때 고차원 정규 근사 문제를 다루기.
• 일반적인 의존 구조 하에서 초직사각형 위에서 다변량 정규 근사에 대한 명시적 오차 한계를 제공하기.
• 특히 로그볼록 밀도를 가진 i.i.d. 등방향 벡터에 대해 기존 문헌의 결과를 향상시키기.
• 스텐 커널, 교환가능 쌍, 국소 의존성과 같은 구조를 가진 랜덤 벡터로 스텐의 방법의 적용 범위를 확장하기.
• d ≫ n 인 경우에도 오차 한계가 사라지는 프레임워크를 수립하여 고차원 통계적 추론을 가능하게 하기.

제안 방법

• 다변량 정규 근사에 대해 게오체(1991)의 접근법을 스텐의 방법에 적응하기.
• 의존성과 꼬리 행동을 제어하기 위해 앤더슨, 홀, 티터링턴(1998)의 수정된 추정치를 통합하기.
• 초직사각형 위에서 최대값을 다루기 위해 바타차리야와 라오(1976)의 스무딩 부등식을 적용하기.
• 스텐 커널 표현을 사용하여 독립적이거나 i.i.d. 성분이 없더라도 W의 분포를 특성화하기.
• 교환가능 쌍과 국소 의존성 구조를 통한 커플링 기법을 활용하여 i.i.d. 설정을 넘어서 결과를 확장하기.
• 가우시안 측도의 반집중 부등식을 적용하여 변형된 집합 위에서의 확률 차이를 제어하기.

실험 결과

연구 질문

• RQ1 d ≫ n 인 경우 초직사각형 위에서 고차원 정규 근사에 대한 명시적 오차 한계를 유도할 수 있는가?
• RQ2 스텐의 방법은 고차원에서 스텐 커널 또는 교환가능 쌍 커플링을 가진 랜덤 벡터로 어떻게 확장될 수 있는가?
• RQ3 로그볼록 밀도를 가진 i.i.d. 등방향 벡터에 대해 고차원 정규 근사에서 최적 수렴 속도는 무엇인가?
• RQ4 정교한 추정치와 스무딩 기법을 사용하여 기존 문헌의 결과를 초월할 수 있는가?
• RQ5 공분산 행렬의 최소 고유값이 고차원 중심극한정리의 수렴 속도를 결정하는 데 어떤 역할을 하는가?

주요 결과

• 비특이 공분산을 가진 일반적인 랜덤 벡터에 대해 오차 한계 $ C_0 \big( \frac{\tau^4 \text{log}^4(dn)}{n} \big)^{1/3} $ 를 달성하였으며, 체르노조쿠크 등(2019)의 $ ( \text{log}^5(dn)/n )^{1/4} $ 한계보다 향상되었다.
• 로그볼록 밀도를 가진 i.i.d. 등방향 랜덤 벡터에 대해 한계는 $ C_0 \big( \frac{\text{log}^3 d}{n} \big)^{1/2} \text{log} n $ 로, 로그 n 요소까지 최적이다.
• 오차 한계는 $ d \gg n $ 인 경우에도 사라지며, 이는 유효한 고차원 추론을 가능하게 한다.
• 이 방법은 국소 의존성 벡터와 비선형 통계량을 포함한 광범위한 종류의 의존성 구조에 적용 가능하다.
• 약한 모멘트 조건 하에서도 강인하며 차원이 표본 크기의 비선형 함수여야 하는 조건이 필요하지 않다.
• 다중 위너-이토 적분에 대한 적용이 확립되어, 이 방법의 확률적 해석 분야에서의 유용성을 보여준다.