[논문 리뷰] Non-classical Berry-Esseen inequality and accuracy of the weighted bootstrap

Mayya Zhilova|arXiv (Cornell University)|2016. 11. 08.

Statistical Methods and Inference참고 문헌 36인용 수 7

한 줄 요약

이 논문은 유한한 네 번째 모멘트를 가진 독립적이고 중심이 이동한 랜덤 벡터의 합의 유클리드 노름에 대한 분위수 추정을 위한 가중 부트스트랩 절차의 정확도를 향상시키기 위해 비고전적인 다변량 베르누이-에센 불등식을 개발한다. 주요 기여는 ℝᵖ 내 모든 유클리드 구에 대해 균일한 근사 bound를 제공함으로써, 표본 크기와 차원에 명시적으로 의존하는 더 날카운 오차율을 도출하는 것이다. 이는 로그우도비율 통계량에 대한 부트스트랩 정확도를 향상시킨다.

ABSTRACT

We study accuracy of a weighted bootstrap procedure for estimation of quantiles of Euclidean norm of a sum of independent random vectors with zero mean and bounded fourth moment. We establish higher-order approximation bounds with error terms depending explicitly on a sample size and a dimension. These results lead to improvements of accuracy of a weighted bootstrap procedure for general log-likelihood ratio statistics. The key element of our proofs of the bootstrap accuracy is a multivariate Berry-Esseen inequality in a non-classical form. We consider a problem of approximation of distributions of two sums of zero mean independent random vectors, such that summands with the same indices have equal moments up to at least the second order. The derived approximation bound is uniform on the set of all Euclidean balls in $\mathbb{R}^{p}$. This approximation is an extension of a Gaussian one. The theoretical results are illustrated with numerical experiments.

연구 동기 및 목표

• 독립적 랜덤 벡터의 합에 대한 유클리드 노름의 분위수 추정을 위한 가중 부트스트랩 절차의 정확도를 향상시키기.
• 부트스트랩 오차에 대해 표본 크기와 차원에 명시적인 의존성을 가진 고차수 근사 bound를 유도하기.
• 두 번째 차수까지 일치하는 모멘트를 가진 독립적 랜덤 벡터의 합을 위한 비고전적인 다변량 베르누이-에센 불등식을 수립하기.
• 가우시안 근사를 ℝᵖ 내 모든 유클리드 구에 대해 균일한 bound로 확장하기.
• 이론적 결과를 적용하여 일반적인 로그우도비율 통계량에 대한 추론 정확도를 향상시키기.

제안 방법

• 두 번째 차수까지 일치하는 모멘트를 가진 독립적 중심이 이동한 랜덤 벡터의 합의 분포를 근사하기 위한 비고전적인 다변량 베르누이-에센 불등식 유도하기.
• ℝᵖ 내 모든 유클리드 구에 대해 균일한 근사 bound 수립하여 고전적인 가우시안 근사보다 향상된 결과 도출하기.
• 특성 함수 기법과 모멘트 일치 조건을 사용하여 근사의 오차 항을 제어하기.
• 유도된 bound를 활용해 로그우도비율 통계량에 대한 가중 부트스트랩 절차의 정확도 분석하기.
• 오차 bound에 표본 크기와 차원에 대한 명시적인 의존성을 통합하여 고차수 정확도 반영하기.
• 고차원 데이터에서의 수치 실험을 통해 이론적 결과의 타당성 검증하기.

실험 결과

연구 질문

• RQ1 고차원 분위수 추정에 대해 가중 부트스트랩 절차의 정확도는 어떻게 향상시킬 수 있는가?
• RQ2 독립적 랜덤 벡터의 합의 유클리드 노름 분포를 근사할 때 최적의 수렴 속도는 무엇인가?
• RQ3 비고전적인 다변량 베르누이-에센 불등식은 고차원에서 고전적 버전보다 더 날카운 bound를 제공할 수 있는가?
• RQ4 부트스트랩 근사의 오차는 표본 크기와 차원에 어떻게 의존하는가?
• RQ5 유도된 근사는 일반적인 로그우도비율 통계량에 대한 추론에 얼마나 향상시킬 수 있는가?

주요 결과

• ℝᵖ 내 모든 유클리드 구에 대해 균일한 bound를 가진 비고전적인 다변량 베르누이-에센 불등식이 수립되었으며, 고전적인 가우시안 근사보다 향상된 결과를 제공한다.
• 근사 오차는 표본 크기와 차원에 명시적으로 의존하며, 이는 고차원 환경에서의 고차수 정확도를 가능하게 한다.
• 유도된 bound는 독립적 랜덤 벡터의 합의 유클리드 노름 분위수 추정에 대한 가중 부트스트랩 절차의 오차율을 향상시킨다.
• 고차수 오차 항을 제어함으로써 이론적 방법은 일반적인 로그우도비율 통계량에 대한 부트스트랩 추론 정확도를 향상시킨다.
• 수치 실험을 통해 이론적 개선이 확인되었으며, 유한 표본에서 더 날카운 커버리지와 더 나은 수렴을 보여준다.
• 합성항들 간 두 번째 차수까지의 모멘트 일치가 모든 유클리드 구에 대한 균일한 근사에 충분함을 보여준다.