[논문 리뷰] Gaussian comparison and anti-concentration inequalities for norms of Gaussian random elements

Friedrich Götze, Alexey Naumov외 2명|arXiv (Cornell University)|2017. 08. 29.

Point processes and geometric inequalities인용 수 3

한 줄 요약

이 논문은 힐버트 공간 내 두 가우시안 원소가 구 안에 들어갈 확률 사이의 콜모고로프 거리에 대해 치수에 의존하지 않는 비점근적 경계를 확립한다. 이 경계는 공분산 연산자 차이의 핵노름과 평균 이동의 노름을 사용한다. 또한 핵노름과 평균 이동 노름을 활용하여 킬블러-라이블러 발산을 기반으로 한 기존 경계보다 훨씬 향상된, 비중앙 가우시안 원소의 제곱 노름에 대한 반집중 부등식을 유도한다.

ABSTRACT

We derive tight non-asymptotic bounds for the Kolmogorov distance between the probabilities of two Gaussian elements to hit a ball in a Hilbert space. The key property of these bounds is that they are dimension-free and depend on the nuclear (Schatten-one) norm of the difference between the covariance operators of the elements and on the norm of the mean shift. The obtained bounds significantly improve the bound based on Pinsker's inequality via the Kullback-Leibler divergence. We also establish an anti-concentration bound for a squared norm of a non-centered Gaussian element in Hilbert space. The paper presents a number of examples motivating our results and applications of the obtained bounds to statistical inference and to high-dimensional CLT.

연구 동기 및 목표

• 힐버트 공간 내 두 가우시안 원소가 구 안에 들어갈 확률 사이의 콜모고로프 거리에 대해 점근적이지 않고 치수에 의존하지 않는 경계를 유도하는 것.
• 킬블러-라이블러 발산을 기반으로 한 기존 경계를 향상시키기 위해 공분산 차이의 핵노름과 평균 이동의 노름을 활용하는 것.
• 비중앙 가우시안 원소의 제곱 노름에 대해 반집중 부등식을 수립하는 것.
• 이 경계들이 고차원 중심극한정리와 통계적 추론에 응용되는 방식을 보여주는 것.

제안 방법

• 이 분석은 두 가우시안 원소의 공분산 연산자 차이의 핵노름(스하텐-일반)을 핵심 척도로 사용한다.
• 이 방법은 무한차원 힐버트 공간 내 가우시안 측도의 비교 기법을 활용하며, 원소들이 구 안에 들어갈 확률에 초점을 맞춘다.
• 반집중 도구를 적용하여 비중앙 가우시안 원소의 제곱 노름의 집중도에 대한 경계를 도출한다.
• 경계는 힐버트 공간의 치수에 의존하지 않도록 유도되어 고차원 환경에서도 적용 가능하다.
• 이 접근법은 힐버트 공간 내 가우시안 과정에 특화된 함수 불등식과 비교 원리를 기반으로 한다.
• 이론적 결과는 경계의 날카움과 실용적 관련성을 보여주는 예시를 통해 검증된다.

실험 결과

연구 질문

• RQ1 두 가우시안 원소가 구 안에 들어갈 확률 사이의 콜모고로프 거리를 치수에 의존하지 않게 어떻게 경계할 수 있는가?
• RQ2 이러한 경계가 공분산 차이의 핵노름과 평균 이동에 대해 최적의 의존성을 가지는가?
• RQ3 비중앙 가우시안 원소의 제곱 노름에 대해 반집중 부등식을 수립할 수 있는가?
• RQ4 이 경계들은 특히 고차원 환경에서 킬블러-라이블러 발산을 기반으로 한 기존 경계와 어떻게 비교되는가?
• RQ5 이 경계들은 통계적 추론과 고차원 중심극한정리에 어떤 영향을 미치는가?

주요 결과

• 논문은 힐버트 공간의 치수에 영향을 받지 않는 날카운 비점근적 경계를 도출한다.
• 경계는 공분산 연산자 차이의 핵노름과 평균 이동의 노름에 명시적으로 의존하여 불일치의 정밀한 정량화를 제공한다.
• 킬블러-라이블러 발산을 기반으로 한 기존 경계보다 핵노름과 평균 이동 노름을 활용하여 경계를 향상시켰으며, 특히 고차원 영역에서 뚜렷한 개선이 이루어졌다.
• 비중앙 가우시안 원소의 제곱 노름에 대해 반집중 부등식이 수립되어 분포의 산란 정도를 정량화한다.
• 결과는 고차원 중심극한정리와 통계적 추론에 응용되어 실용적 유용성을 입증한다.
• 논문의 예시들은 경계의 날카움과 치수에 의존하지 않는 성격을 구체적인 설정에서 입증한다.