[논문 리뷰] On rates of convergence and Berry-Esseen bounds for random sums of centered random variables with finite third moments

Christian Döbler|arXiv (Cornell University)|2012. 12. 21.

Point processes and geometric inequalities참고 문헌 1인용 수 4

한 줄 요약

이 논문은 중심화된 i.i.d. 또는 비동일분포인 난수변수들의 무작위 합에 대해 유한한 세 번째 모멘트를 가질 때, 클래식한 베르리-에세너 정리(Berry-Esseen theorem)를 사용하여 와서슈타인 거리와 콜모고로프 거리에서 정규분포 및 라플라스 분포로의 근사에 대해 명시적인 경계를 도출한다. 주요 기여는 기하분포로 수렴하는 무작위 합에 대해 $\tilde{O}(\frac{1}{\tilde{p}})$의 베르리-에세너 경계를 도출한 것으로, $p$가 고정되어 있을 때 i.i.d. 케이스에서 알려진 최적 속도와 일치한다.

ABSTRACT

We show, how the classical Berry-Esseen theorem for normal approximation may be used to derive rates of convergence for random sums of centerd, real-valued random variables with respect to a certain class of probability metrics, including the Kolmogorov and the Wasserstein distances. This technique is applied to several examples, including the approximation by a Laplace distribution of a geometric sum of centered random variables with finite third moment, where a concrete Berry-Esseen bound is derived. This bound reduces to a bound of the supposedly optimal order $\sqrt{p}$ in the i.i.d. case.

연구 동기 및 목표

• 유한한 세 번째 모멘트를 가진 중심화된 난수변수들의 무작위 합에 대해 수량적 수렴 속도를 도출하는 것.
• 클래식한 베르리-에세너 정리를 기하분포, 포아송분포, 이항분포와 같은 분포로 인덱싱된 무작위 합으로 확장하는 것.
• 무작위 합을 정규분포 또는 라플라스 분포로 근사할 때 와서슈타인 거리와 콜모고로프 거리에서 명시적인 오차 경계를 제공하는 것.
• i.i.d. 기하분포 합 케이스에서 알려진 최적의 $\tilde{O}(1/\tilde{p})$ 수렴 속도를 회복하는 것, 이는 기존 최적 경계와 일치한다.

제안 방법

• 무작위 합의 정규화된 합 $W = \frac{1}{\tilde{\nu}}\tilde{\tilde{}}$ 에 대해 조건부 거리가 $N$ 을 조건으로 하여 정규분포와의 거리를 클래식한 베르리-에세너 정리를 사용해 유계로 제한한다.
• 삼각부등식을 적용하여 총 거리를 두 부분으로 분해한다: $W$ 와 조건부 정규분포 사이의 거리, 그리고 조건부 정규분포와 목표 근사 분포 사이의 거리.
• 모멘트 조건과 제3절대중앙모멘트 $\xi_j = \mathbb{E}[|X_j|^3]$ 를 사용하여 와서슈타인 거리와 콜모고로프 거리에서의 경계를 도출한다.
• 기하분포, 포아송분포, 이항분포의 세 가지 인덱스 분포에 대해 적용하며, 각각에 대해 명시적인 경계를 유도한다.
• 조건부 분산 $s_N^2 = \mu^{-1} \sum_{j=1}^N \sigma_j^2$ 와 전체 분산의 법칙을 사용하여 $\mathrm{Var}(W)$ 를 $\mathbb{P}(N \geq j)$ 로 표현한다.
• 조건부 정규근사에 기반한 쌍용 유사 논증을 도입하여 기존의 베르리-에세너 경계를 무작위 합 설정으로 이전한다.

실험 결과

연구 질문

• RQ1 클래식한 베르리-에세너 정리는 유한한 세 번째 모멘트를 가진 무작위 합의 수렴 속도를 도출하기 위해 적응 가능할 수 있는가?
• RQ2 중심화된 i.i.d. 난수변수들의 기하분포로 수렴하는 합에 대해, 라플라스 분포로 수렴하는 명시적 수렴 속도는 무엇인가?
• RQ3 무작위 인덱스 $N$ 의 분포(예: 기하분포, 포아송분포, 이항분포)에 따라 수렴 속도는 어떻게 달라지는가?
• RQ4 기하분포 합에 대해 유도된 속도는 최적인지이며, i.i.d. 케이스에서 알려진 최적의 $\tilde{O}(1/\tilde{p})$ 속도와 일치하는가?
• RQ5 비동일분포인 합성항에 대해서도 이 방법을 일반화할 수 있으며, 엄밀한 오차 경계를 유지할 수 있는가?

주요 결과

• i.i.d. 중심화된 합성항과 유한한 세 번째 모멘트를 가진 기하분포 합에 대해, 라플라스 분포로의 수렴에 대해 $\tilde{O}(1/\tilde{p})$ 수준의 베르리-에세너 경계를 도출하였으며, 이는 i.i.d. 케이스에서 알려진 최적 속도와 일치한다.
• 기하분포 합에 대한 와서슈타인 거리 경계는 적절한 정규화 하에 $d_{\mathcal{W}}(\mathcal{L}(W), \text{Laplace}) \leq C \cdot \frac{1}{\sqrt{p}}$ 를 만족하며, 이는 최적성의 확인을 제공한다.
• 인덱스가 포아송분포를 따를 경우 $N \sim \text{Poisson}(\lambda)$, 경계는 $O(1/\sqrt{\lambda})$ 의 척도를 가지며, 제3모멘트와 분산비율에 따라 추가 항이 포함된다.
• 이항분포 인덱스 $N \sim \text{Binomial}(m,p)$ 의 경우 수렴 속도는 $O(1/\sqrt{mp})$ 이며, $p \to 0$ 이면서도 $mp \to \infty$ 라면 여전히 유효하여 결과의 적용 범위를 확장한다.
• 비동일분포 합성항으로의 일반화도 성공적으로 수행되었으며, 경계는 경험적 분산과 제3모멘트 비율에 따라 달라진다.
• 유도된 경계는 날카롭고, 특수 케이스에서 기존에 알려진 최적 경계를 회복한다. 예를 들어 $p=1$ 일 때($N=m$ 거의 확실히), 표준 베르리-에세너 경계를 회복한다.