[論文レビュー] On rates of convergence and Berry-Esseen bounds for random sums of centered random variables with finite third moments

Christian Döbler|arXiv (Cornell University)|Dec 21, 2012

Point processes and geometric inequalities参考文献 1被引用数 4

ひとこと要約

本稿は、有限な3次のモーメントを持つ中心化された i.i.d. または非同一分布の確率変数の確率的和について、古典的バーリ・エッセーン定理を用いて、ウォッシャークスタイン距離およびコルモゴロフ距離における正規分布およびラプラス分布への近似に関する明示的なバウンドを導出する。主な貢献は、ラプラス分布に収束する幾何和に対して、$\tilde{O}(\frac{1}{\tilde{p}})$ のバーリ・エッセーンバウンドを確立したことであり、$p$ が固定されている場合、i.i.d. の場合の最適レートと一致する。

ABSTRACT

We show, how the classical Berry-Esseen theorem for normal approximation may be used to derive rates of convergence for random sums of centerd, real-valued random variables with respect to a certain class of probability metrics, including the Kolmogorov and the Wasserstein distances. This technique is applied to several examples, including the approximation by a Laplace distribution of a geometric sum of centered random variables with finite third moment, where a concrete Berry-Esseen bound is derived. This bound reduces to a bound of the supposedly optimal order $\sqrt{p}$ in the i.i.d. case.

研究の動機と目的

• 有限な3次のモーメントを持つ中心化された確率変数の確率的和の収束の定量的レートを導出すること。
• 古典的バーリ・エッセーン定理を幾何、ポアソン、二項分布などの分布によってインデックス付けられる確率的和へと拡張すること。
• ウォッシャークスタイン距離およびコルモゴロフ距離における、確率的和を正規分布またはラプラス分布で近似する際の明示的な誤差バウンドを提供すること。
• i.i.d. の幾何和の場合に既知の最適バウンドと一致する $\tilde{O}(1/\tilde{p})$ の最適収束レートを回復すること。

提案手法

• 条件付き距離を、$N$ を与えたもとでの正規分布への $W = \frac{1}{\tilde{\nu}}\tilde{\tilde{}}$ の正規分布へのバウンドに分解するため、古典的バーリ・エッセーン定理を用いる。
• 三角不等式を用いて、全距離を2つの部分に分解する：$W$ から条件付き正規分布への距離、および条件付き正規分布から目的の極限分布への距離。
• モーメント条件と3次中心モーメント $\xi_j = \mathbb{E}[|X_j|^3]$ を用いて、ウォッシャークスタイン距離およびコルモゴロフ距離のバウンドを導出する。
• 幾何、ポアソン、二項分布の3つのインデックス分布にこの手法を適用し、それぞれに対して明示的なバウンドを導出する。
• 条件付き分散 $s_N^2 = \mu^{-1} \sum_{j=1}^N \sigma_j^2$ と全分散の法則を用いて、$\mathrm{Var}(W)$ を $\mathbb{P}(N \geq j)$ の形で表現する。
• 条件付き正規近似を用いたカップリングに類する議論により、既知のバーリ・エッセーンバウンドを確率的和の設定へと転送する。

実験結果

リサーチクエスチョン

• RQ1 有限な3次のモーメントを持つ確率的和の収束レートを導出するために、古典的バーリ・エッセーン定理を適応可能か？
• RQ2 中心化された i.i.d. 確率変数の幾何和がラプラス分布に収束する際の明示的な収束レートは何か？
• RQ3 収束レートは、確率的インデックス $N$ の分布（例：幾何、ポアソン、二項分布）に依存するか？
• RQ4 幾何和に対する導出されたレートは最適であり、i.i.d. の場合に既知の最適 $\tilde{O}(1/\tilde{p})$ レートと一致するか？
• RQ5 非同一分布の和項に対しても、タイトな誤差バウンドを保ちながら、この手法を一般化可能か？

主な発見

• i.i.d. で中心化された和項、有限な3次モーメントを持つ幾何和に対して、ラプラス分布への収束に関して、$\tilde{O}(1/\tilde{p})$ のバーリ・エッセーンバウンドを導出しており、i.i.d. の場合の最適レートと一致する。
• 幾何和のウォッシャークスタイン距離バウンドは、適切な正規化のもとで $d_{\mathcal{W}}(\mathcal{L}(W), \text{Laplace}) \leq C \cdot \frac{1}{\sqrt{p}}$ であり、最適性が確認される。
• ポアソン分布に従うインデックス $N \sim \text{Poisson}(\lambda)$ の場合、バウンドは $O(1/\sqrt{\lambda})$ のスケーリングを示し、3次モーメントと分散比に依存する追加項を含む。
• 二項分布に従うインデックス $N \sim \text{Binomial}(m,p)$ の場合、収束レートは $O(1/\sqrt{mp})$ であり、$p \to 0$ であっても $mp \to \infty$ であれば有効であり、結果の適用範囲が拡張される。
• 非同一分布の和項に対しても、この手法は成功裏に一般化され、バウンドは経験的分散および3次モーメント比に依存する。
• 導出されたバウンドはタイトであり、$p=1$（つまり $N=m$ ほぼ確実）のとき、標準的なバーリ・エッセーンバウンドが回復されることを確認する。