[論文レビュー] Convergence of the empirical process in Mallows distance, with an application to bootstrap performance

Richard J. Samworth, Oliver Johnson|ArXiv.org|Jun 29, 2004

Statistical Methods and Inference参考文献 14被引用数 9

ひとこと要約

本稿は、経験分布と真の母集団分布の間のMallows距離の収束速度を確立し、ハザード関数の影響により離散的設定では収束が遅いことを示している。この結果をブートストラップ推論に応用し、標本平均のブートストラップ誤差に対してMallows距離がタイトな上界と下界を提供することを証明しており、モーメント条件に応じて異なる収束速度が得られることを示している。

ABSTRACT

We study the rate of convergence of the Mallows distance between the empirical distribution of a sample and the underlying population. The surprising feature of our results is that the convergence rate is slower in the discrete case than in the absolutely continuous setting. We show how the hazard function plays a significant role in these calculations. As an application, we recall that the quantity studied provides an upper bound on the distance between the bootstrap distribution of a sample mean and its true sampling distribution. Moreover, the convenient properties of the Mallows metric yield a straightforward lower bound, and therefore a relatively precise description of the asymptotic performance of the bootstrap in this problem.

研究の動機と目的

• 経験分布関数と真の分布関数の間のMallows距離の収束速度を特定すること。
• ハザード関数が収束速度に与える影響、特に離散的分布と連続的分布の違いについて調査すること。
• 非パラメトリックブートストラップを用いた標本平均の標本分布の推定性能を評価するために、得られた結果を応用すること。
• Mallows距離を用いて、標本平均のブートストラップ分布と真の標本分布の間のタイトな上界と下界を導出すること。

提案手法

• 分布関数間の乖離を測るため、Mallows距離 $ d_2 $ を用いる。これは分布関数間の $ L^2 $-Wasserstein 距離として定義される。
• 逆確率積分変換を適用し、$ d_2(F,G) $ を分位数関数の $ L^2 $-ノルムとして表現する：$ d_2(F,G) = \left( \int_0^1 |F^{-1}(p) - G^{-1}(p)|^2 dp \right)^{1/2} $。
• 経験過程理論における可測性の問題を扱うために、スコロホド空間 $ D[0,1] $ における弱収束とボール $ \sigma $-代数を用いる。
• Bickel と Freedman (1981) および Johnson と Samworth (2004) の結果を応用し、$ d_2(\hat{F}_n, F) $ を用いてブートストラップ誤差を評価する。
• モーメント条件と繰り返し対数法則を用いて、特に重い尾を持つ分布に対してブートストラップ誤差の下界を導出する。
• 三角不等式とモーメントに基づく不等式を用いて、$ d_2(H_n(\hat{F}_n), H_n(F)) \leq d_2(\hat{F}_n, F) $ を示し、経験過程の収束とブートストラップの精度を結びつける。

実験結果

リサーチクエスチョン

• RQ1 有限サポートを持つ離散的状況下で、経験分布と真の分布の間のMallows距離 $ d_2(\hat{F}_n, F) $ の収束速度は何か？
• RQ2 ハザード関数はMallows距離における経験過程の収束速度にどのように影響を与えるか？
• RQ3 どのようなモーメント条件の下で、標本平均のブートストラップ分布が真の標本分布に、経験過程の収束速度と一致する速度で収束するか？
• RQ4 標本平均のブートストラップ分布と真の標本分布の間のMallows距離に対して、タイトな上界と下界を導出できるか？

主な発見

• 有限サポートを持つ離散的状況では、$ n^{1/4} d_2(\hat{F}_n, F) $ が非退化限界分布に分布収束するが、これは連続的状況における $ n^{1/2} $ 正規化とは対照的である。
• ハザード関数は収束速度を決定づける重要な役割を果たし、del Barrio ら (2000) の一尾条件は、本フレームワーク下では冗長であることが判明した。
• Mallows距離 $ d_2(\hat{F}_n, F) $ は、標本平均のブートストラップ誤差の上界を提供する。すなわち、$ d_2(H_n(\hat{F}_n), H_n(F)) \leq d_2(\hat{F}_n, F) $ が成り立つ。
• 有限な4次モーメントの下では、$ n^{1/2} d_2(H_n(\hat{F}_n), H_n(F)) $ は確率的にゼロから離れていることが示され、ブートストラップ誤差が $ n^{-1/2} $ の速度で消えるわけではないことを示している。
• もし $ \mathbb{E}|X_1|^{2+\delta} = \infty $ が $ \delta \in (0,2) $ に対して成り立つならば、$ n^{\delta/(2+\delta)} d_2(H_n(\hat{F}_n), H_n(F)) $ はほとんど確実にゼロに収束しない。これは収束が遅いことを示している。
• モーメント条件と収束速度条件の両方が満たされているとき、ブートストラップ誤差の上界と下界は同じオーダーとなる。これにより、ブートストラップ性能の明確な特徴づけが得られる。