[论文解读] Convergence of the empirical process in Mallows distance, with an application to bootstrap performance

Richard J. Samworth, Oliver Johnson|ArXiv.org|Jun 29, 2004

Statistical Methods and Inference参考文献 14被引用 9

一句话总结

本文建立了经验分布与真实总体分布之间Mallows距离的收敛速率，表明由于失效率函数的影响，离散情形下的收敛速度更慢。该结果被应用于自展法推断，证明Mallows距离能为样本均值的自展误差提供紧确的上下界，且收敛速率因矩条件不同而异。

ABSTRACT

We study the rate of convergence of the Mallows distance between the empirical distribution of a sample and the underlying population. The surprising feature of our results is that the convergence rate is slower in the discrete case than in the absolutely continuous setting. We show how the hazard function plays a significant role in these calculations. As an application, we recall that the quantity studied provides an upper bound on the distance between the bootstrap distribution of a sample mean and its true sampling distribution. Moreover, the convenient properties of the Mallows metric yield a straightforward lower bound, and therefore a relatively precise description of the asymptotic performance of the bootstrap in this problem.

研究动机与目标

• 确定经验分布函数与真实分布函数之间Mallows距离的收敛速率。
• 研究失效率函数如何影响收敛速率，特别是对离散分布与连续分布的影响。
• 将结果应用于评估非参数自展法在估计样本均值抽样分布方面的表现。
• 利用Mallows度量推导样本均值的自展分布与真实抽样分布之间距离的紧确上下界。

提出的方法

• 使用Mallows距离 $ d_2 $，即分布函数之间的 $ L^2 $-Wasserstein 距离，来度量经验分布与真实分布之间的差异。
• 通过反概率积分变换将 $ d_2(F,G) $ 表示为分位函数的 $ L^2 $-范数：$ d_2(F,G) = \left( \int_0^1 |F^{-1}(p) - G^{-1}(p)|^2 dp \right)^{1/2} $。
• 在 Skorokhod 空间 $ D[0,1] $ 上使用球 $ \sigma $-代数处理经验过程理论中的可测性问题。
• 应用 Bickel 和 Freedman (1981) 以及 Johnson 和 Samworth (2004) 的结果，通过 $ d_2(\hat{F}_n, F) $ 来界定自展误差。
• 利用矩条件和迭代对数定律推导自展误差的下界，尤其针对重尾分布。
• 使用三角不等式和基于矩的不等式，证明 $ d_2(H_n(\hat{F}_n), H_n(F)) \leq d_2(\hat{F}_n, F) $，从而将经验过程的收敛性与自展精度联系起来。

实验结果

研究问题

• RQ1 在离散情形下，经验分布与真实分布之间Mallows距离 $ d_2(\hat{F}_n, F) $ 的收敛速率如何？
• RQ2 失效率函数如何影响Mallows度量下经验过程的收敛速率？
• RQ3 在何种矩条件下，样本均值的自展分布以与经验过程相同的速率收敛到真实抽样分布？
• RQ4 能否为样本均值的自展分布与真实抽样分布之间的Mallows距离推导出紧确的上下界？

主要发现

• 在具有有限支撑的离散情形下，$ n^{1/4} d_2(\hat{F}_n, F) $ 依分布收敛到一个非退化极限，与连续情形下的 $ n^{1/2} $ 归一化形成对比。
• 失效率函数在决定收敛速率方面起着关键作用，且在该框架下，del Barrio 等人 (2000) 的一个尾部条件是冗余的。
• Mallows距离 $ d_2(\hat{F}_n, F) $ 为样本均值的自展误差提供了上界，即 $ d_2(H_n(\hat{F}_n), H_n(F)) \leq d_2(\hat{F}_n, F) $。
• 在四阶矩有限条件下，$ n^{1/2} d_2(H_n(\hat{F}_n), H_n(F)) $ 在概率上远离零，表明自展误差不会以 $ n^{-1/2} $ 的速率消失。
• 当 $ \mathbb{E}|X_1|^{2+\delta} = \infty $ 对于 $ \delta \in (0,2) $ 时，$ n^{\delta/(2+\delta)} d_2(H_n(\hat{F}_n), H_n(F)) $ 几乎必然不收敛到零，表明收敛速度更慢。
• 当同时满足矩条件和收敛速率条件时，自展误差的上下界阶数相同，从而对自展性能给出了精确刻画。