[论文解读] Construction of Non-asymptotic Confidence Sets in 2-Wasserstein Space

Johannes Ebert, Vladimir Spokoiny+1 more|arXiv (Cornell University)|Mar 10, 2017

Topological and Geometric Data Analysis参考文献 21被引用 14

一句话总结

本文提出了一种非渐近的自助法，用于在 2-Wasserstein 空间中构造经验 Wasserstein 平均值周围的置信集，重点关注位于位置-散射族内且协方差矩阵彼此可交换的概率测度。该方法利用乘子自助法实现有限样本条件下的有效推断与假设检验，包括变点检测。

ABSTRACT

In this paper, we consider a probabilistic setting where the probability measures are considered to be random objects. We propose a procedure of construction non-asymptotic confidence sets for empirical barycenters in 2-Wasserstein space and develop the idea further to construction of a non-parametric two-sample test that is then applied to the detection of structural breaks in data with complex geometry. Both procedures mainly rely on the idea of multiplier bootstrap (Spokoiny and Zhilova (2015), Chernozhukov et al. (2014)). The main focus lies on probability measures that have commuting covariance matrices and belong to the same scatter-location family: we proof the validity of a bootstrap procedure that allows to compute confidence sets and critical values for a Wasserstein-based two-sample test.

研究动机与目标

• 在不依赖渐近近似的情况下，为 2-Wasserstein 空间中的经验 Wasserstein 平均值构建有限样本置信集。
• 建立基于 Wasserstein 距离的非参数两样本检验中构造临界值的有效自助程序。
• 利用基于 Wasserstein 的推断方法检测具有复杂几何结构的数据中的结构突变。
• 在位置-散射族内协方差矩阵可交换的假设下，确保自助法的理论有效性。
• 为在非欧几里得、流形结构数据设置（如形状分析和图像处理）中应用的 barycenter 推断提供一个框架。

提出的方法

• 采用 Chernozhukov, Chetverikov, 和 Kato (2013) 以及 Spokoiny 和 Zhilova (2015) 提出的乘子自助法，用于高维推断。
• 在协方差矩阵可交换的假设下，将自助法应用于经验 Wasserstein 平均值，以构造非渐近置信集。
• 依赖高斯近似和反浓度不等式，控制高维设置下的自助误差。
• 使用矩阵 Bernstein 不等式控制经验协方差矩阵偏差的算子范数。
• 推导经验二次型偏差的次高斯尾部界，确保在矩条件下的集中性。
• 基于经验平均值之间 2-Wasserstein 距离构造两样本检验统计量，临界值通过自助法获得。

实验结果

研究问题

• RQ1 在有限样本条件下，能否在 2-Wasserstein 空间中为经验 Wasserstein 平均值构造非渐近置信集？
• RQ2 当底层概率测度的协方差矩阵可交换时，乘子自助法在 Wasserstein 平均值推断中是否有效？
• RQ3 所提出的自助程序能否扩展用于检测具有复杂几何结构的数据中的结构突变？
• RQ4 在 2-Wasserstein 平均值背景下，基于自助法的两样本检验的有限样本性质如何？
• RQ5 协方差矩阵可交换性和位置-散射族的假设如何影响自助推断的有效性与准确性？

主要发现

• 证明了在底层概率测度协方差矩阵可交换的条件下，该自助程序对 Wasserstein 平均值周围置信集的构造是有效的。
• 论文建立了两个协方差结构相近的多元正态分布之间的 Kullback-Leibler 散度界，表明 KL 散度受变换后协方差矩阵差值的 Frobenius 范数平方的一半有界。
• 应用矩阵 Bernstein 不等式控制经验协方差矩阵偏差的算子范数，得到高概率界：$\mathbb{P}(\|Z\|_{\text{op}} \geq \mathtt{C}\mathtt{x}/\sqrt{n}) \leq 2\exp\bigl(-(\mathtt{x}-6L\log(d))/6L\bigr{)}$。
• 次高斯尾部界确保经验二次型的偏差得到良好控制，尾部衰减速率取决于方差和次高斯尾部参数。
• 在协方差矩阵比值的特征值满足一定条件时，建立了自助法的理论有效性，确保 $\|\Sigma_2^{-1/2}\Sigma_1\Sigma_2^{-1/2} - I_d\| \leq 1/2$ 且 $\operatorname{tr}((\Sigma_2^{-1/2}\Sigma_1\Sigma_2^{-1/2} - I_d)^2) \leq \rho_\Sigma^2/2$。
• 该方法在高维设置下实现了非渐近推断，适用于紧支集的随机向量，通过模拟和真实数据实验验证了覆盖率和变点检测的性能。