[论文解读] A Central Limit Theorem for $L_p$ transportation cost with applications to Fairness Assessment in Machine Learning

Eustasio del Barrio, Paula Gordaliza+1 more|arXiv (Cornell University)|Jul 18, 2018

Adversarial Robustness in Machine Learning参考文献 18被引用 3

一句话总结

本文在对底层分布的矩和光滑性假设最小化的前提下，建立了实直线上经验分布之间 $L_p$-Wasserstein 距离的中心极限定理。该结果使分布相似性的渐近有效两样本检验成为可能，并通过量化受保护子群体间分类器输出之间的 Wasserstein 距离，提出了一种机器学习中全新的公平性评估准则。

ABSTRACT

We provide a Central Limit Theorem for the Monge-Kantorovich distance between two empirical distributions with size $n$ and $m$, $W_p(P_n,Q_m)$ for $p>1$ for observations on the real line, using a minimal amount of assumptions. We provide an estimate of the asymptotic variance which enables to build a two sample test to assess the similarity between two distributions. This test is then used to provide a new criterion to assess the notion of fairness of a classification algorithm.

研究动机与目标

• 在对底层分布的假设尽可能少的前提下，建立两个经验分布之间 $L_p$-Wasserstein 距离 $W_p(P_n, Q_m)$ 的中心极限定理（CLT）。
• 推导 $W_p(P_n, Q_m)$ 的渐近方差估计，以支持构建用于检验分布相似性的两样本假设检验。
• 将理论 CLT 应用于开发一种新的、分布自由的机器学习模型公平性评估准则，通过测量受保护子群体间分类器输出之间的 Wasserstein 距离来实现。
• 为公平性评估提供严格的统计基础，通过最优传输距离量化偏差，而非依赖于独立性或条件独立性假设。

提出的方法

• 在底层累积分布函数的矩和光滑性条件最弱的前提下，推导经验测度 $P_n$ 和 $Q_m$（样本量分别为 $n$ 和 $m$）之间 $L_p$-Wasserstein 距离 $W_p(P_n, Q_m)$ 的渐近分布。
• 通过对 Wasserstein 距离的 $p$ 次幂进行泰勒展开，并应用经验分位数过程的弱收敛结果，推导出极限正态分布。
• 建立归一化 $W_p^p$ 距离的收敛性，使其依分布收敛于正态分布，其渐近方差通过反累积分布函数及其差值显式表达。
• 应用 CLT 构建一个两样本检验，用于检验原假设 $\mathcal{W}_p(P,Q) \geq \Delta_0$ 与备择假设 $\mathcal{W}_p(P,Q) < \Delta_0$，并使用估计的渐近方差。
• 提出一种基于受保护属性 $S=0$ 和 $S=1$ 条件下模型预测条件分布之间 Wasserstein 距离的机器学习公平性度量。
• 利用理论 CLT 支持对公平性度量的统计推断，从而实现 p 值和置信区间，以评估观测到的差异是否具有统计显著性。

实验结果

研究问题

• RQ1 在实直线上，两个经验分布之间的 $L_p$-Wasserstein 距离在何种最小正则性条件下满足中心极限定理？
• RQ2 在弱矩和光滑性假设下，$W_p(P_n, Q_m)$ 统计量的渐近方差能否被一致估计？
• RQ3 如何利用 $W_p(P_n, Q_m)$ 的 CLT 构建有效的两样本检验以判断分布相似性？
• RQ4 受保护子群体间分类器输出之间的 Wasserstein 距离在多大程度上可作为机器学习中具有统计可解释性的公平性度量？
• RQ5 经验分布与真实分布之间 $W_p^p$ 距离的期望值的渐近行为如何？其与极限正态分布的关系是什么？

主要发现

• 本文证明了在最小假设下，$\sqrt{n}(W_p^p(F_n, G) - W_p^p(F, G))$ 依分布收敛于均值为零、渐近方差有定义的正态随机变量。
• $W_p^p$ 距离的渐近方差被显式地表示为底层分布的反累积分布函数及其差值的函数。
• 该 CLT 仅需 $p$ 阶矩条件和累积分布函数的适度光滑性，优于以往需要更高阶矩结果的研究。
• $W_p(P_n, Q_m)$ 的极限分布为渐近正态，从而可构建用于分布相似性的置信区间和假设检验。
• $W_p^p(F_n, G)$ 的期望值以 $O(1/\sqrt{n})$ 的速率收敛于 $W_p^p(F, G)$，且中心化序列依分布收敛于正态分布。
• 所提出的公平性评估框架通过受保护群体与非受保护群体模型输出之间的 Wasserstein 距离量化偏差，并借助所推导的 CLT 实现统计推断。