[论文解读] An improved central limit theorem and fast convergence rates for entropic transportation costs

Eustasio del Barrio, Alberto González-Sanz+2 more|arXiv (Cornell University)|Apr 19, 2022

Economic theories and models被引用 5

一句话总结

本文建立了以总体成本为中心的熵最优传输成本的中心极限定理，使连续概率测度的渐近有效推断成为可能。此外，本文在次高斯和紧支集条件下，提供了经验测度间期望熵成本的更快收敛速率，提升了高维设置下的统计效率。

ABSTRACT

We prove a central limit theorem for the entropic transportation cost between subgaussian probability measures, centered at the population cost. This is the first result which allows for asymptotically valid inference for entropic optimal transport between measures which are not necessarily discrete. In the compactly supported case, we complement these results with new, faster, convergence rates for the expected entropic transportation cost between empirical measures. Our proof is based on strengthening convergence results for dual solutions to the entropic optimal transport problem.

研究动机与目标

• 解决熵最优传输在连续（非离散）概率测度之间缺乏渐近有效推断的问题。
• 克服先前中心极限定理以经验期望成本为中心而非真实总体成本的局限性。
• 在紧支集和次高斯假设下，建立期望熵传输成本的更快收敛速率。
• 为在实际数据分析中构建熵成本的渐近置信区间提供理论基础。
• 加强熵最优传输对偶解的收敛结果，以在高维设置中实现更紧密的统计保证。

提出的方法

• 在 $ P $ 和 $ Q $ 满足次高斯假设的条件下，证明以总体成本 $ S_{ ho}(P, Q) $ 为中心的熵成本 $ S_{ ho}(P_n, Q) $ 的中心极限定理。
• 采用熵最优传输问题的对偶形式，并加强双势函数 $ (f_{n, ho}, g_{n, ho}) $ 的收敛结果。
• 基于经验势函数推导一个方差估计量，以构造渐近置信区间：$ CI^{n,m}_{eta} = [S_{ ho}(P_n, Q_m) \pm \hat{\sigma}_{n,m} \sqrt{\frac{n+m}{nm}} z_{1-\alpha/2}] $。
• 利用集中不等式和对偶解稳定性，在紧支集情况下建立 $ \mathbb{E}[S_{ ho}(P_n, Q_m)] $ 的更快收敛速率。
• 通过变量变换 $ x \mapsto \epsilon^{-1/2}x $ 分析偏差对 $ \epsilon $ 和维度的指数依赖关系。
• 通过在不同 $ n $、$ d $ 和 $ \epsilon $ 下的高斯测度蒙特卡洛模拟验证置信区间。

实验结果

研究问题

• RQ1 能否建立以真实总体成本为中心而非经验期望成本的熵最优传输成本的中心极限定理？
• RQ2 在紧支集和次高斯条件下，经验测度间期望熵成本的收敛速率如何？
• RQ3 正则化参数 $ \epsilon $ 和维度 $ d $ 如何影响渐近置信区间的有限样本表现？
• RQ4 熵成本估计中的偏差在多大程度上对支撑直径或 $ \epsilon^{-1} $ 呈指数依赖？
• RQ5 对偶解的收敛性能否加强，以在高维设置中实现更紧密的统计保证？

主要发现

• 本文首次建立了以总体成本 $ S_{ ho}(P, Q) $ 为中心的熵最优传输成本的中心极限定理，适用于次高斯测度。
• 对于紧支集测度，期望熵成本收敛到总体成本的速率快于以往已知结果，提升了统计效率。
• 蒙特卡洛模拟表明，当 $ \epsilon = 0.5 $ 且 $ d = 15 $ 时，基于所提方差估计量的置信区间仅在 $ n \geq 500 $ 时达到近名义覆盖率（如约 95%），表明小 $ \epsilon $ 时收敛缓慢。
• 当 $ \epsilon $ 较小且 $ d $ 较大时，真实覆盖率显著下降，例如在 $ n = 5000, d = 15, \epsilon = 0.5 $ 时仅为 13.4%，表明存在强烈的有限样本偏差。
• 偏差被证明对支撑直径呈指数依赖，这转化为对 $ \epsilon^{-1} $ 的指数依赖，解释了小 $ \epsilon $ 时性能不佳的原因。
• 结果与未正则化传输中的维数灾难一致，并与 $ \epsilon \to 0 $ 时熵势收敛到最优传输势的现象一致。