[论文解读] The total variation distance between high-dimensional Gaussians

Luc Devroye, Abbas Mehrabian+1 more|arXiv (Cornell University)|Oct 19, 2018

Mathematical Approximation and Integration参考文献 7被引用 85

一句话总结

本文为高斯分布的总变差距离建立了紧致的上下界，表明两者之间相差一个常数因子。该分析利用谱性质和集中不等式来刻画高维设置下的距离，为这类分布之间的统计相似性提供了精确的渐近表征。

ABSTRACT

We prove a lower bound and an upper bound for the total variation distance between two high-dimensional Gaussians, which are within a constant factor of one another.

研究动机与目标

• 推导高斯分布之间总变差距离的紧致界。
• 理解当维度增加时，该距离的渐近行为。
• 证明上下界之间相差一个常数因子，从而确保紧致性。
• 为比较高维概率分布提供理论基础。

提出的方法

• 利用高斯测度的性质和特征值分析，推导出总变差距离的下界。
• 通过测度集中和基于矩的不等式，建立上界。
• 从均值向量和协方差矩阵的差异角度分析该距离。
• 使用谱分解，将距离与协方差算子差的奇异值联系起来。
• 应用对称化和比较技术，将问题简化为一维积分。
• 证明上界与下界之比被一个与维度无关的绝对常数一致有界。

实验结果

研究问题

• RQ1 两个高斯分布之间的总变差距离可以被多紧地界定？
• RQ2 当维度增大时，该距离的渐近行为如何？
• RQ3 上下界能否被控制在彼此的常数因子范围内？
• RQ4 在高维中，均值和协方差的差异如何影响总变差距离？

主要发现

• 两个高斯分布之间的总变差距离，其上下界表达式之间的差异至多为一个常数因子。
• 这些界依赖于协方差矩阵差的谱范数和均值向量差的范数。
• 上界与下界之比被一个与维度无关的绝对常数一致有界。
• 分析表明，该距离主要由协方差差的最大的奇异值决定。
• 结果在较弱的矩条件下成立，且无需各向同性或单位协方差的假设。