[论文解读] Gromov-Wasserstein Distances between Gaussian Distributions

Antoine Salmona, Julie Delon+1 more|arXiv (Cornell University)|Apr 16, 2021

Geometric Analysis and Curvature Flows参考文献 25被引用 7

一句话总结

本文研究了在平方欧几里得代价下，高斯分布之间的 Gromov-Wasserstein（GW）距离。结果表明，当最优耦合被限制为高斯计划时，GW 问题可简化为等价于线性 Gromov-Monge 问题的线性解，并在无此类限制的情况下，为高斯分布之间的通用 GW 距离提供了紧致的下界和上界。

ABSTRACT

The Gromov-Wasserstein distances were proposed a few years ago to compare distributions which do not lie in the same space. In particular, they offer an interesting alternative to the Wasserstein distances for comparing probability measures living on Euclidean spaces of different dimensions. In this paper, we focus on the Gromov-Wasserstein distance with a ground cost defined as the squared Euclidean distance and we study the form of the optimal plan between Gaussian distributions. We show that when the optimal plan is restricted to Gaussian distributions, the problem has a very simple linear solution, which is also solution of the linear Gromov-Monge problem. We also study the problem without restriction on the optimal plan, and provide lower and upper bounds for the value of the Gromov-Wasserstein distance between Gaussian distributions.

研究动机与目标

• 表征当基代价为平方欧几里得距离时，高斯分布之间的 Gromov-Wasserstein 距离。
• 研究当耦合被限制为高斯计划时，最优耦合的结构。
• 在无耦合限制的情况下，推导高斯分布之间 GW 距离的解析下界和上界。
• 在高斯约束下，建立 GW 问题与线性 Gromov-Monge 问题之间的联系。

提出的方法

• 作者在两个高斯测度的乘积空间上，以平方欧几里得代价公式化 Gromov-Wasserstein 问题。
• 在耦合本身为高斯分布的约束下，推导出最优耦合，从而得到线性解。
• 利用迹恒等式和矩阵对角化，最小化可行耦合空间上的 GW 目标函数。
• 应用矩阵行列式引理和特征值分析，验证所得协方差结构的半正定性。
• 使用数学归纳法和向量的洛伦兹优势关系，证明涉及单位球面上有序向量的关键不等式。
• 通过分析耦合参数的极端配置，建立 GW 距离的边界。

实验结果

研究问题

• RQ1 当源分布和目标分布均为高斯分布时，最优 Gromov-Wasserstein 耦合的形式是什么？
• RQ2 当最优耦合被限制为高斯分布时，高斯分布之间的 GW 距离如何表现？
• RQ3 在无耦合限制的情况下，能否为高斯分布之间的 GW 距离推导出紧致的解析下界和上界？
• RQ4 对于高斯测度，Gromov-Wasserstein 问题与线性 Gromov-Monge 问题之间是否存在联系？
• RQ5 协方差矩阵和均值在决定高斯分布之间的 GW 距离中起什么作用？

主要发现

• 当最优耦合被限制为高斯分布时，Gromov-Wasserstein 问题存在一个闭式线性解，该解与线性 Gromov-Monge 问题的解一致。
• 当源分布和目标分布为高斯分布时，最优耦合是一个退化的高斯测度，具有特定的仿射变换结构。
• 作者基于协方差矩阵的迹及其几何平均值，推导出 GW 距离的一个下界。
• 通过使用均值向量的外积和归一化协方差矩阵构造一个可行耦合，建立了上界。
• 当耦合与协方差矩阵的主成分对齐时，可达到最紧致的下界。
• 证明中使用的关键不等式的等号成立条件是：一个向量与第一个标准基向量对齐，而另一个向量在单位球面上均匀分布。