[论文解读] A fixed-point approach to barycenters in Wasserstein space

Pedro C. Álvarez-Esteban, Eustasio del Barrio+2 more|arXiv (Cornell University)|Nov 17, 2015

Geometric Analysis and Curvature Flows参考文献 23被引用 14

一句话总结

本文提出了一种固定点迭代方法，用于计算 $π_{2,ac}$ 空间中概率测度的Wasserstein质心，该方法利用最优传输映射定义一个算子，其不动点对应于质心。该方法确保了一致的近似，并表现出快速且指数收敛的性能——尤其在高斯分布族和位置-尺度族中，其中质心的协方差由一个非线性矩阵方程刻画，并通过迭代求解。

ABSTRACT

Let $\mathcal{P}_{2,ac}$ be the set of Borel probabilities on $\mathbb{R}^d$ with finite second moment and absolutely continuous with respect to Lebesgue measure. We consider the problem of finding the barycenter (or Fréchet mean) of a finite set of probabilities $ν_1,\ldots,ν_k \in \mathcal{P}_{2,ac}$ with respect to the $L_2-$Wasserstein metric. For this task we introduce an operator on $\mathcal{P}_{2,ac}$ related to the optimal transport maps pushing forward any $μ\in \mathcal{P}_{2,ac}$ to $ν_1,\ldots,ν_k$. Under very general conditions we prove that the barycenter must be a fixed point for this operator and introduce an iterative procedure which consistently approximates the barycenter. The procedure allows effective computation of barycenters in any location-scatter family, including the Gaussian case. In such cases the barycenter must belong to the family, thus it is characterized by its mean and covariance matrix. While its mean is just the weighted mean of the means of the probabilities, the covariance matrix is characterized in terms of their covariance matrices $Σ_1,\dots,Σ_k$ through a nonlinear matrix equation. The performance of the iterative procedure in this case is illustrated through numerical simulations, which show fast convergence towards the barycenter.

研究动机与目标

• 开发一种在 $π_{2,ac}$ 空间中一致且计算可行的Wasserstein质心近似方法，该空间是 $π^d$ 上具有有限二阶矩和绝对连续性的Borel概率测度空间。
• 证明质心是基于至各目标测度的最优传输映射的加权平均所构建的新算子的不动点。
• 提供一种实用的迭代算法以计算质心，尤其在位置-尺度族（如高斯族）中表现优异。
• 通过非线性矩阵方程刻画高斯情形下质心的协方差矩阵，并推导出紧致界。
• 通过数值实验验证该迭代方案在不同维度和测度数量下的收敛速度与鲁棒性。

提出的方法

• 在 $π_{2,ac}$ 上定义一个算子，将测度 $μ$ 映射为从 $μ$ 到每个 $ν_i$ 的最优传输映射的加权平均，从而生成一个新的测度。
• 在一般条件下证明任意质心必为该算子的不动点，从而为迭代方法提供理论基础。
• 构建一个迭代方案（公式19），通过反复应用该算子来更新质心的当前估计，确保收敛至真实质心。
• 在高斯情形下，证明质心的均值为输入均值的加权平均，其协方差满足一个涉及输入协方差矩阵的非线性矩阵方程。
• 利用矩阵分析与最优传输理论，推导出多变量高斯分布之间传输映射的闭式表达式，从而实现算子的高效计算。
• 通过目标函数下降量低于容差的停止准则实现迭代，并通过数值模拟验证性能。

实验结果

研究问题

• RQ1 能否基于最优传输映射的固定点迭代，一致地近似 $π_{2,ac}$ 中有限个概率测度的Wasserstein质心？
• RQ2 多变量高斯测度的质心是否仍属于高斯族？若是，其协方差矩阵如何刻画？
• RQ3 在高维或高 $k$ 设置下，所提出的迭代方法与现有方法相比，其收敛速度与稳定性如何？
• RQ4 在高斯情形下，质心协方差矩阵的紧致界是什么？其与输入协方差的关系如何？
• RQ5 该迭代方案是否在Wasserstein距离下表现出指数收敛？其行为如何随维度和测度数量变化？

主要发现

• 在 $ν_1, \dots, \u03bd_k \in \u03c0_{2,ac}$ 下，质心是基于传输的算子的不动点，为迭代计算提供了理论基础。
• 在高斯情形下，质心的均值为输入均值的加权平均，其协方差矩阵满足可通过固定点迭代求解的非线性矩阵方程。
• 所提出的迭代方案（公式19）以指数速度收敛至质心，表现为迭代间目标函数差值的对数呈线性下降。
• 数值模拟表明，收敛的平均迭代次数保持适中（例如，当 $d=50$，$k=50$ 时约为 ~32 次），且随维度和 $k$ 缓慢增长，优于其他方案。
• 当 $k=5$ 且 $d=2$ 时，若输入协方差矩阵可交换，方法仅需 2 次迭代（1 次实际更新）即可收敛，表明在有利情况下收敛极快。
• 该方法自然可推广至位置-尺度族，所有高斯族结果可通过变换不变性直接适用于此类族。