[论文解读] Conditional Wasserstein Barycenters and Interpolation/Extrapolation of Distributions

Jianing Fan, Hans‐Georg Müller|arXiv (Cornell University)|Jul 20, 2021

Geometric Analysis and Curvature Flows参考文献 40被引用 4

一句话总结

本文提出基于2- Wasserstein 距离的条件Wasserstein中位数，用于多变量分布的插值与外推，利用标量或向量预测变量实现。在正则条件下，该方法确保预测变量空间中的测地线映射为Wasserstein空间中的测地线，通过Sinkhorn正则化计算实现收敛保证，并为全局与局部模型提供渐近一致性。

ABSTRACT

Increasingly complex data analysis tasks motivate the study of the dependency of distributions of multivariate continuous random variables on scalar or vector predictors. Statistical regression models for distributional responses so far have primarily been investigated for the case of one-dimensional response distributions. We investigate here the case of multivariate response distributions while adopting the 2-Wasserstein metric in the distribution space. The challenge is that unlike the situation in the univariate case, the optimal transports that correspond to geodesics in the space of distributions with the 2-Wasserstein metric do not have an explicit representation for multivariate distributions. We show that under some regularity assumptions the conditional Wasserstein barycenters constructed for a geodesic in the Euclidean predictor space form a corresponding geodesic in the Wasserstein distribution space and demonstrate how the notion of conditional barycenters can be harnessed to interpolate as well as extrapolate multivariate distributions. The utility of distributional inter- and extrapolation is explored in simulations and examples. We study both global parametric-like and local smoothing-like models to implement conditional Wasserstein barycenters and establish asymptotic convergence properties for the corresponding estimates. For algorithmic implementation we make use of a Sinkhorn entropy-penalized algorithm. Conditional Wasserstein barycenters and distribution extrapolation are illustrated with applications in climate science and studies of aging.

研究动机与目标

• 开发一种基于2-Wasserstein距离的统计框架，用于对标量或向量预测变量进行多变量分布回归。
• 将Wasserstein中位数的概念扩展至条件设定，其中响应变量为分布，预测变量为协变量。
• 建立在预测变量空间中的测地线诱导出Wasserstein分布空间中测地线的条件，以实现有意义的插值与外推。
• 为条件中位数框架下的全局参数化模型与局部平滑模型提供渐近收敛结果。
• 通过Sinkhorn熵正则化算法实现实际计算，随着正则化减弱，估计值收敛至真实的Wasserstein估计值。

提出的方法

• 使用2-Wasserstein距离作为概率测度空间上的Riemann结构，将条件中位数定义为分布响应的Fréchet均值。
• 通过最小化估计分布与观测分布之间2-Wasserstein距离的加权平方和来定义条件中位数。
• 应用带熵正则化的Sinkhorn算法，近似计算量大的最优传输计划，降低复杂度并实现可扩展实现。
• 通过证明Sinkhorn正则化估计在正则化参数趋于无穷时收敛至真实的Wasserstein中位数，建立理论收敛性。
• 提出两种建模方法：全局参数化类模型与局部平滑类模型，二者均基于条件中位数估计。
• 证明在正则条件下，由预测变量测地线诱导的条件中位数路径在Wasserstein空间中形成测地线，从而实现有效的插值与外推。

实验结果

研究问题

• RQ1 条件Wasserstein中位数能否以统计上合理的方式，基于预测变量实现多变量分布的插值与外推？
• RQ2 在何种条件下，预测变量空间中的测地线会诱导出Wasserstein分布空间中的测地线？
• RQ3 如何在保持分布回归中统计一致性的同时，降低最优传输的计算复杂度？
• RQ4 全局与局部模型在条件Wasserstein中位数中的渐近收敛速率为何？
• RQ5 随着正则化减弱，Sinkhorn正则化估计如何收敛至真实的Wasserstein中位数估计？

主要发现

• 当预测变量空间遵循测地线时，条件Wasserstein中位数在Wasserstein空间中形成测地线，从而实现多变量分布的自然插值与外推。
• 随着正则化参数趋于无穷，Sinkhorn正则化中位数估计几乎必然收敛至真实的Wasserstein中位数。
• 在全局与局部模型下，所提出的估计量在底层测度满足正则性假设时，均实现渐近收敛且具有明确的收敛速率。
• 该方法在真实世界应用中成功实现分布的插值与外推，包括气候数据与纵向衰老研究。
• 理论结果证实，条件中位数路径保持了测地线结构，验证了基于Wasserstein的回归在分布响应中的适用性。
• 模拟与实际数据示例表明，该方法在建模复杂、高维分布响应方面具有鲁棒性与实际应用价值。