[论文解读] Continuous Regularized Wasserstein Barycenters
本文提出了一种基于新颖对偶公式的随机算法,用于计算连续正则化Wasserstein中位数,通过样本访问实现对连续概率分布的高效在线近似。该方法利用对偶势能的原始-对偶关系隐式参数化中位数,实现强对偶性,并支持随机梯度下降,从而实现可扩展的连续中位数估计。
Wasserstein barycenters provide a geometrically meaningful way to aggregate probability distributions, built on the theory of optimal transport. They are difficult to compute in practice, however, leading previous work to restrict their supports to finite sets of points. Leveraging a new dual formulation for the regularized Wasserstein barycenter problem, we introduce a stochastic algorithm that constructs a continuous approximation of the barycenter. We establish strong duality and use the corresponding primal-dual relationship to parametrize the barycenter implicitly using the dual potentials of regularized transport problems. The resulting problem can be solved with stochastic gradient descent, which yields an efficient online algorithm to approximate the barycenter of continuous distributions given sample access. We demonstrate the effectiveness of our approach and compare against previous work on synthetic examples and real-world applications.
研究动机与目标
- 为克服计算连续分布Wasserstein中位数的计算困难,此前方法受限于有限支撑集。
- 开发一种保持几何意义的连续中位数近似方法,同时具备实际可计算性。
- 通过正则化问题的对偶公式,实现从流式或采样数据中在线学习中位数。
- 在正则化Wasserstein中位数问题中建立强对偶性,以支持通过对偶势能实现隐式参数化。
提出的方法
- 推导正则化Wasserstein中位数问题的新对偶公式,实现原始-对偶关系,将中位数与对偶势能关联。
- 利用正则化最优传输问题的对偶势能隐式参数化中位数,避免显式支撑离散化。
- 应用随机梯度下降优化对偶变量,实现从输入分布样本访问出发的在线和可扩展更新。
- 利用强对偶性确保从优化后的对偶势能一致恢复原始解(即中位数)。
- 采用正则化传输框架以稳定优化过程,并确保中位数近似结果的平滑性。
- 构建可随新样本逐步适应的连续中位数估计,支持实时或流式计算。
实验结果
研究问题
- RQ1是否可以高效计算Wasserstein中位数的连续近似,而无需将支撑集限制为有限点集?
- RQ2如何利用正则化最优传输问题中的强对偶性,通过隐式参数化实现中位数的表示?
- RQ3能否有效将随机梯度下降应用于对偶公式,以实现在样本上在线学习中位数?
- RQ4所提方法在合成数据和真实世界数据上与先前基于有限支撑集的方法相比,在准确性和效率方面表现如何?
主要发现
- 所提方法在正则化Wasserstein中位数问题中实现了强对偶性,确保能可靠地从对偶变量恢复原始中位数。
- 通过双对偶势能的隐式参数化,实现了无需显式支撑离散化的连续中位数估计。
- 在对偶公式上应用随机梯度下降,实现了高效的在线算法,可扩展至大规模或流式数据集。
- 与基于有限支撑集的基线方法相比,该方法在合成数据和真实世界数据上的连续中位数近似性能表现更优。
更好的研究,从现在开始
从阅读论文到最终审阅,大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成,并经人工编辑审核。