[论文解读] Multi-Marginal Gromov-Wasserstein Transport and Barycenters

Florian Beier, Robert Beinert+1 more|arXiv (Cornell University)|May 13, 2022

Topological and Geometric Data Analysis被引用 5

一句话总结

本文提出了多边际Gromov-Wasserstein（GW）传输，作为GW距离在同时比较多个度量测度空间方面的推广，实现了对形状、图或具有结构和标签信息的数据的联合对齐。该方法采用紧致的双凸松弛和多边际Sinkhorn算法，理论保证基于条件负定性，并应用于非平衡和融合GW中位数。

ABSTRACT

Gromov-Wasserstein (GW) distances are combinations of Gromov-Hausdorff and Wasserstein distances that allow the comparison of two different metric measure spaces (mm-spaces). Due to their invariance under measure- and distance-preserving transformations, they are well suited for many applications in graph and shape analysis. In this paper, we introduce the concept of multi-marginal GW transport between a set of mm-spaces as well as its regularized and unbalanced versions. As a special case, we discuss multi-marginal fused variants, which combine the structure information of an mm-space with label information from an additional label space. To tackle the new formulations numerically, we consider the bi-convex relaxation of the multi-marginal GW problem, which is tight in the balanced case if the cost function is conditionally negative definite. The relaxed model can be solved by an alternating minimization, where each step can be performed by a multi-marginal Sinkhorn scheme. We show relations of our multi-marginal GW problem to (unbalanced, fused) GW barycenters and present various numerical results, which indicate the potential of the concept.

研究动机与目标

• 将Gromov-Wasserstein距离的适用范围从成对比较扩展至同时处理多个输入度量测度空间。
• 通过双凸松弛和熵正则化，开发多边际GW传输的数值可处理公式。
• 在多边际设置中，通过融合GW变体将标签信息纳入。
• 在较弱条件下（包括强制性和弱下半连续性）建立解的存在性和收敛性理论保证。
• 展示该框架在计算多源数据融合和形状分析中GW中位数方面的实用性。

提出的方法

• 提出多边际GW传输问题作为标准GW的推广，通过最小化一个保持N个度量测度空间间成对距离结构的成本函数。
• 引入基于熵项和Csiszár散度项的正则化与非平衡变体，以确保数值稳定性和灵活性。
• 采用多边际GW问题的双凸松弛，当成本函数为条件负定时，该松弛被证明是紧致的。
• 通过交替优化求解松弛问题，其中每个子问题使用多边际Sinkhorn方案求解。
• 通过结合结构数据与标签空间，在融合GW传输中应用该框架，实现在几何与标签上的联合优化。
• 利用Banach–Alaoglu定理和Dini定理，通过正则化目标函数的弱下半连续性和强制性，建立最小化器的存在性。

实验结果

研究问题

• RQ1 Gromov-Wasserstein传输能否以一致且数值可解的方式推广至多于两个输入度量测度空间？
• RQ2 多边际GW问题如何被松弛为双凸形式，且在特定条件下保持紧致性？
• RQ3 条件负定性在确保双凸松弛紧致性方面起什么作用？
• RQ4 如何通过融合变体将标签信息整合到多边际GW传输中？
• RQ5 所提出的框架能否用于计算多个输入的有意义GW中位数，与现有方法相比表现如何？

主要发现

• 所提出的多边际GW传输公式可实现多个度量测度空间的同时对齐，将GW距离的应用范围从成对比较扩展至多输入场景。
• 当成本函数为条件负定时，多边际GW问题的双凸松弛是紧致的，确保在这些条件下可精确恢复原始问题。
• 多边际GW问题的正则化与非平衡变体具有强制性和弱下半连续性，保证了最小化器的存在性。
• 数值结果表明该框架在形状聚类、多图匹配和融合数据对齐等应用中具有可行性与潜力。
• 通过多边际Sinkhorn方案实现高效计算，支持大规模数据融合任务的可扩展解决方案。
• 该框架通过引入标签空间自然扩展至融合GW中位数，为同时包含几何与语义信息的结构化数据提供统一方法。