[논문 리뷰] Multi-Marginal Gromov-Wasserstein Transport and Barycenters

Florian Beier, Robert Beinert외 1명|arXiv (Cornell University)|2022. 05. 13.

Topological and Geometric Data Analysis인용 수 5

한 줄 요약

이 논문은 다중-마진 Gromov-Wasserstein (GW) 운반을 도입하여, 구조적 및 레이블 정보를 가진 형태, 그래프 또는 데이터의 동시에 정렬을 가능하게 하는 GW 거리의 일반화를 제안한다. 이 방법은 날카운 비볼록 조건을 사용한 이중 볼록 완화와 다중-마진 Sinkhorn 알고리즘을 활용하며, 조건부 음의 정부호성 하에 이론적 보장이 있으며, 비균형 및 융합된 GW 바리센터에 응용된다.

ABSTRACT

Gromov-Wasserstein (GW) distances are combinations of Gromov-Hausdorff and Wasserstein distances that allow the comparison of two different metric measure spaces (mm-spaces). Due to their invariance under measure- and distance-preserving transformations, they are well suited for many applications in graph and shape analysis. In this paper, we introduce the concept of multi-marginal GW transport between a set of mm-spaces as well as its regularized and unbalanced versions. As a special case, we discuss multi-marginal fused variants, which combine the structure information of an mm-space with label information from an additional label space. To tackle the new formulations numerically, we consider the bi-convex relaxation of the multi-marginal GW problem, which is tight in the balanced case if the cost function is conditionally negative definite. The relaxed model can be solved by an alternating minimization, where each step can be performed by a multi-marginal Sinkhorn scheme. We show relations of our multi-marginal GW problem to (unbalanced, fused) GW barycenters and present various numerical results, which indicate the potential of the concept.

연구 동기 및 목표

• Gromov-Wasserstein 거리를 이원 비교를 넘어서 동시에 여러 입력 거리 측정 공간을 다룰 수 있도록 일반화하는 것.
• 이중 볼록 완화와 엔트로피 정규화를 사용한 다중-마진 GW 운반의 수치적으로 해석 가능한 공식화를 개발하는 것.
• 다중-마진 설정에서 융합된 GW 변형을 통해 레이블 정보를 통합하는 것.
• 강한 조건이 아닌 조건 하에서도 수렴성과 해의 존재성을 보장하는 이론적 기반을 확립하는 것, 특히 강성 조건과 약한 하부연속성 조건을 포함한다.
• 이 프레임워크가 다중 소스 데이터 융합 및 형태 분석에서 GW 바리센터를 계산하는 데 유용한지를 입증하는 것.

제안 방법

• 표준 GW의 일반화로 다중-마진 GW 운반 문제를 제안하며, N개의 거리 측정 공간 간의 쌍별 거리 구조를 유지하는 비용 함수를 최소화한다.
• 수치적 안정성과 유연성을 확보하기 위해 엔트로피 항과 Csiszár 발산 항을 사용한 정규화 및 비균형 변형을 도입한다.
• 비용 함수가 조건부 음의 정부호일 경우, 다중-마진 GW 문제의 이중 볼록 완화가 타당한 것으로 밝혀진다.
• 각 하위문제가 다중-마진 Sinkhorn 기반으로 해결되는 교대 최소화 방법을 사용하여 완화된 문제를 해결한다.
• 기하학적 정보와 레이블 공간을 융합하여 융합된 GW 운반을 적용함으로써 기하학적 정보와 레이블을 동시에 최적화할 수 있도록 한다.
• Banach–Alaoglu 정리와 Dini의 정리를 사용하여, 정규화된 목적 함수의 강성 조건과 약한 하부연속성 조건을 통해 최소화자의 존재성을 확립한다.

실험 결과

연구 질문

• RQ1 Gromov-Wasserstein 운반은 일관되고 수치적으로 해석 가능한 방식으로 두 개 이상의 입력 거리 측정 공간에 일반화될 수 있는가?
• RQ2 다중-마진 GW 문제는 특정 조건 하에서 여전히 타당한 이중 볼록 형태로 완화될 수 있는가?
• RQ3 조건부 음의 정부호성이 이중 볼록 완화의 타당성 확보에 어떤 역할을 하는가?
• RQ4 융합된 변형을 통해 다중-마진 GW 운반에 레이블 정보를 어떻게 통합할 수 있는가?
• RQ5 제안된 프레임워크는 다수의 입력에 대해 의미 있는 GW 바리센터를 계산하는 데 사용될 수 있으며, 이는 기존 방법과 비교해 어떻게 성능을 냅니다?

주요 결과

• 제안된 다중-마진 GW 운반 공식화는 다수의 거리 측정 공간을 동시에 정렬할 수 있으며, GW 거리의 적용 범위를 이원 비교를 넘어서 확장한다.
• 비용 함수가 조건부 음의 정부호일 경우, 다중-마진 GW 문제의 이중 볼록 완화는 타당하므로 이러한 조건 하에서 원래 문제를 정확히 복원할 수 있다.
• 정규화 및 비균형 변형된 다중-마진 GW 문제의 목적 함수는 강성 조건과 약한 하부연속성을 만족하므로 최소화자의 존재가 보장된다.
• 수치적 결과는 본 프레임워크가 형태 군집화, 다중 그래프 매칭, 융합된 데이터 정렬 등의 응용 분야에서 실현 가능하고 잠재력이 있음을 보여준다.
• 다중-마진 Sinkhorn 기반의 효율적 계산 방식을 통해 대규모 데이터 융합 작업에 대해 확장 가능한 해법을 제공한다.
• 레이블 공간을 통합함으로써 본 프레임워크는 자연스럽게 융합된 GW 바리센터로 확장되며, 기하학적 정보와 의미 정보를 모두 갖춘 구조적 데이터에 대한 통합적 접근법을 제공한다.