[논문 리뷰] Continuous-Flow Graph Transportation Distances

Justin Solomon, Raif M. Rustamov외 2명|arXiv (Cornell University)|2016. 03. 22.

Data Management and Algorithms참고 문헌 33인용 수 17

한 줄 요약

이 논문은 그래프 정점 위의 리만 다양체에서 지오데식선을 통해 확률 분포를 모델링함으로써, 그래프에서 워셔슈타인 유사 거리의 효율적이고 확장 가능한 계산을 가능하게 하는 새로운 연속 흐름 그래프 운반 거리를 제안한다. 기존 최적 운반 이론과 달리, 시간 이산화된 유체 흐름 공식을 사용함으로써 이차적 스케일링을 피하고, 간선 수에 대해 선형 스케일링을 달성하면서도 2-워셔슈타인 거리의 핵심 기하적 성질인 이동 보간과 삼각 부등식을 유지한다.

ABSTRACT

Optimal transportation distances are valuable for comparing and analyzing probability distributions, but larger-scale computational techniques for the theoretically favorable quadratic case are limited to smooth domains or regularized approximations. Motivated by fluid flow-based transportation on $\mathbb{R}^n$, however, this paper introduces an alternative definition of optimal transportation between distributions over graph vertices. This new distance still satisfies the triangle inequality but has better scaling and a connection to continuous theories of transportation. It is constructed by adapting a Riemannian structure over probability distributions to the graph case, providing transportation distances as shortest-paths in probability space. After defining and analyzing theoretical properties of our new distance, we provide a time discretization as well as experiments verifying its effectiveness.

연구 동기 및 목표

• 그래프에서 2-워셔슈타인 거리의 계산 비용 문제를 해결하기 위해, 정점 수에 따라 이차적으로 증가하는 계산 비용을 해결한다.
• 최적 운반 문제의 선형 프로그래밍이 필요로 하지 않는, 2-워셔슈타인 거리의 기하학적 및 안정성 성질을 유지하는 그래프 기반 운반 거리를 개발한다.
• 유체 흐름에 영감을 받은 변분 공식을 통해 연속 최적 운반 이론과 이산 그래프 기반 데이터 구조 간의 격차를 메운다.
• 형태 검색, 군집화, 그래프 구조 데이터 기반 학습 등의 응용을 위해 확장 가능하고, 미분 가능하며 기하학적으로 의미 있는 거리 계산을 가능하게 한다.

제안 방법

• 그래프 정점 위의 확률 분포 공간에 리만 기하학적 구조를 정의하여, 탄젠트 공간과 내적을 연속 최적 운반 이론에 유사하게 정의한다.
• 시간에 따라 변화하는 밀도 및 속도장에 의해 매개변수화된 확률 공간 내의 최단경로 문제로 운반 거리의 변분 공식을 유도한다.
• 시간 이산화된 연속 유체 흐름 모델을 사용하여 간선 유량에 대한 볼록 최적화 문제로 이격시킨다.
• 그래프 라플라시안을 발산 연산자의 이산적 해석으로 사용하여 연속성 방정식을 그래프 구조에 통합한다.
• 결과로 유도된 최적화 문제를 일반적인 볼록 최적화 솔버로 해결하며, 계산 비용은 간선 수에 대해 선형이다.
• 이동 보간을 사용하여 질량 이동 경로를 시각화함으로써 연속 워셔슈타인 이론의 기하학적 직관을 유지한다.

실험 결과

연구 질문

• RQ1 그래프에서 최적 운반의 연속 흐름 공식이 그래프 크기에 대해 선형으로 스케일링하면서도 2-워셔슈타인 거리의 기하적 성질을 유지할 수 있는가?
• RQ2 그래프 정점 위의 이산적 확률 분포에 대해 지오데식선 거리를 지원할 수 있는 리만 기하학적 구조는 어떻게 정의할 수 있는가?
• RQ3 연속 최적 운반 이론에서의 유체 흐름 유사성은 그래프에 어떻게 적용되어 확장 가능하고 안정적인 운반 거리를 도출할 수 있는가?
• RQ4 제안된 방법이 형태 검색 및 분포 비교 작업에서 표준 1-워셔슈타인 거리 및 L1 기반 백오브워즈 거리보다 우월한 성능을 보일 수 있는가?

주요 결과

• 제안된 연속 흐름 그래프 운반 거리 $\overline{\mathcal{W}}$ 는 삼각 부등식을 만족하고 이동 보간을 지원하여 2-워셔슈타인 거리의 핵심 기하학적 성질을 유지한다.
• 이 방법은 간선 수에 대해 선형으로 스케일링되어, 기존의 정점 수에 따라 이차적으로 증가하는 표준 2-워셔슈타인 거리와 달리 큰 희소 그래프에서도 효율적인 계산이 가능하다.
• 109종의 유기 형태를 사용한 3D 형태 검색 작업에서, $\overline{\mathcal{W}}$ 는 초기에 구별 가능한 매칭 집합 이후로도 $L_1$ 기반 백오브워즈 거리보다 일관되게 뛰어난 클래스 내 검색 성능을 달성했다.
• 전체 선형 프로그래밍을 통한 최적 운반의 계산 부담을 피하면서도 $\mathcal{W}_1$ 보다 안정성과 기하학적 구조에서 뛰어난 성능을 보였다.
• 변분 공식은 매끄럽고 연속적인 질량 이동 경로를 가능하게 하여 분포 변환의 시각화 및 해석을 가능하게 한다.
• 바리센터 계산을 통한 응용으로 군집화, 준지도 학습, 행렬 분해 등 다른 분야로의 일반화 가능성도 확보된다.