[논문 리뷰] Discrete Wasserstein Barycenters: Optimal Transport for Discrete Data

Ethan Anderes, Steffen Borgwardt외 1명|arXiv (Cornell University)|2015. 07. 26.

Geometric Analysis and Curvature Flows참고 문헌 24인용 수 4

한 줄 요약

이 논문은 유한 지지도를 가진 입력 확률 측도가 있는 이산 설정에서 워셔스타인 바리센터의 이론적 기초를 수립한다. 이는 이산 바리센터가 항상 이산적이고 희소하다는 것을 증명하며, 질량을 분할하지 않는 최적 운반 계획을 갖추고 있음을 보여주는데, 일반적인 이산 운반과는 달리, 선형 프로그래밍을 통한 효율적 계산과 물류 및 데이터 분석 분야에서 강력한 희소성 한계를 제공한다.

ABSTRACT

Wasserstein barycenters correspond to optimal solutions of transportation problems for several marginals, and as such have a wide range of applications ranging from economics to statistics and computer science. When the marginal probability measures are absolutely continuous (or vanish on small sets) the theory of Wasserstein barycenters is well-developed (see the seminal paper [1]). However, exact continuous computation of Wasserstein barycenters in this setting is tractable in only a small number of specialized cases. Moreover, in many applications data is given as a set of probability measures with finite support. In this paper, we develop theoretical results for Wasserstein barycenters in this discrete setting. Our results rely heavily on polyhedral theory which is possible due to the discrete structure of the marginals. Our results closely mirror those in the continuous case with a few exceptions. In this discrete setting we establish that Wasserstein barycenters must also be discrete measures and there is always a barycenter which is provably sparse. Moreover, for each Wasserstein barycenter there exists a non-mass-splitting optimal transport to each of the discrete marginals. Such non-mass-splitting transports do not generally exist between two discrete measures unless special mass balance conditions hold. This makes Wasserstein barycenters in this discrete setting special in this regard. We illustrate the results of our discrete barycenter theory with a proof-of-concept computation for a hypothetical transportation problem with multiple marginals: distributing a fixed set of goods when the demand can take on different distributional shapes characterized by the discrete marginal distributions. A Wasserstein barycenter, in this case, represents an optimal distribution of inventory facilities which minimize the squared distance/transportation cost totaled over all demands.

연구 동기 및 목표

• 입력 확률 측도가 유한 지지도를 가진 이산일 경우 워셔스타인 바리센터에 대한 엄밀한 이론적 프레임워크를 개발하는 것.
• 기존 이론이 주로 절대 연속 측도에 초점을 맞추고 있는 점을 감안해, 실제 세계의 이산 데이터에 적용 가능한 결과를 수립하는 것.
• 이산 바리센터가 반드시 이산적이고 희소하다는 것을 증명하고, 그 지지도 크기에 대한 엄밀한 상한을 제시하는 것.
• 바리센터에서 각 변량으로 가는 최적 운반 지도가 질량을 분할하지 않는다는 것을 보여주는 것. 이는 일반적인 이산 측도에 대해서는 항상 성립하지 않는 성질이다.
• 다각형 이론에 기반한 유한 차원 선형 프로그래밍 공식화를 통해 바리센터의 실용적 계산을 가능하게 하는 것.

제안 방법

• 입력 측도의 유한 지지도를 활용하여 이산 워셔스타인 바리센터의 구조를 분석하기 위해 다각형 이론을 활용한다.
• 질량 재분배의 조합적 제약 조건에서 유도된 후보 지지점 집합 S를 사용하여 바리센터의 지지도를 구성한다.
• 바리센터와 각 변량 사이의 연합 운반 계획을 나타내는 변수를 사용하여 바리센터 계산을 선형 프로그래밍(LP) 문제로 모델링한다.
• 다중 변량 최적 운반 문제의 이중 공식을 적용하여 희소성과 구조적 보장을 도출한다.
• 실제로 효율적인 바리센터 계산을 위해 JuMP 모델링 언어와 COIN-OR Clp 해소기를 활용한다.
• 예를 들어 별과 막대 기법과 같은 조합 항등식을 사용하여 바리센터 내 비영인 지지점의 최대 수에 대한 한계를 유도한다.

실험 결과

연구 질문

• RQ1 모든 입력 측도가 유한 지지도를 가진 이산일 경우 워셔스타인 바리센터를 엄밀하게 특성화할 수 있는가?
• RQ2 이산 바리센터에 대해 보장할 수 있는 구조적 성질(예: 희소성, 지지도 크기)은 무엇인가?
• RQ3 바리센터에서 각 변량으로 가는 최적 운반 계획이 질량 분할을 피하는 조건은 무엇인가?
• RQ4 이론적 구조를 고려할 때 실용적으로 이산 바리센터를 어떻게 효율적으로 계산할 수 있는가?
• RQ5 이산 바리센터는 연속 경우에서 관찰된 질량 분할 방지 성질을 어느 정도 유지하는가?

주요 결과

• 이산 워셔스타인 바리센터는 입력 측도가 이산일지라도 항상 이산 측도이다.
• 지지도 크기에 대한 상한이 $ 65 = 9 imes 8 - 8 + 1 $ 인, 증명 가능한 희소성의 바리센터가 존재한다. 이는 9개의 도시와 8개의 월에 대해 적용된다.
• 사례 연구에서 계산된 바리센터의 지지도 크기 $ | ext{supp}(ar{P})| = 63 $ 이며, 이는 이론적 희소성 한계와 매우 가깝다.
• 바리센터 해는 지지점 집합 $ S $ 의 가능한 지점의 0.5% 이하만 사용한다. $ S $ 의 크기는 $ inom{16}{8} = 12,870 $ 이다.
• 각 변량에 대해 질량을 분할하지 않는 최적 운반 지도가 바리센터에서 존재한다. 이는 이산 설정에서 비현실적으로 어려운 성질이다.
• 바리센터의 특수한 구조 덕분에, 임의의 이산 측도 사이에서는 존재하지 않을 수 있는 질량 분할 방지 운반 지도가 모든 변량에 대해 보장된다.