[논문 리뷰] Multi-Marginal Optimal Transport Defines a Generalized Metric.

Liang Mi, José Bento|arXiv (Cornell University)|2020. 01. 29.

Optimization and Search Problems참고 문헌 3인용 수 5

한 줄 요약

이 논문은 다중경계 최적 운반(MMOT)이 일반화된 거리함수를 정의함을 증명하여, 이전의 도전 과제를 극복하기 위한 핵심 중간 결과를 통해 이론적 기반을 구축한다. 다중경계 최적 운반은 향상시킬 수 없는 일반화된 삼각 부등식을 만족함을 보이며, 이는 거리 기반 기계학습 프레임워크에서의 활용을 가능하게 한다.

ABSTRACT

Optimal transport (OT) is rapidly finding its way into machine learning. Favoring its use are its metric properties. Indeed, many problems admit solution guarantees only for objects embedded in a metric space, and the use of non-metrics can make their solving more difficult. Multi-marginal OT (MMOT) generalizes OT to simultaneously transporting multiple distributions. It captures important relations that are missed if the transport is pairwise. Research on MMOT, however, has been focused on its existence, the uniqueness and structure of transports, applications, practical algorithms, and the choice of cost functions. There is a lack of discussion on the metric properties of MMOT, which critically limits its theoretical and practical use. Here, we prove that MMOT defines a generalized metric. We first explain the difficulty of proving this via two negative results. Afterwards, we prove key intermediate steps and then prove MMOT's metric properties. Finally, we show that the generalized triangle inequality that MMOT satisfies cannot be improved.

연구 동기 및 목표

• 다중경계 최적 운반(MMOT)의 거리성질에 대한 이론적 이해 부족을 해결하기 위해.
• MMOT가 구조적 복잡성으로 인해 이를 증명하는 데 어려움이 있음에도 불구하고 일반화된 거리함수 공리(axioms)를 만족함을 입증하기 위해.
• MMOT가 만족하는 일반화된 삼각 부등식이 날카롭고 향상시킬 수 없음을 입증하기 위해.
• MMOT를 기계학습 응용 분야에서 거리공간 보장을 필요로 하는 이론적 프레임워크에 사용하기 위한 이론적 기초를 제공하기 위해.

제안 방법

• MMOT에서 거리성질을 직접 증명하는 데 방해가 되는 두 가지 부정적 결과를 규명하고 분석하기 위해.
• 이러한 장애물을 극복하고 거리공리 증명을 위한 기초를 마련하기 위해 핵심 중간 결과를 수립하기 위해.
• MMOT가 비음성, 동일한 원소의 정체성, 대칭성과 같은 일반화된 거리함수 공리를 만족함을 증명하기 위해.
• MMOT가 표준 삼각 부등식을 다중경계 설정으로 확장한 일반화된 삼각 부등식을 만족함을 보여주기 위해.
• 반례를 사용하여 일반화된 삼각 부등식이 더 강화되거나 향상시킬 수 없음을 보여주기 위해.
• 다중경계 결합과 비용 함수의 구조적 성질을 활용하여 일반화된 거리함수 프레임워크를 체계화하기 위해.

실험 결과

연구 질문

• RQ1 다중경계 최적 운반은 일반화된 거리함수의 공리를 만족시킬 수 있는가?
• RQ2 MMOT에서 거리성질을 직접 증명하는 데 방해가 되는 근본적인 장애물은 무엇인가?
• RQ3 MMOT는 일반화된 삼각 부등식을 만족하는가? 만약 그렇다면 이를 향상시킬 수 있는가?
• RQ4 MMOT의 거리성질은 표준 최적 운반과 비교해 어떻게 다른가?
• RQ5 이러한 거리성질은 MMOT의 기계학습에서의 이론적 활용에 어떤 영향을 미치는가?

주요 결과

• MMOT는 비음성, 동일한 원소의 정체성, 대칭성과 같은 일반화된 거리함수 공리를 만족한다.
• 반례를 통해 MMOT가 만족하는 일반화된 삼각 부등식이 날카롭고 향상시킬 수 없음을 입증하였다.
• 두 가지 부정적 결과는 MMOT에서 거리성질을 증명하는 데 있어 구조적 과제를 드러내며, 이는 중간 이론적 결과를 통해 극복된다.
• 증명 과정을 통해 MMOT가 유효한 일반화된 거리함수를 제공함을 입증하여, 거리공간 성질이 필요한 이론적 기계학습 프레임워크에서의 활용을 가능하게 하였다.
• MMOT의 일반화된 거리함수 구조는 다중확률분포 운반 문제에서 보다 넓은 이론적 보장을 가능하게 한다.