[논문 리뷰] Polynomial-time algorithms for Multimarginal Optimal Transport problems with decomposable structure

Jason M. Altschuler, Enric Boix-Adserà|arXiv (Cornell University)|2020. 08. 07.

Markov Chains and Monte Carlo Methods참고 문헌 49인용 수 10

한 줄 요약

이 논문은 비용 함수의 분해 가능 성질(국소/전역 상호작용 또는 저랭크/희소 성분)을 활용하여 다중경계 최적 운반(MOT) 문제에 대한 최초의 다항식 시간 알고리즘을 제안한다. 이 접근법은 다항식 시간 내에 정확하고 희소한 해를 제공함으로써, 이전에 계산이 불가능하거나 근사적이고 흐린 해를 도출했던 방법들에 비해 크게 향상시킨다.

ABSTRACT

Multimarginal Optimal Transport (MOT) has recently attracted significant interest due to applications in machine learning, statistics, and the sciences. However, in most applications, the success of MOT is severely limited by a lack of efficient algorithms. Indeed, in general, MOT requires exponential time in the number of marginals k and their support sizes n. This paper develops a general theory about structural properties that make MOT solvable in poly(n,k) time. We identify two such properties: decomposability of the cost into either (i) local and simple global interactions; or (ii) low-rank and sparse components. These two structures encompass many--if not most--current applications of MOT. In addition to providing the first poly(n,k)-time algorithms for a wide range of MOT problems, our results also provide better algorithms for MOT problems that are already known to be tractable: Our algorithms compute solutions which are exact and sparse. (Previous algorithms can do neither.) We demonstrate our results theoretically and numerically on popular applications in machine learning, statistics, and fluid dynamics.

연구 동기 및 목표

• 고차원 응용 분야에서 다중경계 최적 운반(MOT)의 계산 불가능성 문제를 해결한다.
• MOT 문제의 다항식 시간 해법을 가능하게 하는 비용 함수의 구조적 조건을 규명한다.
• 기존 방법의 한계를 극복하기 위해 정확하고 희소한 해를 계산하는 알고리즘을 개발한다.
• 제안된 프레임워크가 기계 학습 및 유체역학을 포함한 다양한 분야에서 적용 가능하고 효율적인지를 입증한다.

제안 방법

• 비용 함수가 국소 상호작용과 전역 항으로 분해되는 방식으로 MOT 문제를 선형 프로그래밍으로 공식화한다.
• 상호작용 항의 구조를 활용하기 위해 비용 텐서의 저랭크 및 희소 분해를 도입한다.
• 이중성과 블록좌표강하 기법을 활용하여 결과 최적화 문제를 poly(n,k) 시간 내에 해결한다.
• 계산 복잡도를 감소시키면서도 정확성을 유지하기 위해 스무딩 및 희소화 전략을 적용한다.
• 구조화된 비용을 효율적으로 처리하기 위해 기반 분해 ADMM 유사 알고리즘을 사용한다.
• 반복 최적화 과정에서 랭크 및 지지 집합 제약 조건을 강제하여 해의 희소성을 확보한다.

실험 결과

연구 질문

• RQ1 비용 함수에 어떤 구조적 조건이 성립할 경우 다중경계 최적 운반 문제를 다항식 시간 내에 해결할 수 있는가?
• RQ2 국소 상호작용이나 저랭크 구성 요소와 같은 분해 가능한 비용 구조는 정확하고 희소한 해를 가능하게 하는가?
• RQ3 제안된 알고리즘이 기존 MOT 솔버와 비교해 성능 및 정확도에서 어떻게 뛰어나게 되는가?
• RQ4 이 프레임워크는 기계 학습 및 유체역학 분야의 실제 문제에 얼마나 널리 적용될 수 있는가?
• RQ5 고차원 환경에서 다항식 시간 복잡도를 확보하면서도 정확성을 유지할 수 있는가?

주요 결과

• 논문은 비용 함수가 국소/전역 상호작용 또는 저랭크/희소 성분으로 분해 가능한 경우, MOT 문제를 poly(n,k) 시간 내에 해결할 수 있음을 입증한다.
• 제안된 알고리즘은 이전 방법들이 근사적 또는 흐린 해를 도출했던 것과는 달리 정확한 해를 계산한다.
• 정확도를 훼손하지 않으면서도 해의 희소성을 달성하여 효율적인 계산과 해석이 가능해진다.
• 기계 학습, 통계 및 유체역학 응용 분야에서의 실증적 검증을 통해 강력한 성능과 확장 가능성을 입증하였다.
• 이론적 및 수치적 결과는 알고리즘이 런타임과 해 품질 측면에서 기존 접근법을 모두 앞서는 것으로 나타났다.