[논문 리뷰] Greedy stochastic algorithms for entropy-regularized optimal transport problems

Brahim Khalil Abid, Robert M. Gower|arXiv (Cornell University)|2018. 03. 04.

Risk and Portfolio Optimization참고 문헌 11인용 수 10

한 줄 요약

이 논문은 행과 열 갱신을 제약 위반에 기반하여 확률적으로 선택하는 엔트로피 정규화된 최적 운반 문제를 해결하기 위한 탐욕적 확률적 알고리즘—Greedy Stochastic Sinkhorn—의 가족을 제안한다. 이 방법은 Sinkhorn 및 Greenkhorn와 동일한 수렴 속도를 달성하며, 수치 실험 결과에서 특히 α=1인 다항식 확률 함수를 사용할 경우 저정규화 영역에서 뛰어난 성능을 보인다.

ABSTRACT

Optimal transport (OT) distances are finding evermore applications in machine learning and computer vision, but their wide spread use in larger-scale problems is impeded by their high computational cost. In this work we develop a family of fast and practical stochastic algorithms for solving the optimal transport problem with an entropic penalization. This work extends the recently developed Greenkhorn algorithm, in the sense that, the Greenkhorn algorithm is a limiting case of this family. We also provide a simple and general convergence theorem for all algorithms in the class, with rates that match the best known rates of Greenkorn and the Sinkhorn algorithm, and conclude with numerical experiments that show under what regime of penalization the new stochastic methods are faster than the aforementioned methods.

연구 동기 및 목표

• 대규모 머신러닝 응용 분야에서 최적 운반 문제의 높은 계산 비용을 해결하기 위해.
• 제약 위반에 기반한 확률적 갱신 선택이 가능한 Greenkhorn 알고리즘의 일반화를 개발하기 위해.
• Greenkhorn 및 Sinkhorn의 최고 수준 결과와 동일한 수렴 속도를 확보하는 통합 수렴 정리 수립을 위해.
• 원래 OT 문제에 가장 가까운 해를 얻는 저엔트로피 정규화 영역에서 신규 알고리즘의 성능 평가를 위해.
• 병렬 처리를 향상시키고 반복 계산 비용을 줄이는 블록 변형을 제안하기 위해.

제안 방법

• 운반 제약 조건 위반 정도에 비례하여 행 또는 열을 갱신할 확률을 정의하는 알고리즘 가족을 제안한다.
• α로 매개변수화된 유연한 확률 함수를 사용하며, α→∞일 때 Greenkhorn 알고리즘이 한계 경우로 나타난다.
• 정규화된 OT 문제의 이중 형태를 활용하여, 행렬 스케일링을 통해 이중 변수 u와 v를 갱신한다.
• 이 가족에 속하는 모든 알고리즘에 대해 일반 수렴 정리를 도출하며, 온건한 조건 하에 O(n/ε²) 반복 복잡도를 증명한다.
• d개의 구성 요소를 동시에 갱신하는 블록 변형을 도입하여 병렬 처리를 향상시키고, 국소적 위반 계산 빈도를 감소시킨다.
• 각 반복에서 제약 위반 기반 확률에 따라 하나의 행 또는 열만 선택하여 갱신하는 스 tochastic 업데이트 규칙을 적용하여 전체 행렬 갱신을 피한다.

실험 결과

연구 질문

• RQ1 엔트로피 정규화된 최적 운반 문제를 위한 탐욕적 확률적 알고리즘의 일반 가족을 개발할 수 있는가? 이는 Greenkhorn를 일반화하는가?
• RQ2 이 알고리즘 가족의 수렴 속도는 무엇이며, Sinkhorn 및 Greenkhorn의 최고 수준 결과와 일치하는가?
• RQ3 제안된 Greedy Stochastic Sinkhorn이 Sinkhorn 및 Greenkhorn를 초월하는 엔트로피 정규화 영역(즉, λ)은 어디인가?
• RQ4 확률 함수의 선택(예: 다항식 대비 소프트맥스)이 수렴 속도와 안정성에 어떤 영향을 미치는가?
• RQ5 알고리즘의 블록 변형은 수렴 성질을 유지하면서 계산 효율성을 향상시킬 수 있는가?

주요 결과

• 다항식 확률 함수(11)와 α=1을 사용한 Greedy Stochastic Sinkhorn은 MNIST 데이터셋에서 저정규화 영역(λ=10)에서 가장 빠른 수렴 속도를 보였다.
• 수치 실험에서 변동성이 점차 감소하여 오차 막대가 0으로 수렴함을 확인하였으며, 이는 확률적 성격에도 불구하고 안정적인 수렴을 보임을 시사한다.
• 확률 함수에서 α→∞ 또는 T→0일 때 Greenkhorn 알고리즘이 한계 경우로 복원되며, 이는 이전 연구와의 일致성을 확인한다.
• d개의 구성 요소를 동시에 갱신하는 블록 변형은 수렴 속도를 유지하면서도 병렬 처리를 가능하게 하고 계산 오버헤드를 감소시킨다.
• 제안된 가족의 수렴 속도는 최고 수준의 O(n/ε²) 속도를 그대로 유지하며, 이는 이론적 보장을 검증한다.
• 수치 결과에 따르면, 탐욕적 방법의 핵심 이점은 가장 높은 위반 정도를 선택하는 데가 아니라, 이미 충족된 제약 조건에 대한 갱신을 피하는 데 있다. 이 성질은 블록 및 확률적 변형에서도 유지된다.