[논문 리뷰] Adaptive Similar Triangles Method: a Stable Alternative to Sinkhorn's Algorithm for Regularized Optimal Transport

Pavel Dvurechensky, Alexander Gasnikov외 2명|arXiv (Cornell University)|2017. 06. 23.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 11

한 줄 요약

이 논문은 엔트로피 정규화된 최적 운반 문제 및 관련 엔트로피-선형계획문제를 해결하기 위한 새로운 1차 알고리즘인 적응형 유사 삼각형 방법(Adaptive Similar Triangles Method, ASTM)을 제안한다. 이중 문제에 대한 적응형 가속 경사하강법을 활용하고 싱크혼의 방법에서의 웜스타트를 가능하게 함으로써, ASTM는 O(1/k²) 수렴 속도를 달성하며, 정규화 파라미터 γ가 작을 경우 싱크혼의 알고리즘보다 계산 시간에서 뛰어난 성능을 보이며, 실용적 응용에서 더 높은 수치적 안정성과 효율성을 제공한다.

ABSTRACT

In this paper, we are motivated by two important applications: entropy-regularized optimal transport problem and road or IP traffic demand matrix estimation by entropy model. Both of them include solving a special type of optimization problem with linear equality constraints and objective given as a sum of an entropy regularizer and a linear function. It is known that the state-of-the-art solvers for this problem, which are based on Sinkhorn's method (also known as RSA or balancing method), can fail to work, when the entropy-regularization parameter is small. We consider the above optimization problem as a particular instance of a general strongly convex optimization problem with linear constraints. We propose a new algorithm to solve this general class of problems. Our approach is based on the transition to the dual problem. First, we introduce a new accelerated gradient method with adaptive choice of gradient's Lipschitz constant. Then, we apply this method to the dual problem and show, how to reconstruct an approximate solution to the primal problem with provable convergence rate. We prove the rate $O(1/k^2)$, $k$ being the iteration counter, both for the absolute value of the primal objective residual and constraints infeasibility. Our method has similar to Sinkhorn's method complexity of each iteration, but is faster and more stable numerically, when the regularization parameter is small. We illustrate the advantage of our method by numerical experiments for the two mentioned applications. We show that there exists a threshold, such that, when the regularization parameter is smaller than this threshold, our method outperforms the Sinkhorn's method in terms of computation time.

연구 동기 및 목표

• 최적 운반 문제 및 교통 행렬 추정 문제에서 엔트로피 정규화 파라미터 γ가 작을 때 싱크혼의 알고리즘이 겪는 수치적 불안정성과 성능 저하 문제를 해결하기 위해.
• 선형 제약 조건이 있는 강凸 최적화 문제에 일반적으로 적용 가능한 1차 방법을 개발하기 위해.
• 원형 목표 잔차 및 제약 조건 비타당성에 대해 O(1/k²) 수렴 속도를 증명 가능하게 달성하기 위해.
• γ가 작을 경우 싱크혼의 방법에서의 웜스타트를 통해 실용적인 가속을 가능하게 하여, 작은 γ 영역에서의 런타임을 향상시키기 위해.
• 낮은 반복 복잡도를 유지하면서도 싱크혼의 방법보다 더 안정적이고 확장 가능한 대안을 제공하기 위해.

제안 방법

• 원래 문제를 이중 문제로 변환하여 강凸성과 선형 제약 조건을 활용해 효율적인 이중 최적화를 가능하게 한다.
• 기울기의 리프시츠 상수를 자동으로 추정하는 적응형 가속 경사하강법을 개발하여 튜닝 없이도 수렴을 향상시킨다.
• 이중 문제는 이러한 적응형 방법을 사용하여 해결하며, O(1/k²) 수렴 속도를 달성한다.
• 닫힌 형태의 갱신을 통해 이중 반복값에서 근사된 원형 해를 재구성하여 타당성과 목표 함수 정확성을 보장한다.
• γ가 작을 경우 싱크혼의 방법에서의 해를 초기값으로 사용하여 웜스타트를 구현함으로써 수렴 속도를 가속화한다.
• 알고리즘은 싱크혼의 방법과 유사한 반복 복잡도를 유지하여 확장성을 보장한다.

실험 결과

연구 질문

• RQ1 선형 제약 조건이 있는 엔트로피 정규화된 최적 운반 문제에 대해 O(1/k²) 수렴 속도를 달성할 수 있는 1차 방법을 설계할 수 있는가?
• RQ2 정규화 파라미터 γ가 작을 경우 제안된 방법이 수치적으로 안정적이고 싱크혼의 알고리즘보다 빠른가?
• RQ3 기울기의 리프시츠 상수에 대한 사전 지식이 없이도 적응형 기울기 추정이 수렴을 향상시킬 수 있는가?
• RQ4 싱크혼의 방법에서의 웜스타트가 작은 γ 영역에서 신규 알고리즘의 성능을 얼마나 향상시키는가?
• RQ5 다양한 문제 차원과 비용 행렬에서 신규 알고리즘의 계산 복잡도와 수렴 행동은 싱크혼의 방법과 어떻게 비교되는가?

주요 결과

• 제안된 ASTM 알고리즘은 원형 목표 잔차 및 제약 조건 비타당성에 대해 O(1/k²) 수렴 속도를 달성하며, 1차 방법의 이론적 최고 수렴 속도를 정확히 충족한다.
• γ < γ₀ 인 작은 정규화 파라미터 영역에서 ASTM은 계산 시간에서 싱크혼의 알고리즘을 능가하며, 이론적 한계 γ* = ε/(4 ln p)보다 큰 임계값 γ₀를 가지므로 실용적 우수성을 보여준다.
• 합성 및 MNIST 기반 최적 운반 문제에 대한 수치 실험 결과, γ가 작을 경우 웜스타트를 적용한 ASTM은 항상 싱크혼의 알고리즘보다 더 빠르게 작동한다.
• ASTM의 실행 시간은 문제 크기 p에 대해 약 제곱형태로 증가하며, 이는 싱크혼의 방법과 유사하여 확장성을 확인한다.
• 웜스타트를 통해 ASTM의 수렴 속도가 크게 향상되며, 유클리드 및 Exp-Euclidean 비용 행렬을 가진 여러 테스트 케이스에서 런타임이 감소한다.
• γ가 매우 작을 경우에도 알고리즘이 강건하고 안정적이며, 싱크혼의 방법이 수치적 오버플로우 또는 느린 수렴으로 실패하는 상황에서도 성능을 유지한다.