[논문 리뷰] A Direct $ ilde{O}(1/\epsilon)$ Iteration Parallel Algorithm for Optimal Transport

Arun Jambulapati, Aaron Sidford외 1명|arXiv (Cornell University)|2019. 06. 03.

Stochastic Gradient Optimization Techniques참고 문헌 32인용 수 5

한 줄 요약

이 논문은 최적 운반 문제에 대해 ϵ-근사해를 ˜O(1/ϵ)의 병렬 반복 수와 ˜O(n²/ϵ)의 총 작업량으로 달성하는 새로운 원시-이중 보조 기울기 알고리즘을 제안한다. 이는 이전 최고 성능의 결과와 동일한 작업 복잡도를 유지하면서도, 행렬 스케일링이나 양의 선형계획법 해법기반의 비병렬화 가능한 하위루틴을 피함으로써 성능을 향상시킨다. 이 방법은 영역-볼록성과 미러 프록스 스타일 업데이트를 활용하여 효율적이고 확장 가능한 계산을 가능하게 하며, 실용적인 수렴 속도를 제공한다.

ABSTRACT

Optimal transportation, or computing the Wasserstein or ``earth mover's'' distance between two distributions, is a fundamental primitive which arises in many learning and statistical settings. We give an algorithm which solves this problem to additive $\epsilon$ with $ ilde{O}(1/\epsilon)$ parallel depth, and $ ilde{O}\left(n^2/\epsilon ight)$ work. Barring a breakthrough on a long-standing algorithmic open problem, this is optimal for first-order methods. Blanchet et. al. '18, Quanrud '19 obtained similar runtimes through reductions to positive linear programming and matrix scaling. However, these reduction-based algorithms use complicated subroutines which may be deemed impractical due to requiring solvers for second-order iterations (matrix scaling) or non-parallelizability (positive LP). The fastest practical algorithms run in time $ ilde{O}(\min(n^2 / \epsilon^2, n^{2.5} / \epsilon))$ (Dvurechensky et. al. '18, Lin et. al. '19). We bridge this gap by providing a parallel, first-order, $ ilde{O}(1/\epsilon)$ iteration algorithm without worse dependence on dimension, and provide preliminary experimental evidence that our algorithm may enjoy improved practical performance. We obtain this runtime via a primal-dual extragradient method, motivated by recent theoretical improvements to maximum flow (Sherman '17).

연구 동기 및 목표

• 행렬 스케일링이나 양의 선형계획법 해법기반의 비병렬화 가능한 또는 2차 수준의 하위루틴에 의존하지 않는 1차 수준의 병렬화 가능한 최적 운반 알고리즘을 설계한다.
• ˜O(n²/ϵ)의 최고 수준의 작업 복잡도를 유지하면서도 기존 감소 기반 접근법에 비해 병렬 깊이와 실용성을 향상시킨다.
• 영역-볼록성과 함께 원시-이중 보조 기울기 방법을 사용할 경우 최적 운반 문제에서 최적 수렴 속도를 달성할 수 있으며, 이는 증명 가능한 보장이 있음을 입증한다.
• 이론적 수렴 성능와 실용적 성능 사이의 격차를 메우기 위해 싱크혼과 APDAMD와의 경쟁적 실증적 행동을 보여준다.
• 정규화와 스텝 크기 조정이 최적 운반 문제에 대한 1차 수준 방법의 안정성과 수렴 속도에 미치는 영향을 탐색한다.

제안 방법

• 최적 운반 문제를 상자(ℓ∞-구)와 단체(ℓ1-구) 위의 최소최대 게임으로 재구성함으로써 원시-이중 공식화를 가능하게 한다.
• 최근 최대 유량 및 두 명의 플레이어 게임에서의 발전을 기반으로 한 이중 외삽 기반의 알고리즘을 도입하며, 수렴을 위해 영역-볼록성에 적응시킨다.
• 외삽 기법의 수치적 안정성 있는 구현을 위해 미러 프록스를 사용하여 이중 연산자 축적을 피한다.
• 엔트로피와 이차 성분을 포함한 정규화를 사용하며, 수렴을 향상시키기 위해 스텝 크기를 적응적으로 조정한다.
• 일반적으로 수렴에 3~5단계로 충분한 교차 최소화를 구현하며, ℓ1 이동량이 무시할 만큼 작아질 때까지 반복한다.
• 비용 행렬 C의 성분이 유계임 ∥C∥max으로 간주하고, 이는 수렴 분석과 스텝 크기 선택에 사용된다.

실험 결과

연구 질문

• RQ1 비병렬화 가능한 또는 2차 수준의 하위루틴(예: 행렬 스케일링 또는 양의 선형계획법 해법기반)에 의존하지 않고도 최적 운반 문제에 대해 1차 수준의 병렬화 가능한 알고리즘이 최적의 ˜O(1/ϵ) 반복 복잡도를 달성할 수 있는가?
• RQ2 영역-볼록성과 미러 프록스 스타일 업데이트를 사용할 경우 이론적 수렴성과 실용적 효율성 양쪽 모두를 최적 운반 문제에서 달성할 수 있는가?
• RQ3 정규화와 스텝 크기의 적응적 조정이 이론적 보장에 비해 실질적으로 수렴에 어떤 영향을 미치는가?
• RQ4 왜 큰 η를 사용하는 싱크혼은 예측보다 더 빠르게 수렴하는가? 그리고 1차 수준 방법이 이 행동을 재현할 수 있는가?
• RQ5 다양한 수준의 정규화에서 안정적이고 효율적인 성능 유지를 위해 제안된 방법을 어떻게 개선할 수 있는가?

주요 결과

• 알고리즘은 ˜O(1/ϵ)의 병렬 깊이와 ˜O(n²/ϵ)의 총 작업량을 달성하며, [BJKS18, Qua19]에서 보고된 최고 수준의 작업 복잡도를 유지하지만 비병렬화 가능한 또는 2차 수준의 하위루틴에 의존하지 않는다.
• 실증 결과는 이론적 ϵ−2 수렴 속도를 초월하여 실제로 더 빠른 수렴을 보이며, APDAMD를 능가하고 정규화 상수를 최적화할 경우 싱크혼에 가까운 속도를 달성한다.
• 엔트로피 정규화 수준의 변화에 대해 안정성을 유지하며, 정규화가 적절히 조정될 경우 수렴 성능이 크게 향상된다. 이는 이론적 10배 요소가 과도하게 보수적인 것으로 보인다.
• 최적화된 설정(엔트로피=3, 스텝 크기=∥d∥∞)은 APDAMD를 능가하며 싱크혼과 경쟁 가능한 성능을 보이며, 강력한 실용적 타당성을 입증한다.
• 알고리즘의 수렴은 정규화 변화에 대해 강건하여, 이론적 한계가 제시하는 정규화 크기보다 작아도 충분히 작동함을 시사한다.
• 초기 실험 결과는 스텝 크기 및 정규화와 같은 매개변수의 적응적 조정이 싱크혼 및 APDAMD와 같은 최첨단 방법의 성능에 가까운 또는 이를 초월하는 성능을 낼 수 있음을 시사한다.