[논문 리뷰] Stochastic Optimization for Regularized Wasserstein Estimators

Marin Ballu, Quentin Berthet외 1명|arXiv (Cornell University)|2020. 02. 20.

Markov Chains and Monte Carlo Methods참고 문헌 39인용 수 9

한 줄 요약

이 논문은 이중 표현과 샘플에서 직접 계산된 확률적 경사 하강법을 활용하여 각 반복에서 보조 최적화 문제를 해결할 필요 없이, 정규화된 워셔스타인 추정기의 확률적 최적화 알고리즘을 제안한다. 이로 인해 반복당 시간 복잡도가 하향선형이 되며, 이론적 수렴 보장과 합성 데이터에서의 경험적 성능을 동시에 확보한다.

ABSTRACT

Optimal transport is a foundational problem in optimization, that allows to compare probability distributions while taking into account geometric aspects. Its optimal objective value, the Wasserstein distance, provides an important loss between distributions that has been used in many applications throughout machine learning and statistics. Recent algorithmic progress on this problem and its regularized versions have made these tools increasingly popular. However, existing techniques require solving an optimization problem to obtain a single gradient of the loss, thus slowing down first-order methods to minimize the sum of losses, that require many such gradient computations. In this work, we introduce an algorithm to solve a regularized version of this problem of Wasserstein estimators, with a time per step which is sublinear in the natural dimensions of the problem. We introduce a dual formulation, and optimize it with stochastic gradient steps that can be computed directly from samples, without solving additional optimization problems at each step. Doing so, the estimation and computation tasks are performed jointly. We show that this algorithm can be extended to other tasks, including estimation of Wasserstein barycenters. We provide theoretical guarantees and illustrate the performance of our algorithm with experiments on synthetic data.

연구 동기 및 목표

• 워셔스타인 기반 손실을 최소화하기 위한 1차 최적화 방법에서 발생하는 계산적 병목 현상을 해결하기 위해, 각 단계에서 기울기를 계산하기 위해 고비용 최적화 문제를 해결해야 하는 문제를 해결한다.
• 각 반복에서 추가적인 최적화 문제를 해결하지 않고도 샘플에서 직접 기울기를 계산하는 확률적 최적화 체계를 개발한다.
• 알고리즘을 통해 T단계 후에 생성된 추정기의 이론적 수렴 경계를 제공한다.
• 워셔스타인 바리센터 추정과 같은 관련 문제들로 접근을 확장한다.
• 다양한 정규화와 차원에 따라 알고리즘의 성능을 시연한다.

제안 방법

• 엔트로피 정규화된 최적 운반 문제의 이중 표현을 사용하여 목적함수를 샘플에 대한 기댓값으로 표현한다.
• 소스 및 타겟 측도의 샘플에서 직접 확률적 경사 하강법 단계를 계산함으로써, 각 반복에서 정규화된 운반 문제를 해결할 필요가 없어진다.
• 학습률 형태 $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$를 사용하여 이중 변수를 최적화함으로써 초기 수렴과 점진적 안정성 간의 균형을 이룬다.
• 샘플 데이터 기반으로 이중 변수를 갱신함으로써 추정과 계산을 동시에 수행하는 방식으로, 단계당 하향선형 시간 복잡도를 달성한다.
• 동일한 확률적 이중 최적화 프레임워크를 적용하여 워셔스타인 바리센터 문제로 방법을 확장한다.
• 이론적 분석을 통해 문제 차원과 최소 측도 질량에 따라 $O(T^{-\delta})$의 수렴 속도를 보이며, $\delta \geq 1/2$이다.

실험 결과

연구 질문

• RQ1 각 반복에서 보조 최적화 문제를 해결하지 않고도 정규화된 워셔스타인 추정기의 확률적 경사 하강법 단계를 계산할 수 있는가?
• RQ2 제안된 정규화된 워셔스타인 추정기의 확률적 최적화 알고리즘의 수렴 속도는 무엇인가?
• RQ3 학습률의 선택이 이중 변수 갱신의 안정성과 수렴에 어떤 영향을 미치는가?
• RQ4 제안된 방법을 워셔스타인 바리센터 추정으로 확장할 수 있는가?
• RQ5 정규화 파rameter와 문제 차원이 변화할 경우 알고리즘이 어떻게 작동하는가?

주요 결과

• 알고리즘은 반복당 하향선형 시간 복잡도를 달성하며, 가장 단순한 경우 상수 시간 복잡도를 가질 수 있어 대규모 최적화에 매우 효율적이다.
• 이론적 수렴이 $O(T^{-\delta})$ 속도로 확립되었으며, 이는 정리 5.1에서 예측된 속도와 경험적으로 관찰된 속도와 일치한다.
• 경험적 결과에 따르면, $c_0 = 2$인 $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$ 학습률이 수렴 속도와 안정성 사이의 균형을 잘 이루고 있다.
• 정규화 항 $\eta$는 추정 측도를 타겟 지지부의 균일 분포에 더 가깝게 이동시키며, $\eta = 2\varepsilon$일 경우 수치적 안정성을 확보한다.
• 타겟 측도의 지지부 크기 $J$를 증가시키면 수렴 속도가 향상되고, 입력 지지부 크기 $I$를 증가시키면 성능이 악화된다.
• 합성 데이터에서 알고리즘은 안정적이고 빠른 수렴을 보이며, 최적의 학습률 설정 시 경험적 수렴 속도가 $O(T^{-1})$를 초과한다.