[논문 리뷰] Stochastic Optimization for Large-scale Optimal Transport

Aude Genevay, Marco Cuturi외 2명|arXiv (Cornell University)|2016. 05. 27.

Markov Chains and Monte Carlo Methods참고 문헌 20인용 수 153

한 줄 요약

이 논문은 이산, 반이산, 연속 설정에서 대규모 최적 운송 거리의 계산을 위해 확률적 최적화 방법을 도입하고, 듀얼 형식과 엔트로피 정규화를 통해 이산화 오류 없이 수렴이 보장되도록 한다.

ABSTRACT

Optimal transport (OT) defines a powerful framework to compare probability distributions in a geometrically faithful way. However, the practical impact of OT is still limited because of its computational burden. We propose a new class of stochastic optimization algorithms to cope with large-scale problems routinely encountered in machine learning applications. These methods are able to manipulate arbitrary distributions (either discrete or continuous) by simply requiring to be able to draw samples from them, which is the typical setup in high-dimensional learning problems. This alleviates the need to discretize these densities, while giving access to provably convergent methods that output the correct distance without discretization error. These algorithms rely on two main ideas: (a) the dual OT problem can be re-cast as the maximization of an expectation ; (b) entropic regularization of the primal OT problem results in a smooth dual optimization optimization which can be addressed with algorithms that have a provably faster convergence. We instantiate these ideas in three different setups: (i) when comparing a discrete distribution to another, we show that incremental stochastic optimization schemes can beat Sinkhorn's algorithm, the current state-of-the-art finite dimensional OT solver; (ii) when comparing a discrete distribution to a continuous density, a semi-discrete reformulation of the dual program is amenable to averaged stochastic gradient descent, leading to better performance than approximately solving the problem by discretization ; (iii) when dealing with two continuous densities, we propose a stochastic gradient descent over a reproducing kernel Hilbert space (RKHS). This is currently the only known method to solve this problem, apart from computing OT on finite samples. We backup these claims on a set of discrete, semi-discrete and continuous benchmark problems.

연구 동기 및 목표

• 머신러닝에서 대규모 분포에 대한 최적 운송 거리를 효율적으로 계산하려는 동기를 제시한다.
• 이산화(discretization)를 피하고 분포로부터의 샘플링을 통해 작동하는 확률적 최적화 방법을 개발한다.
• 이산, 반이산, 연속 OT 설정에 대해 수렴이 증명 가능한 알고리즘을 제공한다.
• 이산, 반이산, 연속에서 확률적 방법이 전통적인 Sinkhorn 계열 솔버를 능가하는 실험적 비교를 제시한다.

제안 방법

• 이산 OT 설정의 듀얼 문제를 기댓값의 최대화 문제로 재구성하여 확률적 최적화를 가능하게 한다(반 듀얼 형태 포함).
• 엔트로피 정규화를 이용해 매끄러운 듀얼을 얻고 더 빠른 수렴을 가능하게 한다(적절한 경우 Sinkhorn 기반 기법 사용).
• 대규모 문제에서 Sinkhorn을 능가하기 위해 이산 OT 설정에 SAG(확률적 평균 기울기)를 제안한다.
• 연속 밀도를 이산화하지 않으면서 이산 측정치와 연속 측정치를 다루기 위해 반이산 OT에 평균화 SGD를 적용한다.
• 연속-연속 OT의 경우 듀얼 변수들을 RKHS에서 확장하고 커널 SGD를 적용하여 RKHS 내에서 듀얼 해에 수렴하도록 한다.
• 수렴 보장을 갖는 알고리즘을 제공하고 미니배치, 학습률, RKHS 투영 등의 실용성도 논의한다.

실험 결과

연구 질문

• RQ1 확률적 최적화 방법이 대규모 이산 분포에 대한 OT 거리를 효율적으로 계산하고 Sinkhorn의 병목을 극복할 수 있는가?
• RQ2 듀얼 형태와 엔트로피 정규화를 이용해 이산화 없이 반이산 OT를 다룰 수 있는 방법은 무엇인가?
• RQ3 RKHS 프레임워크에서 확률적 최적화를 사용해 두 연속 밀도 간 OT 거리를 해결하는 것이 실현 가능한가?
• RQ4 OT 설정에서 SAG, SGD, 커널 SGD의 수렴 특성과 실용적 성능(속도 및 정확도)은 어떠한가?
• RQ5 이들 확률적 방법이 이산, 반이산, 연속 벤치마크 전반에서 최신 이산 OT 솔버와 실험적으로 어떻게 비교되는가?

주요 결과

• 증분적 확률적 최적화(SAG)가 대규모 이산 OT 문제에서 Sinkhorn보다 우수할 수 있다.
• 반이산 OT에 대한 평균 SGD는 한 분포가 연속이고 다른 하나가 이산인 문제에 적합한 수렴 속도를 제공합니다.
• RKHS에서의 커널 SGD는 두 연속 밀도 간 OT에 수렴하는 실용적 방법으로, 유한 샘플 이산화 이외의 실용적 방법 중 최초의 수렴 보장을 가진 접근이다.
• 엔트로피 정규화는 매끄러운 듀얼을 가능하게 하여 확률적 최적화의 증명 가능한 수렴을 용이하게 한다.
• 단어 임베딩과 워드 모버 거리 실험에서 대규모 이산 설정에서 Sinkhorn보다 수렴이 빠르며, GPU에서도 잘 확장된다.