[논문 리뷰] On the Convergence and Robustness of Training GANs with Regularized Optimal Transport

Maziar Sanjabi, Jimmy Ba외 2명|arXiv (Cornell University)|2018. 02. 22.

Generative Adversarial Networks and Image Synthesis인용 수 65

한 줄 요약

본 논문은 정규화된 최적 수송(Wasserstein) 목적을 사용한 GAN 학습의 정지 상태에 대한 전역 수렴을 입증하고, 이차 판별기 해를 활용해 그래디언트 정보를 효율적으로 얻을 수 있음을 보이며, 견고성을 위한 Sinkhorn 손실을 도입한다.

ABSTRACT

Generative Adversarial Networks (GANs) are one of the most practical methods for learning data distributions. A popular GAN formulation is based on the use of Wasserstein distance as a metric between probability distributions. Unfortunately, minimizing the Wasserstein distance between the data distribution and the generative model distribution is a computationally challenging problem as its objective is non-convex, non-smooth, and even hard to compute. In this work, we show that obtaining gradient information of the smoothed Wasserstein GAN formulation, which is based on regularized Optimal Transport (OT), is computationally effortless and hence one can apply first order optimization methods to minimize this objective. Consequently, we establish theoretical convergence guarantee to stationarity for a proposed class of GAN optimization algorithms. Unlike the original non-smooth formulation, our algorithm only requires solving the discriminator to approximate optimality. We apply our method to learning MNIST digits as well as CIFAR-10images. Our experiments show that our method is computationally efficient and generates images comparable to the state of the art algorithms given the same architecture and computational power.

연구 동기 및 목표

• GAN 학습에 정규화된 Wasserstein 거리를 사용할 것을 동기화하고 원래 Wasserstein 목적의 비매끄러움 문제를 다룬다.
• 생성자 파라미터에 대한 정규화된 OT 목적의 매끄러움을 증명하고, 판별기가 대략적으로 해결될 때 그래디언트 오차 경계 를 확립한다.
• 근사 판별기 해에 따른 SGD 기반 GAN 학습의 정지점으로의 전역 수렴을 입증한다.
• λ가 작지 않을 때 생기는 바이어스를 줄이고 의미 있는 거리 측정치를 보존하기 위해 강건한 Sinkhorn 손실을 제안한다.
• 향상된 수렴을 위해 판별기 정확도와 생성기 스텝의 균형에 대한 알고리즘적 지침을 제공한다.

제안 방법

• KL 또는 노름-2 정규화항을 포함하는 정규화된 OT (dc,λ)와 그 이중식을 정의한다.
• hλ(θ)=dc,λ(Gθ(q),p)가 θ에 대해 매끄럽고 최적 수송 계획 π*의 θ에 대한 의존성을 한정한다.
• 이중식을 근사적으로 풀면 hλ에 대해 오차 δ를 가진 근사 그래디언트를 얻을 수 있음을 보이고, 이는 수렴 보장을 갖는 SGD를 가능하게 한다.
• Algorithm 1: 표준 조건하에서 정지점으로의 수렴을 증명하는 ε-정확한 이중 해를 이용해 그래디언트를 얻는 오라클 기반 비대칭(non-convex) SGD를 제안한다.
• 큰 λ에서 생기는 바이어스를 줄이고 의미 있는 거리 동작을 보존하기 위해 Sinkhorn 손실 Lλ(p,q)을 도입하고, 유사한 수렴 보장을 갖는 SGD 기반 방법(Algorithm 2)을 도출한다.
• 판별기 정확도 ε, 기울기 분산 σ2, 그리고 정지점 해에 대한 수렴 속도를 연결하는 이론적 결과를 제공한다.

실험 결과

연구 질문

• RQ1 정규화된 Wasserstein GAN 목적이 생성자 파라미터에 대해 매끄러운 그래디언트를 제공할 수 있는가?
• RQ2 판별기(이중) 해를 근사적으로 해결하는 것이 GAN 학습에서 그래디언트 정확도와 SGD 수렴에 어떤 영향을 미치는가?
• RQ3 제안된 정규화된 OT 목적이 실제적인(근사적) 판별기 해에서 GAN에 대해 정지점으로의 전역 수렴을 보장하는가?
• RQ4 Sinkhorn 손실이 정규화 매개변수 λ의 선택에 대한 강건성을 제공하고 학습된 생성기에 바이어스를 주지 않는가?
• RQ5 정규화된 OT를 사용하는 GAN에서 판별기 정확도 대 생성기 스텝에 대한 실용적 지침은 수렴을 어떻게 개선하는가?

주요 결과

• 완만한 가정하에서 정규화된 Wasserstein 거리 hλ(θ)는 생성자 매개변수에 대해 매끄럽다.
• 정규화된 OT 이중 문제에 대한 ε-정확한 해는 hλ에 대한 그래디언트를 오차 δ = O(sqrt(ε/λ))로 제공한다; 이는 근사 정지점으로의 수렴을 갖는 SGD를 가능하게 한다.
• 단순한 SGD 유사 방법(Algorithm 1)은 그래디언트 Lipschitz 상수, 원하는 정확도 및 판별기 오차에 의존하는 속도로 근사 정지점 해로 수렴한다.
• Sinkhorn 손실 Lλ은 λ 값에 대한 강건성을 제공하고 바이어스를 피하면서 의미 있는 거리 동작을 보존하여 안정적인 학습을 촉진한다.
• MNIST와 CIFAR-10에 대한 실험은 SWGAN 접근이 정규화된 OT 프레임워크에서 계산적으로 효율적이고 경쟁력 있는 이미지를 생성할 수 있음을 보이며, 비용 함수 및 잠재 표현에 따라 성능이 달라진다.
• 이론적 결과는 동일한 수렴 보장을 갖는 Sinkhorn-손실 기반 SGD 방법(Algorithm 2)으로 확장된다.