[논문 리뷰] Training generative neural networks via Maximum Mean Discrepancy optimization

Gintare Karolina Dziugaite, Daniel M. Roy외 1명|arXiv (Cornell University)|2015. 05. 14.

Generative Adversarial Networks and Image Synthesis참고 문헌 8인용 수 222

한 줄 요약

이 논문은 비모수적 두 표본 검정을 사용하여 생성된 데이터 분포와 진짜 데이터 분포 간의 최대 평균 차이(MMD)를 최소화함으로써 딥 생성 신경망을 훈련시키는 방법인 MMD 넷을 제안한다. GAN과 달리, MMD 넷은 적분되지 않은 MMD의 비편향 추정치를 미분 가능한 목적함수로 사용하여 안정적인 최적화와 이론적 일반화 경계를 가능하게 한다.

ABSTRACT

We consider training a deep neural network to generate samples from an unknown distribution given i.i.d. data. We frame learning as an optimization minimizing a two-sample test statistic---informally speaking, a good generator network produces samples that cause a two-sample test to fail to reject the null hypothesis. As our two-sample test statistic, we use an unbiased estimate of the maximum mean discrepancy, which is the centerpiece of the nonparametric kernel two-sample test proposed by Gretton et al. (2012). We compare to the adversarial nets framework introduced by Goodfellow et al. (2014), in which learning is a two-player game between a generator network and an adversarial discriminator network, both trained to outwit the other. From this perspective, the MMD statistic plays the role of the discriminator. In addition to empirical comparisons, we prove bounds on the generalization error incurred by optimizing the empirical MMD.

연구 동기 및 목표

• 생성 모델의 안정적인 대안을 제시하기 위해 판별기 대신 비모수적 두 표본 검정을 사용하는 비대칭 훈련의 대체 방법을 개발한다.
• 생성 모델 학습 문제를 생성된 데이터와 진짜 데이터 분포 간의 경험적 MMD를 최소화하는 문제로 재정의한다.
• 진짜 모집단 MMD를 최소화하는 대신 경험적 MMD를 최소화할 때 발생하는 일반화 오차에 대한 이론적 경계를 제공한다.
• MMD 기반 최적화가 GAN에서 흔히 볼 수 있는 훈련 불안정성을 피하면서도 뛰어난 샘플 품질을 유지함을 보여준다.

제안 방법

• 데이터 분포와 생성기 출력 분포 간의 MMD를 최소화하는 방식으로 생성 모델 훈련 문제를 설정한다.
• 커널 두 표본 검정에서 유도된 MMD의 비편향 추정치를 훈련 목적함수로 사용한다.
• 경험적 MMD에 대한 기울기 하강법을 통해 생성기 파라미터를 최적화하며, MMD를 미분 가능한 손실 함수로 간주한다.
• McDiarmid 부등식과 Rademacher 복잡도 경계를 적용하여 경험적 MMD 추정치의 일반화 오차 경계를 유도한다.
• 모든 분포가 동일할 때에만 MMD가 0이 되는 특성 커널을 갖는 보편적인 재생 핵 힐베르트 공간(RKHS)을 사용한다.
• 다양한 모멘트 조건 하에서 경험적 MMD와 진짜 MMD 간의 추정 오차를 경계함으로써 이론적 수렴 보장을 수립한다.

실험 결과

연구 질문

• RQ1 MMD 기반 최적화는 깊이 있는 생성 모델의 GAN 훈련에 대한 안정적이고 비대칭적인 대안이 될 수 있는가?
• RQ2 경험적 MMD 추정치의 일반화 오차는 표본 크기와 커널 성질에 따라 어떻게 척도가 변하는가?
• RQ3 분포 간의 불일치를 기준으로 MMD 기반 훈련의 수렴에 대해 어떤 이론적 보장을 제공할 수 있는가?
• RQ4 합성 데이터와 실세계 데이터에서 MMD 넷의 성능은 대칭 넷과 비교해 샘플 품질과 훈련 안정성 측면에서 어떻게 다른가?
• RQ5 MMD 기반 목적함수는 어떤 조건에서 생성기가 진짜 데이터 분포를 학습할 수 있도록 보장하는가?

주요 결과

• MMD 넷 프레임워크는 대칭 판별기를 닫힌 형태의 MMD 통계량으로 대체함으로써 모드 붕괴와 GAN에서 흔히 발생하는 훈련 불안정성을 피하는 안정적인 훈련을 달성한다.
• 이론적 분석 결과, 경험적 MMD 추정치의 일반화 오차는 $ M < 2 $ 일 때 $ O(M^{-1/2}) $, $ M = 2 $ 일 때 $ O(M^{-1/2} \text{log}^{3/2}(M)) $, $ M > 2 $ 일 때 $ O(M^{-1/p}) $ 로 감소하며, 여기서 $ M $ 은 표본 크기이다.
• 생성기 가족이 충분히 풍부하고 커널이 특성적이면 비모수적 극한에서 근사 오차는 0이 되며, 이는 MMD = 0 이면 분포가 동일함을 보장한다.
• 합성 및 실세계 데이터에 대한 실험 결과, MMD 넷은 훈련 반복 과정에서 감소하는 MMD 값으로 인해 생성기 출력 분포가 진짜 데이터 분포와 잘 일치함을 입증한다.
• 교대적인 판별기 및 생성기 업데이트가 필요 없이 GAN과 경쟁 가능한 샘플 품질을 달성하여 훈련 동역학을 단순화한다.
• 이론적 분석은 경험적 MMD 추정치가 표본 크기가 증가함에 따라 진짜 MMD 근처에 집중됨을 확인하며, 尾 꼬리 경계는 표본 크기와 함께 지수적으로 감소한다.