[논문 리뷰] Variational Inference: A Unified Framework of Generative Models and Some Revelations

Jianlin Su|arXiv (Cornell University)|2018. 07. 16.

Generative Adversarial Networks and Image Synthesis참고 문헌 7인용 수 10

한 줄 요약

이 논문은 VAE, GAN, 관련 모델들을 단일 추론 원리의 특수한 경우로 재해석하는 통합된 변분 추론 프레임워크를 제안한다. 공동 KL 발산을 사용하여 변분 추론을 재구성함으로써, 저자들은 EM, VAE, GAN, AAE, BiGAN을 일관된 방식으로 유도하며, 표준 GAN이 안정적인 학습을 방해하는 핵심 정규화 항을 누락하고 있음을 밝혀낸다. 이 정규화 항의 추가는 수렴성과 안정성을 향상시킨다.

ABSTRACT

We reinterpreting the variational inference in a new perspective. Via this way, we can easily prove that EM algorithm, VAE, GAN, AAE, ALI(BiGAN) are all special cases of variational inference. The proof also reveals the loss of standard GAN is incomplete and it explains why we need to train GAN cautiously. From that, we find out a regularization term to improve stability of GAN training.

연구 동기 및 목표

• VAE, GAN, AAE, BiGAN과 같은 다양한 딥 생성 모델들을 단일 변분 추론 프레임워크로 통합하기.
• 많은 GAN 변종들이 이론적 기반을 결여하고 있는 문제를 해결하기 위해, 이들을 원칙적인 확률적 프레임워크에 통합하기.
• 표준 GAN 학습에서 누락된 정규화 항을 규명하고 수정하기. 이는 안정성에 필수적임이 입증된다.
• 새로운 변분 추론 공식화를 통해 기존 모델들(예: VAE, EM)의 더 명확하고 체계적인 유도 제공하기.
• 대부분의 경우, 적대적 학습이 최소-최대 게임으로 프레임워크되지 않아도 되며, 적절한 손실 분해를 통해 변분 추론에서 유도될 수 있음을 보여주기.

제안 방법

• 변분 추론을 재구성하여, 근사 분포의 주변 KL 발산 $KL(\tilde{p}(x)\|q(x))$ 대신 연합 KL 발산 $KL(p(x,z)\|q(x,z))$ 를 최소화함으로써, 계산이 가능하도록 최적화를 가능하게 한다.
• 가우시안 사전 및 사후 분포를 가정하고 재구성 기법을 적용함으로써, VAE와 EM을 특수한 경우로 도출한다.
• 생성자 $q(x|z) = \delta(x - G(z))$ 를 딜타 함수로 모델링함으로써, GAN을 변분 추론 문제로 재해석한다. 이때 $z$ 는 결정론적 잠재 코드로 간주된다.
• 실제/가짜 샘플을 모델링하기 위해 이진 잠재 변수 $y$ 를 도입함으로써, GAN의 판별기 $D(x,z)$ 를 사후 확률 $p(y|x,z)$ 로 유도한다.
• 최적의 판별기 $D(x,z) = \frac{p^o(z|x)\tilde{p}(x)}{p^o(z|x)\tilde{p}(x) + q^o(x|z)q(z)}$ 를 도출하며, 이는 암묵적인 정규화 항이 포함된 새로운 GAN 손실로 이어진다.
• 적대적 손실과 재구성 손실 $\|x - G(E(x))\|^2$ 를 조합한 공동 학습 목표를 제안함으로써, 적대적 학습에 간섭 없이 안정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 VAE, GAN, AAE, BiGAN은 단일 변분 추론 프레임워크로 통합될 수 있는가?
• RQ2 왜 표준 GAN은 철저한 초모수 조정이 필요하고 자주 수렴하지 못하는가?
• RQ3 표준 GAN 목표에서 누락된 정규화 항은 무엇이며, 이것이 불안정성의 원인인가?
• RQ4 왜 적대적 학습은 최소-최대 게임으로 프레임워크되어야 하는가? 변분 추론에서 유도될 수 있는가?
• RQ5 제안된 통합 프레임워크는 GAN의 학습 안정성과 일반화 성능을 향상시킬 수 있는가?

주요 결과

• 표준 GAN 손실은 불완전하며, 변분 추론 프레임워크에서 유도된 핵심 정규화 항이 누락되어 있어, 이는 불안정성의 원인임을 설명한다.
• 누락된 정규화 항은 $KL(p(z|x)\|p^o(z|x))$ 이며, 이는 변분 추론 유도 과정에서 자연스럽게 나타나며 GAN 학습의 안정성을 높인다.
• 제안된 공동 손실 $\mathbb{E}_{x\sim\tilde{p}(x)}[-\log D(E(x))] + \lambda\|x - G(E(x))\|^2$ 는 적대적 성능을 훼손하지 않으면서도 학습 안정성과 일반화 성능을 향상시킨다.
• 이론적 분석을 통해 표준 최소-최대 공식화 외에도 다른 타당한 접근이 존재하며, 적대적 학습은 적절한 손실 분해를 통해 변분 추론에서 직접 유도될 수 있음이 입증된다.
• 통합 프레임워크는 단일 변분 추론 원리에서 EM, VAE, GAN, AAE, BiGAN을 성공적으로 도출하여, 이들의 공통된 확률적 기반을 입증한다.
• 실험 결과는 제안된 정규화 항이 학습 안정성을 향상시키며, 새로운 손실 공식화가 표준 GAN 및 BiGAN 목표와 비교해 유사한 성능을 보임을 확인한다.