[논문 리뷰] Improving Sampling from Generative Autoencoders with Markov Chains

Antonia Creswell, Kai Arulkumaran외 1명|arXiv (Cornell University)|2016. 10. 28.

Generative Adversarial Networks and Image Synthesis참고 문헌 17인용 수 13

한 줄 요약

이 논문은 생성적 오토인코더에서 샘플 품질을 햖스키기 위해 학습된 잠재 분포 $\hat{P}(Z)$ 에서 샘플링하는 마르코프 체인 몬테카를로(MCMC) 샘플링 방법을 제안한다. 이는 가정된 사전분포 $P(Z)$ 와 다를 수 있는 $\hat{P}(Z)$ 를 고려하여, 반복적인 디코딩과 인코딩을 통해 초기 샘플의 품질을 보정한다. 특히 추론 모델의 잠재 분포가 사전분포에서 벗어날 경우, 아키텍처 변경 없이도 더 현실적인 생성 결과를 도출할 수 있다.

ABSTRACT

We focus on generative autoencoders, such as variational or adversarial autoencoders, which jointly learn a generative model alongside an inference model. Generative autoencoders are those which are trained to softly enforce a prior on the latent distribution learned by the inference model. We call the distribution to which the inference model maps observed samples, the learned latent distribution, which may not be consistent with the prior. We formulate a Markov chain Monte Carlo (MCMC) sampling process, equivalent to iteratively decoding and encoding, which allows us to sample from the learned latent distribution. Since, the generative model learns to map from the learned latent distribution, rather than the prior, we may use MCMC to improve the quality of samples drawn from the generative model, especially when the learned latent distribution is far from the prior. Using MCMC sampling, we are able to reveal previously unseen differences between generative autoencoders trained either with or without a denoising criterion.

연구 동기 및 목표

• 생성적 오토인코더가 의도한 사전분포 $P(Z)$ 와 다를 수 있는 잠재 분포 $\hat{P}(Z)$ 를 학습하는 문제를 다루기 위해.
• 사전분포 $P(Z)$ 가 아닌 $\hat{P}(Z)$ 에서 샘플링할 수 있는 방법을 개발하여 데이터 생성 분포 $P(X)$ 와의 보다 나은 일치를 확보하기 위해.
• VAE, AAE 및 그 노이즈 제거 변형 모델과 같은 모델에서, 사전분포가 약하게 강제되는 경우에도 샘플 품질을 향상시키기 위해.
• 노이즈 제거 기준이 있는 모델과 없는 모델을 훈련시킨 후의 차이를 MCMC 샘플링을 통해 검증하기 위해.

제안 방법

• 디코딩과 인코딩을 번갈아가며 수행하는 MCMC 과정을 수립하여, 각 단계에서 $P_{\theta}(X|Z)$ 와 $Q_{\phi}(Z|X)$ 에서 샘플링한다.
• 에ncoder와 디코더 함수를 MCMC 체인의 스토케스틱 전이로 사용하여 정적 분포가 학습된 잠재 분포 $\hat{P}(Z)$ 가 되도록 보장한다.
• 샘플링을 $\mathbf{z}_0 \sim P(Z)$ 로 초기화한 후, 반복적으로 $\mathbf{z}_{i+1} \sim Q_{\phi}(Z|X = d(\mathbf{z}_i; \theta))$ 를 적용하여 잠재 샘플을 개선한다.
• MCMC 동안 훈련 모드에서 배치 정규화를 적용하여 업데이트를 안정화시키고 열악한 초기 입력에 대비한다.
• MCMC로 샘플링한 $\mathbf{z}_i$ 를 사용하여 $\mathbf{x} \sim P_{\theta}(X|Z = \mathbf{z}_i)$ 를 생성함으로써 初기 샘플 대비 현실감 있는 결과를 도출한다.
• VAE, DVAE, AAE, DAAE에 이 방법을 적용하여 MCMC 단계 전후의 샘플을 비교한다.

실험 결과

연구 질문

• RQ1 학습된 잠재 분포 $\hat{P}(Z)$ 에서 MCMC 샘플링이 사전분포 $P(Z)$ 에서 샘플링하는 것보다 더 현실적인 샘플을 생성하는가?
• RQ2 학습된 잠재 분포 $\hat{P}(Z)$ 가 사전분포 $P(Z)$ 와 크게 다를 경우, MCMC 샘플링은 샘플 품질에 어떤 영향을 미치는가?
• RQ3 생성적 오토인코더의 잠재공간 보간에서 유발된 잡음을 MCMC 샘플링이 보완할 수 있는가?
• RQ4 MCMC 프로세스는 노이즈 제거와 비노이즈 제거 변형 간의 생성적 오토인코더 간의 차이를 어떻게 드러내는가?
• RQ5 후행 분포 근사가 열악한 적대적 오토인코더에서 MCMC 샘플링은 어느 정도 샘플 품질을 향상시키는가?

주요 결과

• MCMC 샘플링은 VAE와 DVAE에서 샘플 품질을 크게 향상시키며, 특히 $P(Z)$ 에서 유도된 초기 샘플이 노이즈가 많거나 현실감이 없을 경우 두드러진다.
• 10회의 MCMC 단계 이후, VAE와 DVAE의 샘플은 더 현실적으로 변하며, CelebA 실험에서 노이즈가 많은 배경에서 얼굴 특징이 명확히 드러난다.
• AAE와 DAAE에서는 $\hat{P}(Z)$ 가 $P(Z)$ 와 상당히 다를 수 있으므로, MCMC가 모델의 사전분포 일치도가 열악한 상황에서 두드러진 향상을 이끌어낸다.
• DAAE의 노이즈 제거 성질은 MCMC 샘플링 이후 더 명확해지며, 초기에 노이즈가 많은 잠재 코드에서 유도된 잡음이 보완된다.
• 테스트 이미지 간의 구면 보간에서 발생하는 잡음은 MCMC 샘플링을 통해 효과적으로 보완되어 시각적 일관성이 향상된다.
• MCMC 방법은 고급 후행 모델링과 수직적 관계를 유지하며, 아키텍처 변경 없이도 기존 모델에 적용 가능하여 생성 성능을 향상시킨다.