[논문 리뷰] Deep Directed Generative Models with Energy-Based Probability Estimation

Taesup Kim, Yoshua Bengio|arXiv (Cornell University)|2016. 06. 10.

Generative Adversarial Networks and Image Synthesis참고 문헌 14인용 수 86

한 줄 요약

이 논문은 에너지 기반 모델에서 비가역적 정규화 문제를 해결하기 위해 신경 에너지 함수와 생성망을 함께 훈련하는 딥 생성 모델을 제안한다. 기존의 MCMC 샘플링 문제를 피하기 위해 생성망을 활용해 기울기 추정에 근사 샘플을 제공함으로써, 2D, MNIST, 고차원 이미지 데이터셋에서 효율적인 훈련과 고품질의 샘플 생성을 가능하게 한다.

ABSTRACT

Training energy-based probabilistic models is confronted with apparently intractable sums, whose Monte Carlo estimation requires sampling from the estimated probability distribution in the inner loop of training. This can be approximately achieved by Markov chain Monte Carlo methods, but may still face a formidable obstacle that is the difficulty of mixing between modes with sharp concentrations of probability. Whereas an MCMC process is usually derived from a given energy function based on mathematical considerations and requires an arbitrarily long time to obtain good and varied samples, we propose to train a deep directed generative model (not a Markov chain) so that its sampling distribution approximately matches the energy function that is being trained. Inspired by generative adversarial networks, the proposed framework involves training of two models that represent dual views of the estimated probability distribution: the energy function (mapping an input configuration to a scalar energy value) and the generator (mapping a noise vector to a generated configuration), both represented by deep neural networks.

연구 동기 및 목표

• 에너지 기반 모델에서 비가역적 정규화 문제를 해결하기 위해, 비가역적 샘플링 분포에서 몬테카를로 추정이 필요한 문제를 다루기.
• 날카롭고 다중모달성 있는 에너지 분포에서 MCMC 샘플링의 모드 붕괴 및 낮은 혼합 문제를 해결하기.
• 최대우도 훈련에서 기울기 추정을 위한 근사 샘플을 제공하기 위해 MCMC 샘플링을 대체할 깊이 있는 유도 생성망을 도입하기.
• 에너지 함수와 생성망을 GAN 유사한 적대적 방식으로 함께 훈련하는 이중 모델 프레임워크를 제안하며, 샘플 다양성을 향상시키기 위해 엔트로피 정규화를 적용하기.
• 합성곱 아키텍처를 사용하는 깊이 신경망을 통해 고차원 데이터(예: 이미지)에 대한 에너지 기반 모델의 효과적인 훈련을 가능하게 하기.

제안 방법

• 입력 구성에 대해 스칼라 에너지 값으로 매핑하는 깊이 신경망을 에너지 함수로 훈련시키며, 더 낮은 에너지를 더 가능성 높은 데이터 포인트에 할당한다.
• 노이즈 벡터를 데이터 구성으로 매핑하는 깊이 있는 유도 생성 모델(생성망)을 훈련시키며, 확률적이지 않고 마르코프가 아닌 변환을 사용한다.
• 생성망의 출력을 근사 샘플로 사용해 최대우도 훈련에서 정규화 인자의 기울기를 추정함으로써 MCMC 샘플링이 필요 없도록 한다.
• 에너지 함수와 생성망을 GAN 유사 프레임워크에서 함께 훈련: 에너지 함수는 판별자 역할을 하며, 진짜 데이터에는 낮은 에너지를, 생성된 샘플에는 높은 에너지를 할당한다.
• 생성망의 목적함수에 엔트로피 정규화를 적용해 데이터 다양체의 탐색을 장려하고 모드 붕괴를 완화한다.
• 생성망에 배치 정규화를 적용해 암묵적인 엔트로피 정규화를 구현함으로써 샘플 다양성을 향상시킨다.

실험 결과

연구 질문

• RQ1 깊이 있는 유도 생성망이 MCMC 샘플링을 대체함으로써 높은 계산 비용이나 낮은 혼합 문제 없이 에너지 기반 모델을 훈련시킬 수 있는가?
• RQ2 에너지 함수와 생성망을 어떻게 공동으로 훈련시켜 생성망의 분포가 에너지 기반 모델의 목표 분포와 일치하게 할 수 있는가?
• RQ3 생성망 목적함수에 엔트로피 정규화를 적용하면 다중모달 데이터에서 샘플 다양성이 향상되고 모드 붕괴가 방지되는가?
• RQ4 이 프레임워크는 고차원 데이터(예: 이미지)를 효과적으로 모델링할 수 있으며, 완전히 연결된 네트워크와 합성곱 아키텍처 모두에 일반화되는가?
• RQ5 복잡하고 다중모달적인 설정에서 모델이 학습한 에너지 함수가 진짜 데이터 분포를 얼마나 정확히 반영하는가?

주요 결과

• 제안된 프레임워크는 MCMC 샘플링에 의존하지 않고 에너지 기반 모델을 성공적으로 훈련시켰으며, 훈련 시간을 크게 단축하고 모드 탐색 문제를 피했다.
• 2D 합성 데이터셋(네 스피너 및 두 나선)에서 생성망은 에너지 함수의 분포와 일치하는 샘플을 생성했으며, 에너지 모델은 다중모달 데이터 구조를 정확히 포착했다.
• MNIST에서 생성망은 잠재 공간 내의 보간을 통해 매끄럽고 다양한 샘플을 생성했으며, 잠재 다양체의 의미 있는 분리와 연속성을 보여주었다.
• CelebA와 LSUN(침실)의 64×64 컬러 이미지에서 합성곱 아키텍처를 사용해 현실적이고 다양한 샘플을 생성했으며, 이는 고차원 데이터에 대한 확장성과 가능성을 시사했다.
• 열매도를 통해 시각화한 결과, 모델이 학습한 에너지 함수는 데이터 분포와 매우 유사했으며, 에너지 표면이 진짜 데이터 밀도를 반영하고 있음을 확인했다.
• 엔트로피 정규화는 특히 고엔트로피 또는 다중모달 데이터 영역에서 실제적이며 다양한 샘플을 생성하기 위해 경험적으로 필수적이었다.