[논문 리뷰] Learning Generative Models using Denoising Density Estimators

Siavash Bigdeli, Geng Lin외 3명|arXiv (Cornell University)|2020. 01. 08.

Generative Adversarial Networks and Image Synthesis인용 수 4

한 줄 요약

이 논문은 진짜 데이터 밀도와 생성된 밀도 사이의 역Kullback-Leibler 발산을 직접 최소화하여 생성 모델을 훈련하는 데 사용되는 디노이징 밀도 추정기(DDEs)라는 새로운 방법을 소개한다. 이 방법은 정규화 흐름의 역행성 아키텍처나 미분방정식 해법기가 필요 없이, 미분 가능한 신경망을 사용해 정규화되지 않은 밀도를 추정한다. 이로 인해 벤치마크 데이터셋에서 최고 수준의 로그우도 성능을 달성하면서 모드 붕괴를 피할 수 있다.

ABSTRACT

Learning probabilistic models that can estimate the density of a given set of samples, and generate samples from that density, is one of the fundamental challenges in unsupervised machine learning. We introduce a new generative model based on denoising density estimators (DDEs), which are scalar functions parameterized by neural networks, that are efficiently trained to represent kernel density estimators of the data. Leveraging DDEs, our main contribution is a novel technique to obtain generative models by minimizing the KL-divergence directly. We prove that our algorithm for obtaining generative models is guaranteed to converge to the correct solution. Our approach does not require specific network architecture as in normalizing flows, nor use ordinary differential equation solvers as in continuous normalizing flows. Experimental results demonstrate substantial improvement in density estimation and competitive performance in generative model training.

연구 동기 및 목표

• 역행성 아키텍처나 미분방정식 통합에 의존하지 않고 효율적인 밀도 추정과 샘플링을 가능하게 하는 새로운 생성 모델링 프레임워크를 개발하는 것.
• GAN의 모드 붕괴나 정규화 흐름의 계산 복잡성 등의 기존 방법의 한계를 해결하는 것.
• 생성된 데이터 분포와 진짜 데이터 분포 사이의 통계적 발산을 직접 최소화하는 통합된 훈련 목표를 제공하는 것.
• DDE가 다양한 데이터셋에서 밀도 추정과 샘플 생성 모두에서 경쟁 가능한 성능을 달성할 수 있음을 보여주는 것.

제안 방법

• 이 방법은 스칼라 신경망 기반의 밀도 추정기(DDEs)를 훈련하기 위해 디노이징 오토인코더를 사용하며, 이는 데이터 분포의 정규화되지 않은 밀도를 근사한다.
• 생성자 훈련은 진짜 데이터 밀도와 생성된 밀도 사이의 역KL 발산을 최소화하는 방식으로 설정되어, 정확한 해로 수렴함을 보장한다.
• DDE는 효율적인 최적화를 가능하게 하기 위해 디노이징 목적함수를 사용하며, 고차 도함수나 근사치가 필요 없다.
• 정규화 상수는 학습된 평균과 분산을 가진 가우시안 제안 분포를 사용한 중요도 샘플링을 통해 추정된다.
• 실제 데이터와 생성된 데이터 모두에 DDE를 사용하여 생성자를 종단 간(end-to-end)으로 훈련함으로써, 에너지 기반 모델의 직접 최적화가 가능해진다.
• 이 방법은 아키텍처에 종속되지 않으며, 오직 미분 가능성에 의존하며, 역행성 흐름이나 미분방정식 해법기가 필요 없게 된다.

실험 결과

연구 질문

• RQ1 역행성 매핑이나 미분방정식 해법기가 필요 없이, 진짜 데이터 밀도와 생성된 데이터 밀도 사이의 역KL 발산을 직접 최소화하여 생성 모델을 훈련시킬 수 있는가?
• RQ2 정규화 흐름과 자동회귀 모델에 비해 디노이징 밀도 추정기의 로그우도 성능과 샘플 품질은 어떻게 비교되는가?
• RQ3 제안된 방법이 이미지 생성 작업과 같은 고차원 데이터에서 모드 붕괴를 피할 수 있는가?
• RQ4 디노이징 목적함수에서 노이즈 수준(ση)이 모델 성능과 수렴성에 미치는 영향은 무엇인가?
• RQ5 DDE 기반 프레임워크는 최소한의 아키텍처 제약으로 CIFAR-10이나 고해상도 이미지와 같은 고차원 데이터로 확장될 수 있는가?

주요 결과

• 제안된 방법은 네 가지 벤치마크 데이터셋에서 최고 수준의 로그우도 성능을 달성했다: POWER (0.97 ± 0.18), GAS (9.73 ± 1.14), HEPMASS (-11.3 ± 0.16), MINIBOON (-6.94 ± 1.81).
• 모델은 모드 붕괴에 대해 강건하며, 스택드 MNIST에서 최고 수준의 와서린 GAN과 유사한 성능을 보였다.
• 정규화 흐름의 역행성 커파링 계층이나 미분방정식 통합이 필요 없이도 경쟁 가능한 성능을 달성하여 훈련과 추론을 단순화시켰다.
• 이 방법은 고차원 표본 및 이미지 데이터를 포함한 다양한 데이터 유형에 대해 강력한 일반화 성능를 보였다.
• 1회 실행당 51,200개의 샘플을 사용한 중요도 샘플링은 정규화 상수의 안정적인 추정을 가능하게 하였으며, 실험 전반에 걸쳐 낮은 분산을 보였다.
• 이론적 분석을 통해 역KL 발산 목표함수 하에서 훈련 알고리즘이 유일한 전역 최적해로 수렴함을 확인했다.