[논문 리뷰] Maximum Entropy Generators for Energy-Based Models

Rithesh Kumar, Ozair, Sherjil외 3명|arXiv (Cornell University)|2019. 01. 24.

Anomaly Detection Techniques and Applications참고 문헌 46인용 수 62

한 줄 요약

MEG는 엔트로피 최대화와 샘플의 안정성을 위한 gradient penalty를 사용하여 로그 가능도 기울기를 근사하는 에너지 기반 모델(EBM)과 암묵적 신경 생성기를 함께 학습합니다. 이는 샤프한 이미지 샘플을 제공하고, 완전한 모드 커버리지를 지원하며, 경쟁력 있는 이상 탐지 성능을 입증합니다.

ABSTRACT

Maximum likelihood estimation of energy-based models is a challenging problem due to the intractability of the log-likelihood gradient. In this work, we propose learning both the energy function and an amortized approximate sampling mechanism using a neural generator network, which provides an efficient approximation of the log-likelihood gradient. The resulting objective requires maximizing entropy of the generated samples, which we perform using recently proposed nonparametric mutual information estimators. Finally, to stabilize the resulting adversarial game, we use a zero-centered gradient penalty derived as a necessary condition from the score matching literature. The proposed technique can generate sharp images with Inception and FID scores competitive with recent GAN techniques, does not suffer from mode collapse, and is competitive with state-of-the-art anomaly detection techniques.

연구 동기 및 목표

• Intractable log-likelihood gradients로 인한 EBMs의 학습 난이도를 원인으로 삼아 이를 해결하기 위한 동기 부여 및 접근법 제시.
• p_theta를 근사하는 에너지 함수와 암묵적 샘플러를 함께 학습하는 joint 프레임워크 제안.
• 제너레이터 출력의 엔트로피를 최대화하여 p_G와 p_theta를 정렬하고 학습의 안정성을 높임.
• 비파라메트릭 상호정보 추정기를 활용해 제너레이터 엔트로피를 최대화.
• MEG가 이미지 선명도, 모드 커버리지 및 이상 탐지 측면에서 대안들보다 개선을 보임.

제안 방법

• 모델 분포 p_theta를 샘플 G(z)를 생성하는 신경 제너레이터 G(w)로 대체하여, z~p_z에서 샘플 G(z)를 생성합니다.
• KL(p_G||p_theta)를 최소화하는데, 이는 제너레이터 엔트로피와 에너지 평가를 결합한 제너레이터 손실 L_G = -I_JSD(G(Z),Z) + E_theta[E(G(Z))]로 이어집니다.
• 에너지 함수 E_theta를 그래디언트로 학습: L_E = E_{x~p_D}[E_theta(x)] - E_{z~p_z}[E_theta(G(z))].
• 비파라메트릭 상호정보 추정을 사용해 제너레이터 엔트로피를 최대화하며, Belghazi 등(2018) 및 관련 연구에서와 같이 I_JSD(G(Z),Z)을 사용합니다.
• 에너지 함수의 결정점 근처에서 샘플을 유지하도록 점수 매칭에서 영-centered gradient penalty를 도입해 학습의 안정성을 높입니다.
• 선택적으로 잠재 공간 MCMC(MALA 및 Metropolis-Hastings 스텝)을 수행하여 잠재 공간의 고밀도 영역으로 샘플링을 유도합니다.

실험 결과

연구 질문

• RQ1 데이터 공간의 비용이 많이 드는 MCMC에 의존하지 않고 암묵적 신 sampler가 EBM의 음의 기울기를 근사할 수 있는가?
• RQ2 제너레이터 출력의 엔트로피를 최대화하면 모드 붕괴를 방지하고 모든 데이터 모드를 커버하는 데 도움이 되는가?
• RQ3 MEG 프레임워크가 모드 다양성을 희생하지 않으면서 경쟁력 있는 이미지 샘플을 생성하고 샤프함을 유지할 수 있는가?
• RQ4 학습된 에너지 함수가 표준 벤치마크에서 이상 탐지에 유용한가?

주요 결과

• MEG는 CIFAR-10 샘플을 Inception Score 및 Fréchet Inception Distance에 대해 WGAN-GP와 경쟁적으로 생성합니다.
• MEG는 4-StackedMNIST에서 모든 모드를 정확하게 포착하며, 여러 대안들보다 KL 발산이 더 작습니다.
• 잠재 공간 MALA 샘플링은 가시 공간 MCMC에 비해 지각적 샘플 품질을 향상시킵니다.
• MEG는 KDD99에서 강력한 이상 탐지 성능을 달성하며 최첨단 방법에 근접합니다.
• MEG는 일반적인 최대우도 EBM에 비해 샤프하고 흐려지지 않는 샘플을 생성하고 모드 붕괴를 피합니다.