[논문 리뷰] Learning Energy-based Model with Flow-based Backbone by Neural Transport MCMC

Erik Nijkamp, Ruiqi Gao외 5명|arXiv (Cornell University)|2020. 06. 12.

Neural Networks and Applications참고 문헌 42인용 수 12

한 줄 요약

이 논문은 에너지 기반 모델(EBM)을 위한 플로우 기반 백본을 제안하여, 혼합성이 향상된 잠재공간에서 효율적인 MCMC 샘플링을 가능하게 한다. EBM을 정규화 플로우 위에 지수적 기울기로 모델링함으로써, 잘 혼합되는 샘플링과 안정적인 훈련을 달성하여 직접적인 데이터공간 EBM 학습에서 흔히 발생하는 모드 붕괴 문제를 해결한다.

ABSTRACT

Learning energy-based model (EBM) requires MCMC sampling of the learned model as the inner loop of the learning algorithm. However, MCMC sampling of EBM in data space is generally not mixing, because the energy function, which is usually parametrized by deep network, is highly multi-modal in the data space. This is a serious handicap for both the theory and practice of EBM. In this paper, we propose to learn EBM with a flow-based model serving as a backbone, so that the EBM is a correction or an exponential tilting of the flow-based model. We show that the model has a particularly simple form in the space of the latent variables of the flow-based model, and MCMC sampling of the EBM in the latent space, which is a simple special case of neural transport MCMC, mixes well and traverses modes in the data space. This enables proper sampling and learning of EBM.

연구 동기 및 목표

• 에너지 기반 모델(EBM)의 데이터공간에서의 MCMC 샘플링의 열악한 혼합성을 해결함으로써, 훈련과 샘플링 모두에 악영향을 미치는 문제를 해결한다.
• 정규화 플로우를 사전으로 활용하여 EBM 학습의 실용성과 이론적 타당성을 향상시킨다.
• 잠재공간에서의 MCMC를 통해 다중모달 데이터 분포의 효과적인 샘플링과 학습을 가능하게 한다.
• EBM을 플로우 기반 모델 위의 지수적 기울기로 형식화하여, 잠재공간에서의 학습 목표를 단순화한다.

제안 방법

• 정규화 플로우를 기본 분포로 사용하여 EBM의 백본으로 기능시키며, 잘 정의된 잠재공간을 제공한다.
• EBM을 플로우 모델 위의 지수적 기울기로 정의함으로써, 에너지 함수가 잠재공간에서 학습된다.
• 플로우 모델의 잠재공간에서 MCMC 샘플링을 수행함으로써 기하학적 구조가 단순하고 혼합성이 더 빠른 공간에서 샘플링을 수행한다.
• 신경 운반 MCMC를 적용하여 운반 맵을 학습함으로써 MCMC 제안을 적응적으로 안내함으로써 혼합성을 더욱 향상시킨다.
• 잠재공간에서의 MCMC를 사용하여 기울기 추정을 수행함으로써, 기울어진 플로우 모델 하에서 데이터의 가능도를 최적화함으로써 EBM을 훈련시킨다.
• 플로우의 가역성과 계산 가능한 자코비안을 활용하여 정확한 가능도와 효율적인 샘플링을 계산한다.

실험 결과

연구 질문

• RQ1 플로우 기반 모델이 EBM 학습을 위한 안정적인 백본으로 기능할 수 있는가?
• RQ2 정규화 플로우의 잠재공간에서의 샘플링이 다중모달 데이터 분포에서 더 나은 모드 커버리지 달성에 기여하는가?
• RQ3 신경 운반 MCMC는 잠재공간에서 EBM 훈련에 효과적으로 적용될 수 있는가? 이는 샘플링 효율성을 향상시키는가?
• RQ4 플로우 모델 위의 지수적 기울기로 형식화된 EBM은 학습을 단순화하고 수렴을 향상시키는가?

주요 결과

• 플로우 기반 모델의 잠재공간에서의 MCMC 샘플링은 데이터공간에서의 경우보다 훨씬 우수한 혼합성을 보이며, 다중모달 분포의 효과적인 탐색이 가능하다.
• 제안된 방법은 잠재공간의 잘 정의된 기하학적 성질을 활용하여 EBM의 안정적인 훈련을 달성한다.
• 지수적 기울기 형식화는 잠재공간에서 계산된 MCMC 기울기를 사용하여 EBM을 효율적으로 훈련시킬 수 있도록 한다.
• 신경 운반 MCMC는 잠재공간에서의 혼합성을 추가로 향상시켜 더 빠른 수렴과 더 나은 샘플 품질을 이끈다.