[논문 리뷰] Flow Contrastive Estimation of Energy-Based Models

Ruiqi Gao, Erik Nijkamp외 4명|arXiv (Cornell University)|2019. 12. 02.

Generative Adversarial Networks and Image Synthesis참고 문헌 71인용 수 4

한 줄 요약

이 논문은 생성 모델링과 준지도 학습을 향상시키기 위해 에너지 기반 모델(EBM)과 노멀라이징 플로우를 결합하는 공동 학습 방법인 플로우 대비 추정(FCE)을 제안한다. 노이즈 대비 추정(NCE)에서 플로우 모델을 동적 노이즈 분포로 사용하고, 공통의 적대적 목적 함수를 통해 두 모델을 함께 최적화함으로써 샘플 품질을 향상시키며, 준지도 학습에서 최신 기술 수준의 성능을 달성한다. VAT와 결합했을 때 SVHN에서 라벨이 1,000개 뿐인 조건에서도 3.87%의 오차율을 기록한다.

ABSTRACT

This paper studies a training method to jointly estimate an energy-based model and a flow-based model, in which the two models are iteratively updated based on a shared adversarial value function. This joint training method has the following traits. (1) The update of the energy-based model is based on noise contrastive estimation, with the flow model serving as a strong noise distribution. (2) The update of the flow model approximately minimizes the Jensen-Shannon divergence between the flow model and the data distribution. (3) Unlike generative adversarial networks (GAN) which estimates an implicit probability distribution defined by a generator model, our method estimates two explicit probabilistic distributions on the data. Using the proposed method we demonstrate a significant improvement on the synthesis quality of the flow model, and show the effectiveness of unsupervised feature learning by the learned energy-based model. Furthermore, the proposed training method can be easily adapted to semi-supervised learning. We achieve competitive results to the state-of-the-art semi-supervised learning methods.

연구 동기 및 목표

• 플로우 모델이 가정하는 계산 가능하고 역행성 있는 변환 방식의 한계를 해결하기 위해.
• 정규화가 계산이 불가능하고 샘플링이 비용이 많이 드는 에너지 기반 모델(EBM)을 향상시키기 위해, 플로우 모델을 강력하고 적응 가능한 노이즈 분포로 사용하기 위해.
• EBM의 표현 유연성과 플로우 모델의 계산 효율성을 결합하는 공동 학습 프레임워크를 개발하기 위해.
• 제안된 방법을 통해 생성 품질 향상과 준지도 학습에서 경쟁 가능한 성능을 입증하기 위해.

제안 방법

• 에너지 기반 모델을 훈련하기 위해 노이즈 대비 추정(NCE)을 사용하며, 이때 플로우 모델이 고정된 노이즈 분포를 대체하는 대비 분포로 기능한다.
• 플로우 모델은 동일한 NCE 목적 함수를 최소화함으로써 업데이트되며, 이는 EBM이 실제 데이터와 생성된 샘플을 구분하기 어려워지게 하여 EBM의 품질을 향상시킨다.
• 공동 최적화는 공통의 적대적 가치 함수를 사용하며, 두 모델이 상호 간에 반복적으로 업데이트되어 플로우 모델과 데이터 분포 간의 젠센-섀논 분산을 최소화하도록 한다.
• 라벨 일관성 목적 함수를 통합하고, 필요에 따라 보다 강건한 성능을 확보하기 위해 가상의 적대적 훈련(VAT)을 추가함으로써 준지도 학습에 프레임워크를 적응시켰다.
• EBM은 클래스 조건부 분포의 혼합을 학습하도록 훈련되며, 공동 목적 함수는 각 클래스 내에서 모드 분리와 부드러운 클러스터링을 장려한다.
• 메서드는 사전에 훈련된 Glow 플로우 모델로 시작하며, 공동 학습이 시작되기 전에 EBM을 독립적으로 50,000 반복 동안 훈련한다.

실험 결과

연구 질문

• RQ1 플로우 모델이 노이즈 대비 추정을 통해 에너지 기반 모델을 훈련시키는 데 있어 강력하고 적응 가능한 대비 분포로 기능할 수 있는가?
• RQ2 EBM과 플로우 모델을 공동으로 최적화할 경우, 개별적으로 훈련하는 것과 비교해 샘플 품질이 어떻게 향상되는가?
• RQ3 제안된 방법이 GAN과 같은 암시적 생성 모델에 의존하지 않고도 경쟁 가능한 준지도 학습 성능을 달성할 수 있는가?
• RQ4 공동 학습 프로토콜이 표준 EBM 또는 플로우 모델 학습보다 더 나은 표현 학습과 일반화 성능을 이끌어낼 수 있는가?
• RQ5 이 방법은 기존의 정규화 기법들, 예를 들어 가상의 적대적 훈련과 효과적으로 조합될 수 있는가?

주요 결과

• FCE는 VAT와 결합했을 때 SVHN 데이터셋에서 1,000개의 라벨만으로도 3.87%의 테스트 오차율을 기록하며, 많은 최신 기술 수준의 방법들을 능가한다.
• FCE는 합성 및 실재 이미지 데이터에 대한 정성적 결과를 통해 플로우 모델의 샘플 품질을 크게 향상시켰음을 보여준다.
• 공동 학습 과정은 잘 분리된, 모드 인식 능력을 갖춘 에너지 기반 모델을 성공적으로 학습시켰으며, 각 클래스 내에서 부드럽고 연결된 클러스터를 포괄하는 분포를 포착한다.
• FCE-init 기본 설정(공동 최적화 이전에 EBM을 별도로 훈련)만으로도 1,000개의 라벨 예제에서 SVHN에서 8.50%의 오차율을 기록하여 뛰어난 초반 성능을 보였다.
• FCE에 VAT를 추가하면 500개의 라벨 예제에서 오차율이 4.47%로 감소하고, 1,000개의 라벨 예제에서는 3.87%로 감소하여, 존재하는 정규화 기법과의 보완적 성능 향상을 입증했다.
• 이 방법은 적대적 대비 학습을 통해 명시적 확률 모델(EBM 및 플로우)을 결합함으로써 일반화 및 표현 학습이 향상됨을 보여준다.