[논문 리뷰] Improved Contrastive Divergence Training of Energy Based Models

Yilun Du, Shuang Li외 2명|arXiv (Cornell University)|2020. 12. 02.

Generative Adversarial Networks and Image Synthesis참고 문헌 56인용 수 29

한 줄 요약

이 논문은 에너지 기반 모델에서 대비 분산 학습을 단순하면서도 효과적으로 개선하기 위해 이전에 간과되었던 기울기 항을 철저히 추정하는 방법을 제안한다. 이는 학습 안정성을 높이고, 자기주의 주의(self-attention)와 같은 현대 딥러닝 컴포넌트의 사용을 가능하게 한다. 이 방법은 자동 미분과 최근접 이웃 엔트로피 추정기를 사용하여 이 항을 효율적으로 계산하며, 새로운 목적 함수나 복잡한 아키텍처를 도입하지 않으면서도 이미지 생성, OOD 탐지, 복합 생성 작업 전반에서 샘플 품질 향상, 강건성 향상, 안정성 향상을 이룬다.

ABSTRACT

Contrastive divergence is a popular method of training energy-based models, but is known to have difficulties with training stability. We propose an adaptation to improve contrastive divergence training by scrutinizing a gradient term that is difficult to calculate and is often left out for convenience. We show that this gradient term is numerically significant and in practice is important to avoid training instabilities, while being tractable to estimate. We further highlight how data augmentation and multi-scale processing can be used to improve model robustness and generation quality. Finally, we empirically evaluate stability of model architectures and show improved performance on a host of benchmarks and use cases,such as image generation, OOD detection, and compositional generation.

연구 동기 및 목표

• 에너지 기반 모델의 대비 분산 학습에서 발생하는 학습 불안정성을 해결함으로써 현대 딥러닝 컴포넌트의 사용을 제한하는 문제를 해결한다.
• 대비 분산 목적함수에서 이전에 간과되었던 기울기 항이 수치적으로 중요하며, 학습 안정성에 필수적임을 입증한다.
• 이 항을 효율적으로 추정함으로써 스펙트럼 정규화나 기울기 클리핑 없이도 자기주의 주의, 레이어 정규화, 장기간 학습을 가능하게 한다.
• 데이터 증강과 다중 해상도 에너지 평가를 통해 MCMC의 혼합 성능 향상과 샘플 다양성 향상을 도모한다.
• 이러한 방법이 다양한 벤치마크에서 이미지 생성, OOD 탐지, 복합 생성 작업 전반에 걸쳐 실험적으로 검증된다.

제안 방법

• 에너지 함수가 업데이트될 때 MCMC 샘플링 과정의 변화로 인해 발생하는, 이전에 간과되었던 대비 분산 목적함수 내 기울기 항을 추정한다.
• 에너지 함수의 기울기를 자동 미분을 통해 계산하고, 최근접 이웃 엔트로피 추정기를 사용하여 MCMC 샘플의 엔트로피를 근사함으로써 전체 기울기의 저분산·기계적 추정이 가능해진다.
• 데이터 증강을 적용하여 의미적으로 유의미한 변형을 통해 MCMC 체인의 혼합 성능 향상을 도모하고, 다양한 부정적 샘플을 생성한다.
• 다중 해상도 에너지 평가를 도입하여 샘플링 도중 에너지를 다중 해상도(粗, 細)에서 계산함으로써 생성 이미지의 공간 일관성을 향상시킨다.
• 이 접근은 표준 EBM 학습과 완전히 호환되며, 보조 네트워크, 추가 목적 함수, 아키텍처 수정 없이도 가능하다.
• 이 방법은 CelebA-HQ와 LSUN Bedroom 등의 벤치마크에서 에너지 기반 모델을 종단 간(end-to-end)으로 학습시켜 더 높은 안정성과 샘플 품질을 달성한다.

실험 결과

연구 질문

• RQ1 대비 분산 학습에서 간과된 기울기 항은 수치적으로 의미가 있으며, 학습 안정성 확보에 기여하는가?
• RQ2 이 기울기 항은 고분산 추정기나 보조 네트워크 없이도 효율적으로 추정될 수 있는가?
• RQ3 이 항을 포함함으로써 자기주의 주의 및 레이어 정규화와 같은 현대 딥러닝 컴포넌트를 EBM 학습에 도입할 수 있는가?
• RQ4 데이터 증강과 다중 해상도 에너지 평가는 MCMC 혼합 성능 향상과 샘플 다양성 향상에 기여하는가?
• RQ5 향상된 학습 안정성은 다양한 벤치마크에서 생성 품질 향상과 강건성 향상으로 이어지는가?

주요 결과

• 간과된 기울기 항은 전체 학습 기울기에 상당한 기여를 하며, 특히 깊은 아키텍처를 사용할 경우 학습 불안정성을 방지하는 데 필수적이다.
• 자동 미분과 최근접 이웃 엔트로피 추정기를 통한 이 항의 추정은 실현 가능하고 효과적이며, 스펙트럼 정규화나 기울기 클리핑 없이도 안정적인 학습이 가능하다.
• 이 방법을 통해 이전에는 불안정성으로 인해 피하던 자기주의 주의 및 레이어 정규화를 EBM 아키텍처에 도입할 수 있게 되었다.
• 의미적으로 유의미한 변형을 적용한 데이터 증강은 MCMC 혼합 성능과 샘플 다양성 향상에 크게 기여하여 더 현실적인 생성 결과를 이끌어낸다.
• 다중 해상도 에너지 평가는 MCMC 프로세스를 수정하지 않으면서도 생성 이미지의 공간 일관성을 향상시켜 더 높은 품질의 샘플을 생성한다.
• CelebA-HQ에서 복합 생성 작업에서 기존의 IGEBM 및 JVAE 베이스라인 대비 약 15% 향상된 특성 복원 정확도를 달성한다.