[논문 리뷰] Learning Neural Random Fields with Inclusive Auxiliary Generators

Yunfu Song, Zhijian Ou|arXiv (Cornell University)|2018. 09. 27.

Generative Adversarial Networks and Image Synthesis참고 문헌 79인용 수 26

한 줄 요약

이 논문은 연속 데이터를 위한 신경 무작위 필드 학습을 위한 새로운 접근법인 inclusive-NRF를 제안한다. 이는 포함성 발산을 최소화하는 보조 생성기와 확률적 경사 하강 샘플링을 사용한다. 이 방법은 고품질의 이미지 생성, 준감독 분류, 이상 탐지 기능을 제공하며, 직접적인 비정규화된 밀도 추정 기능까지 제공함으로써 GAN과는 달리 강력한 생성 성능와 명시적인 가능도 평가를 동시에 구현한다.

ABSTRACT

Neural random fields (NRFs), which are defined by using neural networks to implement potential functions in undirected models (sometimes known as energy-based models), provide an interesting family of model spaces for machine learning, besides various directed models such as generative adversarial networks (GANs). In this paper we propose a new approach, the inclusive-NRF approach, to learning NRFs for continuous data (e.g. images), by developing inclusive-divergence minimized auxiliary generators and stochastic gradient sampling. As demonstrations of how the new approach can be flexibly and effectively used, specific inclusive-NRF models are developed and thoroughly evaluated for a number of tasks - unsupervised/supervised image generation, semi-supervised classification and anomaly detection. The proposed models consistently achieve strong experimental results in all these tasks compared to state-of-the-art methods. Remarkably, in addition to superior sample generation, one fundamental additional benefit of our inclusive-NRF approach is that, unlike GANs, it directly provides (unnormalized) density estimate for sample evaluation. With these contributions and results, this paper significantly advances the learning and applications of undirected models to a new level, both theoretically and empirically, which have never been obtained before.

연구 동기 및 목표

• 기존의 무방향 모델이 연속 데이터 학습에서 겪는 한계, 특히 효율적인 밀도 추정의 부재를 해결하기 위해.
• 샘플 생성과 평가를 모두 지원하는 유연하고 효과적인 신경 무작위 필드 학습 프레임워크를 개발하기 위해.
• GAN의 근본적인 단점인 밀도 추정의 부재를 해결하기 위해, 에너지 기반 모델에 비정규화된 밀도 추정 기능을 통합하기 위해.
• 비지도 생성, 준감독 학습, 이상 탐지와 같은 다양한 작업에서 제안된 방법의 유효성을 입증하기 위해.

제안 방법

• 보조 생성기를 유도하기 위해 포함성 발산 최소화 기법을 사용하여 신경 무작위 필드의 학습을 유도한다.
• 학습 중 에너지 기반 모델의 파라미터를 효율적으로 최적화하기 위해 확률적 경사 하강 샘플링을 사용한다.
• 무방향 모델의 잠재 함수를 파arameterize하기 위해 신경망을 사용하여 연속 데이터에 적합한 유연한 에너지 함수를 구성한다.
• 포괄성 발산을 최소화하는 통합 목표 함수를 통해 생성기와 에너지 모델 학습을 통합한다.
• 모든 생성된 샘플에 대해 직접적인 비정규화된 밀도 추정을 지원하여, 생성 품질을 넘어서 모델 평가 및 선택이 가능하다.

실험 결과

연구 질문

• RQ1 고품질의 샘플 생성과 연속 데이터에 대한 명시적 밀도 추정을 동시에 지원할 수 있는 신경 무작위 필드 프레임워크를 설계할 수 있는가?
• RQ2 기존의 GAN 스타일의 목적함수와 비교해 볼 때, 포함성 발산 최소화 기법은 무방향 모델의 학습 안정성과 성능을 어떻게 향상시키는가?
• RQ3 제안된 방법은 이미지 생성, 준감독 분류, 이상 탐지와 같은 다양한 작업에 얼마나 잘 일반화되는가?
• RQ4 비정규화된 밀도 추정 기능의 통합은 실제 응용에서 GAN에 비해 실용적인 이점을 제공하는가?

주요 결과

• inclusive-NRF 접근법은 비지도 및 지도 학습 이미지 생성을 포함한 모든 평가된 작업에서 최고 성능을 달성한다.
• 모델는 라벨가능한 데이터가 제한된 상황에서도 기존 방법보다 뚜렷이 뛰어난 성능을 보이며, 우수한 일반화 능력을 입증한다.
• 이상 탐지 작업에서는 비정상 샘플을 효과적으로 식별할 수 있었으며, 이는 비정규화된 밀도 추정 기능 덕분이었다.
• GAN과 달리 제안된 방법은 어떤 샘플에 대해서도 직접적인 비정규화된 밀도 추정치를 제공하여, 생성 품질을 넘어서 모델 평가 및 선택이 가능하다.