[논문 리뷰] Adversarially Learned Inference

Vincent Dumoulin, Ishmael Belghazi외 5명|arXiv (Cornell University)|2016. 06. 02.

Adversarial Robustness in Machine Learning참고 문헌 38인용 수 692

한 줄 요약

ALI는 상호 일관된 추론 및 생성 네트워크를 학습하기 위해 적대적 프레임워크에서 인코더와 디코더를 공동으로 학습하여, 고충실도 샘플을 보존하면서 경쟁력 있는 반지도 학습 성능을 가능하게 한다.

ABSTRACT

We introduce the adversarially learned inference (ALI) model, which jointly learns a generation network and an inference network using an adversarial process. The generation network maps samples from stochastic latent variables to the data space while the inference network maps training examples in data space to the space of latent variables. An adversarial game is cast between these two networks and a discriminative network is trained to distinguish between joint latent/data-space samples from the generative network and joint samples from the inference network. We illustrate the ability of the model to learn mutually coherent inference and generation networks through the inspections of model samples and reconstructions and confirm the usefulness of the learned representations by obtaining a performance competitive with state-of-the-art on the semi-supervised SVHN and CIFAR10 tasks.

연구 동기 및 목표

• 생성 네트워크와 추론 네트워크를 함께 학습하는 심층 생성 프레임워크를 동기 부여하고 개발한다.
• 적대적 학습 내에서 효율적이고 표현력 있는 추론을 가능하게 하여 GANs와 VAEs를 연결한다.
• 학습된 잠재 표상이 SVHN 및 CIFAR-10에서 반지도 학습 태스크에 유용함을 보인다.

제안 방법

• 엔코더 q(x,z) = q(x) q(z|x) 및 디코더 p(x,z) = p(z) p(x|z)를 정의하고, 이 두 분포에서의 결합 샘플을 구별하도록 판별기를 학습시킨다.
• 최적의 판별기 하에서 q(x,z)와 p(x,z) 간의 Jensen-Shannon 발산을 최소화하도록 적대적 목적을 사용한다.
• 확률적 인코더/디코더를 통해 기울기를 전달하기 위해 reparameterization 기법을 활용한다.
• 특성(예: CelebA)에 조건을 부여할 수 있도록 p(y)와 q(x,y)를 맞추는 조건부 생성 확장을 제공한다.
• ALI의 결합 추론을 InfoGAN 및 사후 학습 추론과 같은 대안과 비교한다.

실험 결과

연구 질문

• RQ1 적대적 설정에서 공동으로 학습된 추론과 생성이 일관된 인코더와 디코더 매핑을 생성할 수 있을까?
• RQ2 학습된 잠재 표현이 표준 벤치마크에서 경쟁력 있는 반지도 학습을 지원할까?
• RQ3 모드 커버리지와 표현 품질 측면에서 ALI가 대체 추론 전략(예: InfoGAN, 사후 추론)과 어떻게 비교되는가?
• RQ4 보조 정보에 조건을 부여하는 것이 학습된 모델 동작에 어떤 영향을 미치는가?

주요 결과

• ALI는 데이터에서 잠재 변수로 매핑하는 추론 메커니즘을 가능하게 하면서 GANs와 견줄 만큼 고충실도 샘플을 생성한다.
• 잠재 보간은 데이터 포인트 간의 원활한 전이를 보여주어 일관된 잠재 구조를 나타낸다.
• ALI로 추론된 특징은 SVHN 및 CIFAR-10 반지도 학습에서 경쟁력 있는 결과를 제공하며, 종종 특징 매칭 없이도 이전의 GAN 기반 접근법을 능가한다.
• 조건부 ALI는 관측된 속성(예: CelebA 특성)을 통해 생성된 출력을 제어하는 능력을 보여준다.
• ALI를 GAN 기반 추론과 비교한 실험은 추론과 생성의 공동 학습이 사후 학습 또는 역전 매핑에 비해 모드 커버리지를 향상시킴을 보여준다.