[논문 리뷰] GibbsNet: Iterative Adversarial Inference for Deep Graphical Models

Alex Lamb, Devon Hjelm외 4명|arXiv (Cornell University)|2017. 12. 12.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

GibbsNet는 깊이 있는 그래픽 모델을 위한 새로운 반복적 적대적 추론 프레임워크를 제안한다. 이는 유도 모델의 샘플링 효율성과 비유도 모델의 표현력 있는 사전 분포를 결합한다. 짧은 마르코프 체인에서 유래한 샘플과 진짜 데이터를 구분하는 GAN 유사 판별기(D)를 훈련시킴으로써, 복잡하고 데이터 기반의 사전 분포 $p(z)$를 갖는 연합 분포 $p(x,z)$를 학습한다. 이로 인해 사전 훈련 없이도 고품질의 무조건적 생성, 인painting, 그리고 이미지-속성 동시 모델링이 가능해진다.

ABSTRACT

Directed latent variable models that formulate the joint distribution as $p(x,z) = p(z) p(x \mid z)$ have the advantage of fast and exact sampling. However, these models have the weakness of needing to specify $p(z)$, often with a simple fixed prior that limits the expressiveness of the model. Undirected latent variable models discard the requirement that $p(z)$ be specified with a prior, yet sampling from them generally requires an iterative procedure such as blocked Gibbs-sampling that may require many steps to draw samples from the joint distribution $p(x, z)$. We propose a novel approach to learning the joint distribution between the data and a latent code which uses an adversarially learned iterative procedure to gradually refine the joint distribution, $p(x, z)$, to better match with the data distribution on each step. GibbsNet is the best of both worlds both in theory and in practice. Achieving the speed and simplicity of a directed latent variable model, it is guaranteed (assuming the adversarial game reaches the virtual training criteria global minimum) to produce samples from $p(x, z)$ with only a few sampling iterations. Achieving the expressiveness and flexibility of an undirected latent variable model, GibbsNet does away with the need for an explicit $p(z)$ and has the ability to do attribute prediction, class-conditional generation, and joint image-attribute modeling in a single model which is not trained for any of these specific tasks. We show empirically that GibbsNet is able to learn a more complex $p(z)$ and show that this leads to improved inpainting and iterative refinement of $p(x, z)$ for dozens of steps and stable generation without collapse for thousands of steps, despite being trained on only a few steps.

연구 동기 및 목표

• VAE와 같은 유도 모델에서 고정된 사전 분포로 인해 모델의 표현력이 제한되는 문제를 해결한다.
• DBM과 버울츠만 기계와 같은 비유도 모델의 느린 샘플링과 훈련 난이도 문제를 극복한다.
• 단일 통합 프레임워크 내에서 이미지와 속성의 동시 모델링, 조건부 생성, 인painting을 가능하게 한다.
• 훈련 중에 샘플링 단계 수가 적더라도 마르코프 체인의 정적 분포가 데이터 분포와 일치하도록 보장하는 훈련 절차를 개발한다.
• 최소한의 샘플링 단계로 훈련되더라도 모드 붕괴 없이 안정적이고 고품질의 생성 및 추론을 달성한다.

제안 방법

• 학습된 전이 연산자를 사용해 $p(x|z)$에서 $x$를 샘플링하고 $q(z|x)$에서 $z$를 샘플링하는 마르코프 체인을 정의한다. 이는 학습된 전이 연산자를 사용한 겔즈 샘플링을 시뮬레이션한다.
• 실제 데이터 쌍 $(z_{\text{real}}, x_{\text{real}})$ 과 체인에서 유도된 생성 쌍을 구분하는 연합 판별기 $D(z,x)$를 훈련한다.
• GAN 스타일의 목적함수를 사용해 생성기와 추론 네트워크를 업데이트함으로써, 체인의 정적 분포가 데이터 분포와 일치하도록 보장한다.
• 사전 분포 $p(z)$를 명시적으로 모델링하지 않고도, $q(z|x)$와 $p(x|z)$를 연합 적대적 목적함수로 동시에 훈련한다.
• 샘플링과 추론을 위해 $x$와 $z$ 업데이트를 번갈아가며 적용하며, 몇 단계 후 최종 샘플을 추출한다.
• 혼합 모odal 데이터(예: 이미지와 이진 속성)에서 연속형 및 이산형 경계 탐색 GAN을 사용해, 통합된 분포 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 적은 수의 샘플링 단계를 가진 마르코프 체인이 적대적 목적함수로 훈련될 경우, 고품질의 생성과 추론을 달성할 수 있는가?
• RQ2 사전에 고정된 사전 분포가 아니라, 데이터와 모델의 동역학에 의해 암묵적으로 형성된 $p(z)$를 얻을 수 있는가?
• RQ3 제안된 반복적 적대적 훈련 절차가 데이터 분포와 일치하는 정적 분포를 도출하는가?
• RQ4 동일한 모델이 사전 훈련 없이도 무조건적 생성, 인painting, 이미지-속성 동시 모델링을 모두 수행할 수 있는가?
• RQ5 샘플 품질과 샘플링 효율성 측면에서, ALI와 비례하지 않는 열역학적 모델과 비교해 성능이 어떻게 되는가?

주요 결과

• GibbsNet는 무조건적 생성에서 CIFAR-10에 대해 Inception Score 5.69를 기록했으며, ALI(5.41)를 능가하고, 1000단계 후 20단계만으로도 Non-Equilibrium Thermodynamics와 동등하거나 이를 초월한다.
• 인painting 결과에서, 동일한 $p(x|z)$와 $q(z|x)$ 아키텍처를 사용함에도 불구하고, GibbsNet는 ALI보다 더 높은 품질과 일관성 있는 복원을 제공한다.
• 인painting 작업에서 Inception Score 6.15를 기록하여, 이에 대한 별도의 훈련 없이도 조건부 생성에서 뛰어난 성능을 보였다.
• 학습된 잠재 공간 $p(z)$는 복잡하고 분리 가능하며, $q(z|x)$를 특징 추출기로 사용할 경우 후속 분류 작업에서 더 나은 성능을 발휘한다.
• 단지 몇 단계의 마르코프 체인으로만 훈련되었음에도 불구하고, 추론 과정에서 수천 단계에 걸쳐 안정적인 샘플을 생성하며 붕괴 없이 작동한다.
• 단일 모델을 사용해 CelebA의 40개의 이진 속성과 이미지의 동시 모델링을 성공적으로 달성했으며, 속성 생성에는 이산형 BGAN을, 이미지 생성에는 연속형 BGAN을 적용했다.