[논문 리뷰] Approximate Inference with Amortised MCMC

Yingzhen Li, Richard E. Turner외 1명|arXiv (Cornell University)|2017. 02. 27.

Generative Adversarial Networks and Image Synthesis참고 문헌 54인용 수 29

한 줄 요약

이 논문은 MCMC 역학을 교사로 활용하여 근사 사후 분포 표본을 생성하는 데 신경망을 훈련하는 새로운 프레임워크인 암표화된 MCMC를 소개한다. MCMC를 통해 표본을 반복적으로 개선하고, 그 결과를 피드백으로 네트워크를 갱신함으로써, 복잡하고 비가역적인 분포에 대해서도 유연하고 고품질의 사후 근사가 가능해진다. 이는 딥 제너레이티브 모델에서 최신 수준의 이미지 생성 및 강건한 결측 데이터 보간 성능을 통해 입증되었다.

ABSTRACT

We propose a novel approximate inference algorithm that approximates a target distribution by amortising the dynamics of a user-selected MCMC sampler. The idea is to initialise MCMC using samples from an approximation network, apply the MCMC operator to improve these samples, and finally use the samples to update the approximation network thereby improving its quality. This provides a new generic framework for approximate inference, allowing us to deploy highly complex, or implicitly defined approximation families with intractable densities, including approximations produced by warping a source of randomness through a deep neural network. Experiments consider image modelling with deep generative models as a challenging test for the method. Deep models trained using amortised MCMC are shown to generate realistic looking samples as well as producing diverse imputations for images with regions of missing pixels.

연구 동기 및 목표

• 변분 추론에서의 해석 가능 밀도 함수가 필요 없는 일반적이고 확장 가능한 근사 베이지안 추론 프레임워크를 개발하는 것.
• 예를 들어 딥 노멀라이징 플로우와 같은 복잡한 암묵적 분포를 사용할 수 있도록, 명시적 밀도 계산을 피하면서 암표화 추론에 활용할 수 있는 방법을 제공하는 것.
• MCMC 정밀화와 반복적 네트워크 적응을 통해 딥 제너레이티브 모델과 베이지안 신경망에서 사후 근사 품질을 향상시키는 것.
• 표준 변분 추론이 다중 모달 사후 분포를 포착하는 데 한계가 있음을 고려하여, MCMC가 복잡한 목표 분포를 탐색할 수 있는 능력을 활용하는 것.

제안 방법

• 이 방법은 학생-교사 프레임워크를 사용한다: 신경망(학생)이 초기 표본을 생성하고, MCMC 샘플러(교사)가 이를 정밀화한다.
• MCMC 샘플러는 사용자가 정의한 전이 커널을 적용하여 초기 표본을 개선함으로써 더 높은 품질의 사후 근사 분포를 생성한다.
• 학생 네트워크는 적대적으로 추정한 발산과 에너지 매칭을 사용하여, 출력 결과와 MCMC로 정밀화된 표본 간의 격리 차이를 최소화함으로써 갱신된다.
• 이 프레임워크는 어떤 MCMC 커널과 어떤 근사 샘플러 가족(해석 불가능한 밀도를 가진 것 포함)과도 호환되며 일반적이다.
• 훈련 과정은 MCMC의 비용을 암표화함으로써, MCMC 전이의 피드백을 통해 점차 향상되는 파arametric 제안 네트워크를 학습함으로써 수행된다.
• 이 방법은 사후 표본 추출과 가능도 추정을 모두 지원하며, 베이지안 신경망과 딥 제너레이티브 모델에 적용 가능하다.

실험 결과

연구 질문

• RQ1 MCMC 역학을 효과적으로 암표화하여, 해석 가능한 밀도 함수가 필요 없는 고성능 사후 근사기의 개발이 가능한가?
• RQ2 암표화된 MCMC는 표준 변분 추론에 비해 사후 품질과 가능도 추정 정확도 측면에서 어떻게 비교되는가?
• RQ3 암표화된 MCMC는 이미지 생성 및 결측 데이터 보간 작업에서 다중 모달 사후 분포를 단일 모달 변분 근사보다 더 효과적으로 포착할 수 있는가?
• RQ4 이 방법은 딥 제너레이티브 모델에서 표본 다양성과 재구성 정밀도를 어느 정도 향상시키는가?

주요 결과

• 제안된 암표화된 MCMC 방법은 MNIST에서 테스트 로그가능도를 -85.6 nats로 기록하여 표준 VAE를 크게 능가하고 최고 수준의 변분 기반 기준 모델과 유사한 성능을 보였다.
• 해밀토니안 냉각 중요도 샘플링(HAIS)을 사용하여, IWAE 기반 가능도 추정치가 상당히 편향되어 있음을 확인했고, AMC 모델은 진정한 가능도 추정에서 뛰어난 성능을 보였다.
• 결측 데이터 보간 작업에서는 AMC로 훈련된 모델이 다양한 고품질 재구성을 생성하여 여러 가지 타당한 보완을 탐색한 반면, VAE는 국소 최적점에 갇혀 있었다.
• 훈련 데이터셋 내 근접 이웃에 대한 레이블 분포의 엔트로피는 AMC 모델에서 더 높았으며(예: CNN-B의 경우 1.8), VAE(엔트로피 ~1.0)보다 더 높은 다양성을 보였다.
• T=50개의 MCMC 단계를 사용한 최고의 AMC 모델은 지속적 MCMC 기준 모델보다 테스트 로그가능도에서 0.6 nat 향상시켰다. 이는 암표화된 정밀화의 유용성을 확인한 것이다.
• 이 방법은 딥 제너레이티브 모델에서 현실적이고 다양한 표본을 생성했으며, 제한된 계산 예산 하에서도 베이지안 신경망 분류에서 효과적인 사후 근사가 가능하게 했다.