[논문 리뷰] Stein Neural Sampler

Tianyang Hu, Zixiang Chen외 4명|arXiv (Cornell University)|2018. 10. 08.

Generative Adversarial Networks and Image Synthesis참고 문헌 39인용 수 16

한 줄 요약

이 논문은 간단한 기준 분포에서 복잡하고 비정규화된 목표 분포로의 변환을 학습하기 위해 신경망을 사용하는 두 가지 딥 생성 샘플러—KSD-NS와 Fisher-NS—를 제안한다. 커널화된 스티븐 불일치와 피셔 발산을 최소화함으로써, 기존의 MCMC 및 변분 방법에 비해 이론적 보장과 함께 높은 품질의 샘플 생성과 개선된 안정성을 달성한다.

ABSTRACT

We propose two novel samplers to generate high-quality samples from a given (un-normalized) probability density. Motivated by the success of generative adversarial networks, we construct our samplers using deep neural networks that transform a reference distribution to the target distribution. Training schemes are developed to minimize two variations of the Stein discrepancy, which is designed to work with un-normalized densities. Once trained, our samplers are able to generate samples instantaneously. We show that the proposed methods are theoretically sound and experience fewer convergence issues compared with traditional sampling approaches according to our empirical studies.

연구 동기 및 목표

• 비정규화된 목표 밀도에 대해 전통적인 MCMC 및 변분 추론의 한계를 우회하는 스케일러블하고 고용량의 샘플링 방법을 개발하는 것.
• 깊은 신경망의 표현 능력을 활용하여 단순한 기준 분포에서 목표 분포로의 복잡하고 비선형적인 변환을 모델링하는 것.
• 비정규화된 밀도에 직접 작용하는 스티븐 불일치를 기반으로 한 학습 목표를 설계하여 안정적이고 샘플 효율적인 학습을 가능하게 하는 것.
• 특히 고차원 및 다모드 설정에서 HMC, SVGD, GAN 기반 접근법과 같은 기존 방법들보다 샘플링의 안정성과 수렴 성능을 향상시키는 것.

제안 방법

• 표준 기준 분포(예: 정규분포)에서 목표 분포로의 결정론적 변환을 파arameterizing하기 위해 깊은 신경망을 사용한다.
• 비정규화된 밀도에서 작용하며 재생 커널 힐버트 공간(RKHS)에서 폐형 최적화가 가능한 커널화된 스티븐 불일치(KSD)를 학습 목표로 활용한다.
• RKHS에서 L² 공간으로의 분류 함수 공간을 일반화함으로써 더 나은 수렴 성질을 확보하는 Fisher-NS를 확장된 형태로 제안한다.
• 비정규화된 밀도의 스코어 함수 정보를 사용하여, 생성된 샘플과 목표 분포 사이의 불일치를 최소화하기 위해 경사하강법으로 생성자 학습을 수행한다.
• 생성자가 목표 분포의 샘플과 구분이 가지 않도록 하는 GAN 유사 학습 프레임워크를 활용하며, 이는 스티븐 불일치 측도 기반으로 작동한다.
• 정규화 상수의 필요 없이도 작동하는 스코어 함수 $ S_q(x) = \nabla_x \log q(x) $ 를 활용하여, 비정규화된 사후 분포에 적용 가능한 방법을 확보한다.

실험 결과

연구 질문

• RQ1 깊은 신경망을 사용하여 단순한 기준 분포에서 복잡하고 비정규화된 목표 분포로의 결정론적 변환을 효과적으로 학습할 수 있는가?
• RQ2 신경망을 통해 스티븐 불일치를 최소화하면 기존의 MCMC나 변분 추론에 비해 더 안정적이고 정확한 샘플링이 가능한가?
• RQ3 분류 함수 공간을 RKHS에서 $ L^2 $ 공간으로 확장하면 신경 샘플러의 수렴성과 샘플 품질에 어떤 영향을 미치는가?
• RQ4 제안된 방법은 다모드 분포를 효과적으로 탐색할 수 있으며, GAN과 SVGD에서 흔히 발생하는 모드 소실이나 국소 최적점에 갇히는 문제를 피할 수 있는가?
• RQ5 실제 고차원 데이터에서 제안된 샘플러는 SGLD, DSVI, SVGD와 같은 기존 기준에 비해 어떻게 성능을 발휘하는가?

주요 결과

• KSD-NS는 RKHS 내 단위구를 활용하여 이론적 보장을 확보하고 안정적인 학습을 달성하며, Covertype 데이터셋에서 베이지안 로지스틱 회귀 문제에서 반복 시 샘플링의 분산이 낮게 나타났다.
• Fisher-NS는 Covertype 데이터셋에서 평균 테스트 정확도 76.22%를 기록하여 KSD-NS(76.17%), SGLD(75.09%), DSVI(73.46%)를 초월하며 고차원 설정에서 뛰어난 성능을 입증했다.
• 8개의 잘 분리된 모드를 가진 2차원 다모드 가우시안 혼합 분포에서 제안된 샘플러는 모든 모드를 효과적으로 탐색했으며, SVGD, 스티븐 GAN, HMC보다 뛰어난 성능을 보였다.
• 단순한 예제에서 단모드 및 다모드 혼합 분포에 대해 생성된 샘플은 시각적 진화 과정을 통해 목표 분포의 국소 및 전반적 구조를 잘 반영하고 있었다.
• 학습 후 순방향 전파만으로 독립적인 샘플을 즉각 생성할 수 있어 MCMC의 순차적 종속성 문제를 피하고 대규모 데이터에서 효율적인 추론이 가능하다.
• 실험 결과, KSD-NS와 Fisher-NS는 특히 고차원 및 복잡한 사후 분포에서 기존의 샘플링 방법보다 초기화에 더 강인하고 더 빠르게 수렴하는 것으로 나타났다.