[논문 리뷰] Differentiable Antithetic Sampling for Variance Reduction in Stochastic Variational Inference

Mike Wu, Noah D. Goodman외 1명|arXiv (Cornell University)|2018. 10. 05.

Generative Adversarial Networks and Image Synthesis인용 수 6

한 줄 요약

이 논문은 표본 평균과 분산을 정확히 목표 모집단 모멘트와 일치시키는 음의 상관관계를 가진 표본을 생성함으로써 확률적 변분 추론에서 분산을 줄이기 위해 미분 가능한 반대표본 추출 기법을 제안한다. 재파arameterization와 결합함으로써 이 방법은 낮은 분산을 가진, 미분 가능한 기울기 추정을 가능하게 하여 VAE와 같은 심층 생성 모델에서 훈련의 안정성과 성능을 크게 향상시킨다.

ABSTRACT

Stochastic optimization techniques are standard in variational inference algorithms. These methods estimate gradients by approximating expectations with independent Monte Carlo samples. In this paper, we explore a technique that uses correlated, but more representative , samples to reduce estimator variance. Specifically, we show how to generate antithetic samples that match sample moments with the true moments of an underlying importance distribution. Combining a differentiable antithetic sampler with modern stochastic variational inference, we showcase the effectiveness of this approach for learning a deep generative model.

연구 동기 및 목표

• 표본 수를 늘리지 않고도 확률적 변분 추론에서 기울기 분산을 줄이기 위해.
• 편향 없는 추정을 유지하면서 표본의 대표성을 향상시키는, 미분 가능한 표본 추출 기법을 개발하기 위해.
• 현대의 심층 생성 모델에서 엣지 투 엔드 백프로파게이션을 지원하는 반대표본 추출을 가능하게 하기 위해.

제안 방법

• 목표 분포(예: 정규분포)의 표본 평균 η와 표본 분산 δ²을 정확히 일치시키는 k개의 표본을 생성하는, 미분 가능한 반대표본 추출기를 제안한다.
• Helmert의 직교 행렬을 기반으로 한 변환을 사용하여 i.i.d. 표준 정규 변수를 제어 가능한 모멘트를 가진 반대표본으로 매핑한다.
• Marsaglia의 알고리즘을 적용하여 반대표본을 효율적으로 생성함으로써 이전 방법보다 낮은 수의 랜덤 드로우를 요구한다.
• 반대표본 추출기를 재파arameterization와 통합하여 표본 추출 과정을 거쳐 기울기 계산이 가능하게 한다.
• 반대표본이 여전히 목표 분포(예: 정규분포)의 주변 분포를 유지하는 조건을 유도한다.
• 반대표본 쌍의 선형 조합을 사용하여 분산이 감소한 편향 없는 추정기로 구성한다.

실험 결과

연구 질문

• RQ1 반대표본 추출이 기울기 기반 최적화를 지원하기 위해 미분 가능하게 만들 수 있는가?
• RQ2 제어된 표본 모멘트를 가진 반대표본 추출이 i.i.d. 표본 추출에 비해 ELBO 추정에서 분산을 줄이는가?
• RQ3 제안된 방법은 다양한 VAE 아키텍처, 가능도 가족, 데이터셋에서 어떻게 성능을 발휘하는가?
• RQ4 정적인 변환을 통해 반대표본 추출 기법을 정규분포를 초과해 일반화할 수 있는가?
• RQ5 심층 생성 모델에서 반대표본 추출이 훈련 안정성과 수렴 속도에 어떤 영향을 미치는가?

주요 결과

• 제안된 미분 가능한 반대표본 추출기는 목표 분포(예: 정규분포)의 주변 분포를 유지하면서도 원하는 표본 모멘트를 정확히 일치시킨다.
• ELBO 추정에서 기울기 분산이 감소하여 훈련 중 더 안정적이고 빠른 수렴이 이루어진다.
• 반대표본을 사용한 VAE 훈련은 다양한 목적함수, 사후 분포 가족, 데이터셋에서 성능 향상을 보였다.
• 이전의 반대표본 추출 방법 대비 절반 수준의 랜덤 드로우만 필요로 하여 계산 효율성이 향상된다.
• 실험 결과는 소규모 배치 크기에서도 테스트 로그우도와 재구성 품질에서 일관된 향상을 보였다.
• 기존의 재파arameterization 기법과 완전히 호환되어 엣지 투 엔드 미분 가능한 훈련이 가능하다.