[논문 리뷰] A Tutorial on Parametric Variational Inference

Jens Sjölund|arXiv (Cornell University)|2023. 01. 03.

Genetic and phenotypic traits in livestock인용 수 4

한 줄 요약

이 튜토리얼은 베이지안 추론을 위한 MCMC의 확장 가능한 대안으로서 파arametric 변분 추론을 제시하며, 비가속 가능한 사후분포를 근사하기 위해 다루기 쉬운 하한선(ELBO)을 최적화하는 데 중점을 둔다. 재포지셔닝 기법, 신경망을 통한 보상 추론, 스코어 함수 추정자를 활용한 블랙박스 변분 추론과 같은 핵심 기법을 다루며, 현대 머신러닝에서 대규모 베이지안 모델링을 효율적으로 가능하게 한다.

ABSTRACT

Variational inference uses optimization, rather than integration, to approximate the marginal likelihood, and thereby the posterior, in a Bayesian model. Thanks to advances in computational scalability made in the last decade, variational inference is now the preferred choice for many high-dimensional models and large datasets. This tutorial introduces variational inference from the parametric perspective that dominates these recent developments, in contrast to the mean-field perspective commonly found in other introductory texts.

연구 동기 및 목표

• 베이지안 추론을 위한 MCMC의 확장 가능한 대안으로서 파arametric 변분 추론에 대한 체계적인 소개를 제공하는 것.
• 증거 하한선(ELBO)이 비가속 가능한 사후분포의 최적화 기반 근사를 가능하게 하는 방식을 설명하는 것.
• 고차원 및 대규모 모델을 다루기 위한 현대적 기법인 보상 변분 추론과 블랙박스 변분 추론을 제시하는 것.
• Kullback-Leibler 발산이 ELBO 최대화와 사후분포 근사 간의 연결 고리로서 수행하는 역할를 명확히 하는 것.
• 이론적 기초와 현대 확률적 머신러닝에서의 실용적 구현 간 격차를 메우는 것.

제안 방법

• 비가속 가능한 주변 가능도에 대한 다루기 쉬운 대체량으로서 증거 하한선(ELBO)을 사용하며, 이는 젠센의 부등식과 KL 발산 분해를 통해 유도된다.
• 진짜 사후분포와 변분 근사 간의 차이를 측정하기 위해 Kullback-Leibler 발산을 활용하며, 이의 최소화는 ELBO 최대화와 동치이다.
• 가능도가 미분 가능한 변분 가족의 경우, 저분산 기울기 추정을 가능하게 하여 확률적 기울기 최적화를 가능하게 하는 재포지셔닝 기법을 적용한다.
• 관측치에서 변분 매개변수로의 매핑을 수행하는 신경망(에코더)을 통해 보상 변분 추론을 도입함으로써, 각 데이터 포인트에 대한 최적화를 단일 모델 추론으로 줄인다.
• 재포지셔닝이 불가능한 모델을 위한 블랙박스 변분 추론에서 스코어 함수 추정자(REINFORCE)를 활용하며, 제어 변수와 같은 분산 감소 기법을 적용한다.
• 자동 미분을 활용하여 변분 매개변수에 대한 ELBO 기울기를 계산함으로써, 복잡한 모델에서 종단 간 훈련을 가능하게 한다.

실험 결과

연구 질문

• RQ1 최적화를 통한 통합 대신 비가속 가능한 사후분포를 어떻게 근사할 수 있는가?
• RQ2 변분 추론에서 ELBO의 역할은 무엇이며, 진짜 주변 가능도와 KL 발산과의 관계는 어떠한가?
• RQ3 재포지셔닝 기법이 적용 가능한 상황는 무엇이며, 변분 추론에서 기울기 추정을 어떻게 향상시키는가?
• RQ4 보상 변분 추론은 로컬 잠재 변수를 가진 대규모 베이지안 모델에서 계산 비용을 어떻게 줄이는가?
• RQ5 블랙박스 변분 추론의 한계는 무엇이며, 분산 감소 기법은 그 실용성을 어떻게 향상시키는가?

주요 결과

• ELBO는 로그 주변 가능도의 하한선을 제공하며, 이는 다루기 쉬우면서도 최적화에 적합하여 확장 가능한 사후분포 근사를 가능하게 한다.
• ELBO 최대화는 변분 사후분포와 진짜 사후분포 사이의 KL 발산 최소화와 동치이며, 이는 근사가 더욱 탐색 가능해짐을 보장한다.
• 재포지셔닝 기법은 자동 미분를 통해 정확한 기울기 계산을 가능하게 하여, 미분 가능한 모델에서 저분산 기울기 추정을 이끈다.
• 보상 변분 추론은 각 데이터 포인트에 대한 최적화를 단일 신경망 순전파로 줄여, 대규모 데이터셋에 대한 확장성을 크게 향상시킨다.
• 스코어 함수 추정자를 활용한 블랙박스 변분 추론은 재포지셔닝이 불가능한 모델에서도 기울기 기반 최적화를 가능하게 하며, 제어 변수를 통한 분산 감소 기법으로 인해 높은 분산 문제를 완화할 수 있다.
• 보상과 재포지셔닝의 조합은 변분 오토인코더와 같은 현대 모델의 효율적 훈련을 가능하게 하며, 이는 에코더와 디코더가 확률적 기울기 하강법을 통해 공동으로 최적화된다.