[논문 리뷰] Automatic Differentiation Variational Inference

Alp Kucukelbir, Dustin Tran외 3명|arXiv (Cornell University)|2016. 03. 02.

Gaussian Processes and Bayesian Inference참고 문헌 54인용 수 188

한 줄 요약

advI는 미분가능한 확률 모델에 대해 확장 가능한 변분 추론 알고리즘을 자동으로 도출하여 모델별 유도 없이 빠른 사후근사를 가능하게 하며 Stan에 통합되어 있다.

ABSTRACT

Probabilistic modeling is iterative. A scientist posits a simple model, fits it to her data, refines it according to her analysis, and repeats. However, fitting complex models to large data is a bottleneck in this process. Deriving algorithms for new models can be both mathematically and computationally challenging, which makes it difficult to efficiently cycle through the steps. To this end, we develop automatic differentiation variational inference (ADVI). Using our method, the scientist only provides a probabilistic model and a dataset, nothing else. ADVI automatically derives an efficient variational inference algorithm, freeing the scientist to refine and explore many models. ADVI supports a broad class of models-no conjugacy assumptions are required. We study ADVI across ten different models and apply it to a dataset with millions of observations. ADVI is integrated into Stan, a probabilistic programming system; it is available for immediate use.

연구 동기 및 목표

• 확률 모델링의 추론 병목 현상을 줄이고 모델 정제 주기를 가속화하고자 한다.
• 공결합성(conjugacy) 없이 다양한 미분가능 모델에 대해 변분 추론 알고리즘을 자동으로 도출하는 방법을 개발한다.
• 자동 미분 및 변환을 통합하여 대규모 데이터셋에서 확장 가능한 VI를 가능하게 한다.
• 여러 모델에 걸친 적용 가능성을 시연하고 MCMC와의 성능을 비교한다.

제안 방법

• 잠재 변수를 제약이 없는 실수 좌표 공간으로 변환하여 보편적인 변분 가족을 가능하게 한다.
• 변환된 공간에서 가우시안 변분 가족(평균장 또는 전체랭크)을 사용하고 원래 공간에서 변수 변화에 의해 명시적으로 비가우시안성을 가지도록 한다.
• 확률적 그래디언트 재매개(trick) 기법으로 그래디언트를 표준 가우시안에 대한 기대값으로 표현하도록 재매개한다.
• Monte Carlo 적분과 자동 미분을 통해 ELBO와 그 그래디언트를 계산하여 자동 최적화를 가능하게 한다.
• 수렴성과 효율성을 보장하기 위한 새로운 스텝 사이즈 스케줄을 갖춘 적응적 확률적 그래디언트 상승을 적용한다.
• Stan 안에 접근법을 구현하고 변수 변환과 자동 미분 라이브러리를 활용한다.

실험 결과

연구 질문

• RQ1 자동 미분 변분 추론(ADVI)가 결합성 가정 없이 여러 미분가능 모델에 대해 정확한 사후 근사를 생성할 수 있는가?
• RQ2 대규모 데이터셋에서 전통적 MCMC에 비해 속도와 확장성 측면에서 ADVI의 성능은 어떤가?
• RQ3 잠재 변수 변환과 변분 가족 선택이 사후 근사의 품질에 미치는 영향은 무엇인가?
• RQ4 확률 프로그래밍 프레임워크에서 ADVI가 비결합성의 복잡한 모델(예: 혼합모형, 비선형 모델)을 효과적으로 처리할 수 있는가?

주요 결과

• ADVI는 대다수의 미분가능 모델에 대한 변분 추론 알고리즘 도출 과정을 자동화한다.
• 이 방법은 비결합성 모델을 지원하며 Stan에 즉시 사용할 수 있도록 통합되어 있다.
• ADVI는 대규모 데이터셋에 확장되며, 수백만 개의 관측치를 포함하는 데이터셋을 포함한 10개의 확률 모델에 대해 시연되었다.
• 제약된 잠재 변수를 실수 공간으로 변환하는 것은 보편적 변분 근사 전략을 가능하게 한다.
• 그래디언트 추정은 자동 미분이 포함된 몬테카를로를 통해 얻어져 확률적 최적화를 가능하게 한다.
• 적응형 스텝 사이즈 시퀀스가 수렴성과 실용적 성능을 향상시킨다.