[논문 리뷰] Operator Variational Inference

Rajesh Ranganath, Jaan Altosaar외 2명|arXiv (Cornell University)|2016. 10. 27.

Gaussian Processes and Bayesian Inference참고 문헌 2인용 수 39

한 줄 요약

이 논문은 연산자—함수의 함수—를 사용하여 새로운 변분 목표를 정의함으로써 변분 추론을 일반화하는 Operator Variational Inference (opvi) 프레임워크를 소개한다. 랑지비엔-스타인 연산자를 활용함으로써 opvi는 데이터 서브샘플링을 지원하는 스케일러블이고 블랙박스 최적화를 가능하게 하며, 해석 가능하지 않은 밀도를 요구하지 않는도서적 유연한 변분 프로그램을 지원한다. 이는 이미지 및 혼합 모델에서 전통적인 KL 기반 방법보다 후행 사후 분포 근사의 정밀도에서 뛰어난 성능을 발휘한다.

ABSTRACT

Variational inference is an umbrella term for algorithms which cast Bayesian inference as optimization. Classically, variational inference uses the Kullback-Leibler divergence to define the optimization. Though this divergence has been widely used, the resultant posterior approximation can suffer from undesirable statistical properties. To address this, we reexamine variational inference from its roots as an optimization problem. We use operators, or functions of functions, to design variational objectives. As one example, we design a variational objective with a Langevin-Stein operator. We develop a black box algorithm, operator variational inference (OPVI), for optimizing any operator objective. Importantly, operators enable us to make explicit the statistical and computational tradeoffs for variational inference. We can characterize different properties of variational objectives, such as objectives that admit data subsampling---allowing inference to scale to massive data---as well as objectives that admit variational programs---a rich class of posterior approximations that does not require a tractable density. We illustrate the benefits of OPVI on a mixture model and a generative model of images.

연구 동기 및 목표

• 표준 변분 추론의 통계적 한계, 즉 사후 분산의 과소추정과 열악한 해를 해결하기 위해, 변분 추론을 연산자 이론에 뿌리를 두고 있는 최적화 문제로 재고한다.
• 연산자를 사용하여 변분 목표를 구성하는 일반적인 프레임워크를 개발함으로써, 계산 효율성과 통계 정확도 사이의 명시적 트레이드오프를 가능하게 한다.
• 데이터 서브샘플링을 통한 스케일러블 추론과 표준 KL 발산에서 불가능한 복잡한 비해석 가능 사후 근사(변분 프로그램)를 지원함으로써, 이를 실현한다.
• 연산자 기반 목표가 계산적으로 타당하고 블랙박스 최적화에 적합한 조건을 체계적으로 정의한다.
• 실제 모델에서 예측 성능 측면에서 기존 KL 발산 대비 연산자 기반 목표, 특히 랑지비엔-스타인 목표의 우월성을 입증한다.

제안 방법

• 연산자, 시험 함수, 거리 함수를 통해 정의된 변분 목표의 일반 클래스를 제안하며, KL 및 스코어 매칭과 같은 발산을 일반화한다.
• 데이터 서브샘플링을 가능하게 하고 비해석 가능한 변분 가족을 지원하는 새로운 변분 목표로 랑지비엔-스타인 연산자를 도입한다.
• 변분 밀도의 해석적 도함수가 필요하지 않은, 임의의 연산자 기반 목표를 최적화할 수 있는 블랙박스 최적화 알고리즘 opvi를 개발한다.
• 해석 가능한 밀도가 필요하지 않은 신경망 기반 변환을 통해 표준 난수 변수를 변형하는 변분 프로그램을 사용하여, 복잡하고 교환 가능하지 않은 사후 분포를 모델링한다.
• 연산자 기반 목표의 수렴성과 안정성을 보장하기 위해 시험 함수 $ f $ 에 대해 유계 신경망을 사용한다.
• 변분 매개변수와 시험 함수 $ f $ 에 대해 별도의 학습률을 사용하는 Adam 최적화기를 적용함으로써, 변분 근사와 연산자 기반 목표의 동시 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 변분 추론이 연산자 기반 목표로 재정의될 수 있는가? 이는 분산 추정과 커버리지 지원 등의 통계적 성질을 향상시킬 수 있는가?
• RQ2 연산자 기반 목표는 데이터 서브샘플링을 통해 스케일러블 추론을 가능하게 하면서도 통계적 정밀도를 유지할 수 있는가?
• RQ3 연산자 기반 목표는 기존 KL 기반 변분 추론과 호환되지 않는 비해석 가능한 변분 가족(예: 변분 프로그램)을 지원할 수 있는가?
• RQ4 랑지비엔-스타인 연산자는 실제 모델에서 예측 성능 측면에서 KL 발산보다 더 나은 사후 근사를 제공하는가?
• RQ5 연산자 기반 목표가 계산적으로 타당하고 통계적으로 타당하기 위한 필요 조건은 무엇인가?

주요 결과

• 변분 프로그램을 사용한 랑지비엔-스타인(ls) 목표는 완성된 MNIST 이미지에서 -58.9의 최고 로그우도를 기록했으며, KL을 사용한 면밀한 가우시안(-59.3)과 ls를 사용한 면밀한 가우시안(-75.3)을 모두 압도했다.
• 모델 매개변수는 KL 기반으로 학습되었지만, 변분 프로그램을 사용한 ls 기반 추론은 우수한 재구성 성능를 기록했으며, 이는 더 나은 사후 근사 품질을 의미한다.
• ls 목표는 데이터 서브샘플링을 지원하여 거대한 데이터셋에서도 스케일러블 최적화를 가능하게 하며, 이는 표준 KL 기반 변분 추론에서 자연스럽게 제공되지 않는 특성이다.
• 해석 가능한 밀도가 없는 신경망 기반 변환인 변분 프로그램은 기존 KL 기반 변분 추론에서는 효과적으로 사용할 수 없지만, 연산자 기반 목표에서는 효과적으로 활용될 수 있다.
• 연산자 프레임워크는 계산 효율성과 통계 정확도 사이의 트레이드오프를 체계적으로 정의하며, 새로운 변분 목표의 체계적인 설계를 가능하게 한다.
• 이 프레임워크는 임의의 연산자 기반 목표에 대한 블랙박스 최적화를 가능하게 하여, 다양한 모델과 추론 작업에 널리 적용 가능하다.