[논문 리뷰] Faster Stochastic Variational Inference using Proximal-Gradient Methods with General Divergence Functions

Mohammad Emtiyaz Khan, Reza Babanezhad외 3명|arXiv (Cornell University)|2015. 10. 31.

Stochastic Gradient Optimization Techniques참고 문헌 21인용 수 17

한 줄 요약

이 논문은 변분 매개수 공간의 기하학적 구조를 활용하기 위해 일반적인 발산 함수를 활용하는 확률적 프락시멀-그라디언트 방법을 제안한다. 이는 비공액 모델에 대해서도 폐형 업데이트를 가능하게 하며, 벤치마크 데이터셋에서 더 빠른 수렴 속도와 향상된 성능을 달성한다. 또한 일반적인 발산 클래스를 사용하여 비볼록 설정으로 일반화된 기존 미러-강하 결과를 확장한 새로운 수렴 속도 분석을 제공한다.

ABSTRACT

Several recent works have explored stochastic gradient methods for variational inference that exploit the geometry of the variational-parameter space. However, the theoretical properties of these methods are not well-understood and these methods typically only apply to conditionally-conjugate models. We present a new stochastic method for variational inference which exploits the geometry of the variational-parameter space and also yields simple closed-form updates even for non-conjugate models. We also give a convergence-rate analysis of our method and many other previous methods which exploit the geometry of the space. Our analysis generalizes existing convergence results for stochastic mirror-descent on non-convex objectives by using a more general class of divergence functions. Beyond giving a theoretical justification for a variety of recent methods, our experiments show that new algorithms derived in this framework lead to state of the art results on a variety of problems. Further, due to its generality, we expect that our theoretical analysis could also apply to other applications.

연구 동기 및 목표

• 변분 매개수 공간의 기하학적 구조를 활용하여 최적화 효율성을 향상시키는 확률적 변분 추론 방법을 개발하기.
• 변수 분할과 함께 확률적 그라디언트를 조합하여 비공액 모델에서 폐형 업데이트를 가능하게 하기.
• 일반적인 발산 함수 클래스를 사용하여 비볼록 설정에서 프락시멀-그라디언트 방법의 수렴 속도 분석을 제공하기.
• 실제로 더 큰 스텝 사이즈와 더 빠른 수렴을 이끌어내는 비표준 발산 함수의 사용을 이론적으로 정당화하기.
• 실제 데이터셋(NIPS 및 AP 포함)에서 기존 방법들에 비해 본 방법의 우월성을 입증하기.

제안 방법

• 이 방법은 증거 하한값(ELBO)을 공액 및 비공액 항으로 분해하기 위해 변수 분할을 사용하여 프락시멀-그라디언트 업데이트를 가능하게 한다.
• 대규모 데이터셋에 대응하기 위해 확률적 그라디언트를 적용하며, 미니배치를 사용하여 ELBO의 그라디언트를 추정한다.
• 일반화된 발산 함수(Bregman 발산을 초월한)를 사용하여 프락시멀 단계를 정의함으로써 유연한 기하학적 인식 업데이트를 가능하게 한다.
• 알고리즘은 반복적 업데이트를 프락시멀-그라디언트 단계를 통해 수행한다: λ_{k+1} = argmin_{λ} [⟨∇L(λ_k), λ - λ_k⟩ + D(λ, λ_k) + (1/2)‖λ - λ_k‖_2^2], 여기서 D는 일반 발산 함수이다.
• 이 방법은 근사 없이 로그-합-exp 항을 처리할 수 있는 비공액 모델(예: 상관 주제 모델)에 적용된다.
• 이 프레임워크에 대해 이론적 수렴 속도 분석을 유도하였으며, 일반 발산 함수를 사용하여 확률적 미러-강하를 비볼록 목표로 일반화하였다.

실험 결과

연구 질문

• RQ1 변분 매개수 공간의 기하학적 구조를 활용하는 확률적 프락시멀-그라디언트 방법이 수렴 속도 향상과 성능 향상을 이룰 수 있는가?
• RQ2 이 프레임워크를 통해 비공액 모델에서 폐형 업데이트를 도출할 수 있는가?
• RQ3 발산 함수의 선택이 확률적 설정에서 수렴 속도와 스텝 사이즈 안정성에 미치는 영향은 어떠한가?
• RQ4 기존 방법들인 SVI 및 미러-강하의 수렴 속도가 이 프레임워크 하에서 이론적으로 통합되고 일반화될 수 있는가?
• RQ5 ELBO에서 로그-합-exp 항에 대한 근사를 피할 경우, 보류된 가능성에서 측정 가능한 향상이 이루어지는가?

주요 결과

• 제안된 PG-SVI 및 PG-SVI-MF 알고리즘은 NIPS 및 AP 데이터셋에서 평균-장, 델타, 라플라스 방법보다 더 빠른 수렴 속도와 향상된 보류된 로그우도를 달성한다.
• 10개 주제를 가진 NIPS 데이터셋에서 PG-SVI는 10초 시점에 약 -3.8의 보류된 로그우도를 기록하여 모든 베이스라인을 능가한다.
• 이 방법은 로그-합-exp 함수의 근사를 피함으로써 더 정확한 사후 추정과 델타 및 라플라스 방법에 비해 향상된 성능을 달성한다.
• 기존의 확률적 미러-강하 결과를 일반 발산 함수 클래스로 확장함으로써 수렴 속도 분석을 일반화하였다. 이는 표준 Bregman 조건을 만족하지 않는 발산 함수도 포함한다.
• 이론적 분석은 수렴 속도가 ELBO의 리프시츠 연속성, 발산의 정보 기하학, 그리고 확률적 그라디언트의 분산에 의존함을 드러냈다.
• 변수 분할을 통한 비공액 항의 선형화를 통해 비공액 모델(예: 상관 주제 모델)에서도 단순한 폐형 업데이트를 가능하게 하였다.