[논문 리뷰] Bayesian Posterior Sampling via Stochastic Gradient Fisher Scoring

Sungjin Ahn, Anoop Korattikara외 1명|UvA-DARE (University of Amsterdam)|2012. 06. 27.

Markov Chains and Monte Carlo Methods참고 문헌 11인용 수 114

한 줄 요약

이 논문은 확률적 경사 하강 Fisher 스코링(Stochastic Gradient Fisher Scoring, SGFS)을 제안한다. 이는 소규모 데이터 배치만을 사용하여 사후 분포에서 효율적으로 표본을 생성하는 베이지안 사후 표본 추출 방법이다. 베이지안 중심극한정리에 기반하여 SGFS는 높은 혼합 속도에서 정규 근사로부터 표본을 추출함으로써 빠른 탐색을 달성하고, 낮은 혼합 속도에서는 전치행렬을 통한 보정을 통해 수렴 속도를 향상시키며, 또한 버닝 인 단계 동안 효율적인 최적화기로도 기능한다.

ABSTRACT

In this paper we address the following question: Can we approximately sample from a Bayesian posterior distribution if we are only allowed to touch a small mini-batch of data-items for every sample we generate?. An algorithm based on the Langevin equation with stochastic gradients (SGLD) was previously proposed to solve this, but its mixing rate was slow. By leveraging the Bayesian Central Limit Theorem, we extend the SGLD algorithm so that at high mixing rates it will sample from a normal approximation of the posterior, while for slow mixing rates it will mimic the behavior of SGLD with a pre-conditioner matrix. As a bonus, the proposed algorithm is reminiscent of Fisher scoring (with stochastic gradients) and as such an efficient optimizer during burn-in.

연구 동기 및 목표

• 표본당 소규모 데이터 배치만 접근 가능한 환경에서 베이지안 사후 분포에서 표본을 추출하는 데 도전하는 것.
• 느린 혼합 속도로 인해 문제가 되는 확률적 경사 하강 라놀린 다이내믹스(SGLD)의 성능을 향상시키는 것.
• 베이지안 중심극한정리를 활용해 혼합 속도에 따라 표본 추출 행동을 적응적으로 조정하는 것.
• 버닝 인 단계에서 효율적인 표본 추출과 효과적인 최적화를 동시에 구현하는 방법을 설계하는 것.
• 수렴 속도와 표본 추출 효율성을 향상시키기 위해 피셔 스코링의 확률적 경사 하강 변형을 개발하는 것.

제안 방법

• 소규모 데이터 배치만을 사용하여 사후 분포를 근사하는 확률적 경사 기반 알고리즘을 제안한다.
• 베이지안 중심극한정리를 통합하여 동적으로 표본 추출 행동을 조정한다: 높은 혼합 속도에서는 정규 근사, 낮은 혼합 속도에서는 SGLD 유사 동역학을 적용한다.
• 피셔 정보로부터 유도된 전치행렬을 사용하여 혼합 속도와 수렴 속도를 향상시킨다.
• 업데이트 규칙을 확률적 경사 하강 피셔 스코링 단계로 공식화하여 기울기 상승과 곡률 정보를 통합한다.
• 버닝 인 단계에서는 피셔 스코링에 영향을 받는 업데이트 규칙 덕분에 효율적인 최적화기로 기능하도록 유지한다.
• 전체 데이터 계산을 피하고 소규모 데이터 배치 기반 기울기만을 사용하여 계산 효율성을 유지한다.

실험 결과

연구 질문

• RQ1 표본당 소규모 데이터 배치만을 접근 가능한 환경에서 효율적인 베이지안 사후 표본 추출이 가능한가?
• RQ2 SGLD와 같은 확률적 경사 기반 사후 표본 추출기의 혼합 속도를 어떻게 향상시킬 수 있는가?
• RQ3 혼합 속도에 따라 표본 추출 행동을 적응적으로 조정하기 위해 베이지안 중심극한정리를 활용할 수 있는가?
• RQ4 피셔 스코링의 확률적 경사 하강 변형이 수렴 속도와 표본 추출 효율성을 향상시키는가?
• RQ5 동일한 알고리즘이 버닝 인 단계에서 표본 추출기와 최적화기로 동시에 기능할 수 있는가?

주요 결과

• 제안된 확률적 경사 하강 피셔 스코링(SGFS) 알고리즘은 사후 곡률에 적응함으로써 기존 SGLD보다 더 빠른 혼합 속도를 달성한다.
• 높은 혼합 속도에서 SGFS는 사후 분포의 정규 근사를 기반으로 표본을 추출하여 빠른 탐색을 가능하게 한다.
• 낮은 혼합 속도에서 SGFS는 전치행렬을 갖춘 SGLD를 모방하여 수렴 속도를 향상시키고 무작위 보행 행동을 감소시킨다.
• 피셔 스코링에 영향을 받는 업데이트 규칙 덕분에 버닝 인 단계에서 효율적인 최적화기로 기능한다.
• 전체 데이터 계산을 피하고 소규모 데이터 배치 기반 기울기만을 사용함으로써 계산 효율성을 유지한다.
• 실험 결과, 기준 SGLD 대비 더 높은 표본 추출 효율성과 더 빠른 사후 추정 수렴 속도를 보였다.