[논문 리뷰] Automatic Variational ABC

Alexander Moreno, Tameem Adel외 3명|arXiv (Cornell University)|2016. 06. 28.

Markov Chains and Monte Carlo Methods참고 문헌 19인용 수 6

한 줄 요약

이 논문은 자동 미분과 분산 감소 기법을 결합한 확률적 변분 추론과 함께, 시뮬레이터 모델을 위한 변분 사후 분포의 효율적이고 종단 간 최적화를 가능하게 하는, 가능성 없는 베이지안 추론 방법인 자동 변분 ABC(AVABC)를 소개한다. 시뮬레이터와 변분 분포를 모두 재구성함으로써 AVABC는 기존의 SVI 방법들인 BBVI와 VBIL보다 훨씬 낮은 기울기 분산과 더 빠른 수렴 속도를 달성하였으며, 토이 문제와 블로파일 데이터 세트를 포함한 실제 문제들에서 뛰어난 성능을 보였다.

ABSTRACT

Approximate Bayesian Computation (ABC) is a framework for performing likelihood-free posterior inference for simulation models. Stochastic Variational inference (SVI) is an appealing alternative to the inefficient sampling approaches commonly used in ABC. However, SVI is highly sensitive to the variance of the gradient estimators, and this problem is exacerbated by approximating the likelihood. We draw upon recent advances in variance reduction for SV and likelihood-free inference using deterministic simulations to produce low variance gradient estimators of the variational lower-bound. By then exploiting automatic differentiation libraries we can avoid nearly all model-specific derivations. We demonstrate performance on three problems and compare to existing SVI algorithms. Our results demonstrate the correctness and efficiency of our algorithm.

연구 동기 및 목표

• 기존의 샘플링 기반의 근사 베이지안 계산(ABC) 방법의 비효율성을 해결하기 위해, 많은 수의 시뮬레이터 호출이 필요하고 혼합 속도가 느린 문제를 해결한다.
• 가능성 없는 설정에서 확률적 변분 추론(SVI)의 기울기 추정기에서 발생하는 높은 분산 문제를 해결한다.
• 자기 미분과 재구성 기법을 활용하여 시뮬레이션 모델을 위한 변분 사후 분포의 종단 간 자동 최적화를 가능하게 한다.
• 복잡한 시뮬레이터에서 변분 추론을 위한 수작업 기울기 유도 및 모델 전용 구현의 필요성을 줄인다.
• AVABC가 합성 문제와 실제 문제에서 기존의 SVI 기준인 BBVI와 VBIL보다 더 빠른 수렴 속도와 낮은 분산을 달성함을 보여준다.

제안 방법

• 시뮬레이터가 매개변수에서 시뮬레이션 데이터를 생성하고, ABC 커널을 통한 가능성 근사치를 사용하여 가능성 없는 추론을 위한 변분 하한을 수립한다.
• 시뮬레이터와 변분 사후 분포를 매개변수와 노이즈 변수의 결정적 함수로 재구성함으로써, 시뮬레이터를 통해 역전파를 가능하게 한다.
• 재구성 기울기와 제어 변수를 적용하여 변분 하한의 기울기 추정기의 분산을 감소시킨다.
• 자기 미분 라이브러리를 활용하여 수작업 기울기 유도를 제거하고, 하한의 완전한 종단 간 최적화를 가능하게 한다.
• 기울기 분산에 따라 학습률을 조정하는 적응형 최적화 알고리즘(예: Adam 또는 Adagrad)을 사용하여 학습 안정성을 향상시킨다.
• 요약 통계를 지원하며, Monte Carlo 근사치를 통한 ABC 가능성과 함께, 가능성이나 사후 기울기 추정기 양쪽에 분산 감소를 적용한다.

실험 결과

연구 질문

• RQ1 가능성 없는 추론 설정에서, 시뮬레이션 기반 모델에 대해 확률적 변분 추론이 효율적이고 안정적으로 작동할 수 있는가?
• RQ2 재구성과 제어 변수를 사용하여 가능성 없는 변분 추론의 기울기 추정기 분산을 상당히 감소시킬 수 있는가?
• RQ3 자기 미분이 복잡한 시뮬레이션 모델에서 수작업 기울기 유도의 필요성을 제거할 수 있는가?
• RQ4 AVABC는 BBVI와 VBIL와 같은 기존의 SVI 방법들에 비해 가능성 없는 추론 작업에서 수렴 속도와 안정성 면에서 어떻게 비교되는가?
• RQ5 AVABC는 고차원 또는 복잡한 시뮬레이터 출력을 가진 실제 시뮬레이션 모델에 얼마나 잘 스케일링되는가?

주요 결과

• AVABC는 BBVI와 VBIL보다 상당히 낮은 기울기 분산을 달성하였으며, 최적화 과정에서 더 평탄하고 안정적인 하한 곡선을 통해 이를 입증하였다.
• 블로파일 실험에서 AVABC는 약 175회 반복만으로 안정화되었지만, BBVI는 거의 2,750회 반복을 거쳐도 안정된 해에 도달하지 못했다.
• AVABC의 사후 추정치는 ε = 0.25일 때 거부 샘플링 결과와 매우 유사하여, 가능성 근사치를 사용함에도 정확도가 높음을 확인하였다.
• 특히 고차원 매개변수 공간에서 AVABC는 하한 최적화의 더 빠른 수렴 속도와 낮은 분산을 보였다.
• 메서드는 자동 미분 프레임워크 내에서 전체 시뮬레이터 코드를 성공적으로 처리하여, 수작업 기울기 유도 없이 종단 간 학습을 가능하게 하였다.
• 비미분 가능하거나 거부 기반 분포를 처리하는 데에는 제한이 있지만, AVABC는 샘플링 기반 ABC와 기존의 SVI 방법들에 비해 확장 가능하고 효율적인 대안을 제공한다.