[논문 리뷰] Ensemble Slice Sampling: Parallel, black-box and gradient-free inference for correlated & multimodal distributions

Minas Karamanis, Florian Beutler|arXiv (Cornell University)|2020. 02. 14.

Bayesian Methods and Mixture Models참고 문헌 31인용 수 12

한 줄 요약

이 논문은 고도로 상관관계가 있고 다모달한 분포에서 효율적으로 샘플링할 수 있도록 적응적으로 초기 길이 척도를 조정하고 워커의 앙상블을 사용하는 병렬, 블랙박스, 기울기 없는 마르코프 체인 몬테카를로 방법인 앙상블 슬라이스 샘플링(ESS)을 소개한다. ESS는 전통적인 MCMC 방법보다 최대 한 계단 높은 효율성을 달성하며, 특히 고차원, 비선형적으로 상관관계가 있는, 강하게 다모달인 타겟 분포에서 뛰어난 성능을 발휘한다.

ABSTRACT

Slice Sampling has emerged as a powerful Markov Chain Monte Carlo algorithm that adapts to the characteristics of the target distribution with minimal hand-tuning. However, Slice Sampling's performance is highly sensitive to the user-specified initial length scale hyperparameter and the method generally struggles with poorly scaled or strongly correlated distributions. This paper introduces Ensemble Slice Sampling (ESS), a new class of algorithms that bypasses such difficulties by adaptively tuning the initial length scale and utilising an ensemble of parallel walkers in order to efficiently handle strong correlations between parameters. These affine-invariant algorithms are trivial to construct, require no hand-tuning, and can easily be implemented in parallel computing environments. Empirical tests show that Ensemble Slice Sampling can improve efficiency by more than an order of magnitude compared to conventional MCMC methods on a broad range of highly correlated target distributions. In cases of strongly multimodal target distributions, Ensemble Slice Sampling can sample efficiently even in high dimensions. We argue that the parallel, black-box and gradient-free nature of the method renders it ideal for use in scientific fields such as physics, astrophysics and cosmology which are dominated by a wide variety of computationally expensive and non-differentiable models.

연구 동기 및 목표

• 복잡하고 계산 비용이 큰 모델에 대해 수작업 튜닝이 필요 없는 블랙박스 MCMC 방법을 개발하기 위해.
• 기본 슬라이스 샘플링이 초기 길이 척도 하이퍼파rameter에 민감한 문제를 해결하기 위해.
• 특히 고차원에서 강하게 상관관계가 있고 다모달인 분포에서 샘플링 효율을 향상시키기 위해.
• 비미분 가능 모델을 사용하는 천체물리학 및 천문학과 같은 과학 분야에서 MCMC 샘플링의 병렬화를 가능하게 하기 위해.
• 선형 변환에 대해 불변이면서 파라미터 스케일링과 상관관계에 대해 강건한 방법을 만들기 위해.

제안 방법

• ESS는 상호작용하는 병렬 워커의 앙상블을 사용하여 확률적 근사 방법을 통해 초기 길이 척도 하이퍼파rameter를 적응적으로 튜닝한다.
• 알고리즘은 균일한 보조 변수를 사용해 수평 슬라이스를 정의하고, 간격을 확장하고 수축시켜 유효한 샘플을 찾는 방식으로 슬라이스 샘플링 업데이트를 수행한다.
• 국소, 가우시안, 글로벌 이동 유형을 다수 사용하며, 글로벌 이동이 다모달 분포에서 큰 점프를 가능하게 한다.
• 이 방법은 본질적으로 애핀 불변이므로 선형 상관관계와 파라미터 스케일링에 강건하다.
• ESS는 앙상블을 활용해 제안 분포를 추정하고 기울기 정보 없이도 탐색을 향상시킨다.
• 알고리즘은 병렬 실행을 위해 설계되어 각 워커가 개별 슬라이스에서 독립적으로 샘플링하므로 다핵 컴퓨팅 환경을 효율적으로 활용할 수 있다.

실험 결과

연구 질문

• RQ1 기울기 없는 블랙박스 MCMC 방법이 수작업 튜닝 없이도 고도로 상관관계가 있고 다모달인 분포에서 높은 효율성을 달성할 수 있는가?
• RQ2 효율 샘플 크기와 자기상관도 측면에서 ESS는 메트로폴리스 및 표준 슬라이스 샘플링과 비교해 어떻게 성능을 내는가?
• RQ3 ESS는 고차원, 강하게 다모달인 분포(예: 가우시안 혼합분포)에서 얼마나 효율적으로 샘플링할 수 있는가?
• RQ4 초기 길이 척도 하이퍼파rameter에 대해 앙상블 기반 적응 조정이 고정 또는 수작업 튜닝 대비 수렴과 혼합 성능을 크게 향상시키는가?
• RQ5 비선형적으로 상관관계가 있는 분포에서 ESS는 AIES 및 DEMC와 같은 최첨단 앙상블 MCMC 방법을 능가할 수 있는가?

주요 결과

• ESS는 AR(1) 및 펌프런 분포와 같은 상관관계가 있는 분포에서 메트로폴리스 및 표준 슬라이스 샘플링보다 효율성을 한 계단 이상 향상시켰다.
• 상관관계가 있는 펌프런 분포에서 ESS는 밀도 평가당 효과적 샘플 크기 측면에서 표준 슬라이스 샘플링보다 한 계단 높은 성능을 보였다.
• 링 및 가우시안 셸과 같은 비선형적으로 상관관계가 있는 분포에서 ESS는 AIES 및 DEMC보다 효율성이 1~2 계단 높게 성과를 냈다.
• 50차원 가우시안 혼합 모델에서 ESS는 오직 유일하게 모드 간에 안정적으로 샘플링할 수 있었고, 다른 방법들은 수렴하지 못했다.
• 실제 계층적 가우시안 프로세스 회귀 작업에서 ESS는 AIES 및 DEMC보다 효율성이 1~2 계단 높았다.
• 베이지안 객체 탐지 문제에서 ESS는 AIES 및 DEMC보다 더 높은 정확도를 달성하여 복잡한 실세계 상황에서도 강건함을 입증했다.