[논문 리뷰] Normalizing Constant Estimation with Gaussianized Bridge Sampling

He Jia, Uroš Seljak|arXiv (Cornell University)|2019. 12. 12.

Gaussian Processes and Bayesian Inference참고 문헌 22인용 수 6

한 줄 요약

이 논문은 정규화 상수 추정을 위한 새로운 방법인 가우시안화 브리지 샘플링(Gaussianized Bridge Sampling, GBS)을 제안한다. 이는 정규화 흐름(Normalizing Flows, NF)과 최적 브리지 샘플링(Optimal Bridge Sampling, OBS)을 결합하여 베이지안 추론에서 정규화 상수를 추정한다. MCMC를 통해 확보한 사후분포 표본을 바탕으로, GBS는 새로운 반복 신경 변환(Iterative Neural Transform, INT) NF를 통해 가우시안화된 밀도 추정기를 학습한 후, OBS를 적용하여 정규화 상수를 고정밀도와 저비용으로 추정한다. 이는 속도와 정밀도 면에서 네스티드 샘플링(Nested Sampling)과 안내된 중요도 샘플링(Annealed Importance Sampling, AIS)을 능가하며, 신뢰할 수 있는 오차 추정도 제공한다.

ABSTRACT

Normalizing constant (also called partition function, Bayesian evidence, or marginal likelihood) is one of the central goals of Bayesian inference, yet most of the existing methods are both expensive and inaccurate. Here we develop a new approach, starting from posterior samples obtained with a standard Markov Chain Monte Carlo (MCMC). We apply a novel Normalizing Flow (NF) approach to obtain an analytic density estimator from these samples, followed by Optimal Bridge Sampling (OBS) to obtain the normalizing constant. We compare our method which we call Gaussianized Bridge Sampling (GBS) to existing methods such as Nested Sampling (NS) and Annealed Importance Sampling (AIS) on several examples, showing our method is both significantly faster and substantially more accurate than these methods, and comes with a reliable error estimation.

연구 동기 및 목표

• 베이지안 추론에서 정규화 상수 추정의 정확성과 효율성에 대한 오랜 도전 과제를 해결하기 위해.
• 기존 방법들인 네스티드 샘플링과 안내된 중요도 샘플링과 비교해 계산 비용을 줄이고 정확도를 향상시키기 위해.
• 추가적인 가능도 평가를 최소화하면서 사후 MCMC 표본을 활용해 정규화 상수 추정을 수행할 수 있는 방법을 개발하기 위해.
• 계산된 정규화 상수에 대해 신뢰할 수 있는 오차 추정 프레임워크를 제공하기 위해.
• 특수한 튜닝 없이도 표준 CPU 플랫폼에서 실용적이고 확장 가능한 정규화 상수 추정을 가능하게 하기 위해.

제안 방법

• 이 방법은 사후분포의 MCMC 표본을 입력으로 받아, 사후밀도를 분석적으로 모델링하기 위해 정규화 흐름(특히 새로운 반복 신경 변환(INT) NF)을 학습한다.
• 학습된 NF는 사후분포를 표준 정규분포로 매핑하여 정규화된 제안 밀도 q(x)를 생성하며, 이때 정규화 상수 Z_q = 1으로 알려져 있다.
• 최적 브리지 샘플링(OBS)은 사후분포 p(x)와 NF 기반의 q(x)를 사용하여 적용되며, 항등식 E_q[α(x)p(x)] = Z_p / Z_q * E_p[α(x)q(x)]를 활용해 Z_p를 추정한다.
• 최적의 브리지 함수 α(x)는 추정치의 상대 제곱오차를 최소화하는 점수방정식(S(r) = 0)을 풀어 유도된다.
• 적응형 샘플링 전략은 오차 기여도 임계값(f_err = 0.1)과 평가 비율 한계(f_eva = 0.1)에 기반해, q(x)(NF 제안)에 더 많은 샘플을 할당한다.
• 오차 추정 공식에서 MCMC 표본의 자율상관관계는 통합 자율상관시간(τ_f2)을 통해 고려된다.

실험 결과

연구 질문

• RQ1 정규화 흐름 기반의 밀도 추정기가 최적 브리지 샘플링과 조합될 경우, 정규화 상수 추정의 정확도를 향상시킬 수 있는가?
• RQ2 고차원 문제에서 GBS의 계산 비용과 정확도는 네스티드 샘플링과 안내된 중요도 샘플링과 비교해 어떻게 되는가?
• RQ3 표준 MCMC 샘플링 외에 추가적인 가능도 평가를 최소화하면서도 신뢰할 수 있는 오차 추정을 확보할 수 있는가?
• RQ4 p(x)와 q(x) 사이의 적응형 샘플 할당 전략이 정규화 상수 추정의 효율성을 크게 향상시키는가?
• RQ5 제안된 방법은 특수한 튜닝 없이도 표준 CPU 플랫폼에서 효율적으로 구현될 수 있는가?

주요 결과

• GBS는 벤치마크 문제에서 네스티드 샘플링과 안내된 중요도 샘플링보다 유의미하게 높은 정확도를 달성하며, 상대 제곱오차가 수개월 정도 감소한다.
• GBS는 네스티드 샘플링과 AIS보다 상당히 빠르며, NUTS 체인 수와 반복 수를 반으로 줄였을 때 총 계산 비용이 4배 감소한다.
• GBS는 표본 추정 과정의 분산과 자율상관관계 구조를 모델링함으로써 신뢰할 수 있는 오차 추정을 제공한다. 오차 구간은 정규분포 오차를 가정한다.
• 적응형 샘플링 전략은 정규화 상수 추정의 추가 비용이 사후 표본 추출 비용에 비해 작다는 것을 보장하며, f_err = 0.1과 f_eva = 0.1을 기본 임계값으로 사용한다.
• 새로운 반복 신경 변환(INT) NF의 사용은 기존 정규화 흐름의 높은 학습 비용 없이도 정확한 밀도 추정을 가능하게 하여 전체 파이프라인의 효율성을 높인다.
• WBS와 GIS의 경우, GBS(L)와 동일한 n_q 값을 사용하여 관련 방법들 간의 일관된 성능을 보였다.