[논문 리뷰] Sandwiching the marginal likelihood using bidirectional Monte Carlo

Roger Grosse, Zoubin Ghahramani외 1명|arXiv (Cornell University)|2015. 11. 08.

Statistical Methods and Inference참고 문헌 32인용 수 33

한 줄 요약

이 논문은 전방 및 역방향 안내된 중요도 샘플링을 조합하여 근접한 확률적 경계를 도출하는 이중성 몽테카를로(Bidirectional Monte Carlo, BDMC)를 소개한다. 이는 시뮬레이션된 데이터에서 정확하고 양적으로 검증 가능한 우도의 주변확률 추정을 가능하게 하며, 테스트된 추정기들 중에서 AIS, SMC, NS가 가장 신뢰할 수 있는 것으로 드러났다. 반면, 우도 가중치와 BIC는 일관되게 부정확한 결과를 보였다.

ABSTRACT

Computing the marginal likelihood (ML) of a model requires marginalizing out all of the parameters and latent variables, a difficult high-dimensional summation or integration problem. To make matters worse, it is often hard to measure the accuracy of one's ML estimates. We present bidirectional Monte Carlo, a technique for obtaining accurate log-ML estimates on data simulated from a model. This method obtains stochastic lower bounds on the log-ML using annealed importance sampling or sequential Monte Carlo, and obtains stochastic upper bounds by running these same algorithms in reverse starting from an exact posterior sample. The true value can be sandwiched between these two stochastic bounds with high probability. Using the ground truth log-ML estimates obtained from our method, we quantitatively evaluate a wide variety of existing ML estimators on several latent variable models: clustering, a low rank approximation, and a binary attributes model. These experiments yield insights into how to accurately estimate marginal likelihoods.

연구 동기 및 목표

• 복잡한 모델에서 기계학습 추정기를 평가하기 위한 신뢰할 수 있는 기준 우도 주변확률 추정치의 부족을 해결하기 위해.
• 진짜 로그-우도 주변확률에 대해 높은 확률로 확률적 상한과 하한을 제공하는 방법을 개발하기 위해.
• 기존의 주변확률 추정기들을 시뮬레이션된 데이터에서 알려진 진짜값을 갖는 기준으로 정량적으로 비교 가능하게 하기 위해.
• AIS, SMC, 또는 NS와 같은 추정기들이 다양한 잠재변수 모델에서 얼마나 신뢰성 있게 작동하는지 파악하기 위해.
• 더 나은 추론 알고리즘 개발을 지원하기 위해 주변확률 추정에 대한 엄밀한 평가 프레임워크를 제공하기 위해.

제안 방법

• 표준 중요도 샘플링 알고리즘(예: AIS, SMC)을 전방 및 역방향 모두에서 실행하여 로그-우도 주변확률에 대한 확률적 하한과 상한을 생성하는 이중성 몽테카를로(BDMC)를 제안한다.
• 안내된 중요도 샘플링(AIS) 또는 순차 몽테카를로(SMC)를 사용하여 중간 분포의 시퀀스에서 샘플링함으로써 확률적 하한을 생성한다.
• 정확한 사후 샘플에서 시작하여 동일한 알고리즘을 뒤집어 실행함으로써 확률적 상한을 생성한다. 이는 과정을 뒤로 되돌리는 것으로 간주된다.
• 진짜 로그-우도 주변확률은 거의 확실히 이 두 경계 사이에 놓이며, 계산량이 증가함에 따라 간격이 좁아진다.
• 클러스터링, 낮은 랭크 근사, 이진 속성 등의 모델에서 시뮬레이션된 데이터를 적용하여 기준값 추정을 가능하게 한다.
• 수득한 경계를 기반으로 네스트드 샘플링, 조화 평균, BIC 등의 다른 기계학습 추정기의 정확도를 평가한다.

실험 결과

연구 질문

• RQ1 진짜 값이 계산이 불가능한 모델에서, 신뢰할 수 있고 정량적으로 검증 가능한 주변확률 추정치를 어떻게 확보할 수 있는가?
• RQ2 AIS, SMC, 네스트드 샘플링, 조화 평균, BIC와 같은 기존의 주변확률 추정기 중에서 다양한 잠재변수 모델에서 얼마나 정확하게 작동하는가?
• RQ3 이중성 몽테카를로는 오직 시뮬레이션된 데이터만을 사용하여 진짜 주변확률을 고도로 신뢰할 수 있는 경계로 제공할 수 있는가?
• RQ4 냉각 스케줄이나 변수 축소와 같은 알고리즘적 선택이 주변확률 추정의 정확도에 어떤 영향을 미치는가?
• RQ5 다른 추정기들이 진짜 로그-우도 주변확률을 체계적으로 과소 또는 과대평가하는 정도는 어느 정도이며, 이는 BDMC를 통해 감지할 수 있는가?

주요 결과

• 이중성 몽테카를로는 충분한 계산량을 확보할 경우 진짜 값으로 수렴하는 확률적 상한과 하한을 성공적으로 생성하여, 고신뢰도의 기준값 추정을 가능하게 한다.
• AIS는 클러스터링 모델에서 16.5분 동안 7.5 nats의 RMSE를 기록했고, 15.1분에는 9.0 nats를 기록하여 계산량 증가에 따라 뛰어난 성능을 보였다.
• SMC는 각각 20.5분과 69분 동안 RMSE 값이 11.9 및 4.7 nats였으며, 수렴 속도는 느렸지만 결국 정확도에 도달함을 보였다.
• 네스트드 샘플링(NS)은 높은 분산을 보이며, 특히 계산 자원이 제한된 상황에서 AIS와 SMC에 뒤지게 되었다.
• 우도 가중치와 조화 평균 추정기는 일관되게 부정확한 추정치를 도출하였으며, 후자는 높은 신뢰도 조건에서도 실패하였다.
• BIC는 널리 사용되고 있음에도 불구하고 모든 테스트된 모델에서 신뢰할 수 없고 체계적으로 부정확한 것으로 밝혀졌다.