[논문 리뷰] Accurate and Conservative Estimates of MRF Log-likelihood using Reverse Annealing

Yuri Burda, Roger Grosse외 1명|arXiv (Cornell University)|2014. 12. 30.

Bayesian Methods and Mixture Models참고 문헌 22인용 수 18

한 줄 요약

이 논문은 동일한 MCMC 전이 연산자를 사용하는 표준 안내 중요도 샘플링(AIS)과 동일한 역방향 냉각을 사용하는 역방향 AIS 추정기(RAISE)를 소개한다. RAISE는 근사 MRF 모델의 로그우도에 대한 확률적 하한을 제공하며, AIS와 함께 사용될 경우 매우 정확하고 보수적인 추정치를 얻을 수 있다. 이는 AIS 결과에서 과도하게 낙관적인 추정을 탐지할 수 있는 실용적인 방법을 제공한다.

ABSTRACT

Markov random fields (MRFs) are difficult to evaluate as generative models because computing the test log-probabilities requires the intractable partition function. Annealed importance sampling (AIS) is widely used to estimate MRF partition functions, and often yields quite accurate results. However, AIS is prone to overestimate the log-likelihood with little indication that anything is wrong. We present the Reverse AIS Estimator (RAISE), a stochastic lower bound on the log-likelihood of an approximation to the original MRF model. RAISE requires only the same MCMC transition operators as standard AIS. Experimental results indicate that RAISE agrees closely with AIS log-probability estimates for RBMs, DBMs, and DBNs, but typically errs on the side of underestimating, rather than overestimating, the log-likelihood.

연구 동기 및 목표

• MRF에서 안내 중요도 샘플링(AIS)의 신뢰성 문제를 해결하기 위해, 분할 함수 추정치가 부족하여 로그우도를 과대평가하는 경향이 있는 경우를 다루기 위함.
• AIS 결과가 과도하게 낙관적인 경우를 탐지할 수 있도록 MRF 로그우도에 대한 보수적(하한) 추정치를 제공하는 방법을 개발하기 위함.
• 기존 모델과의 호환성을 확보하기 위해 표준 MCMC 전이 연산자만을 사용하는 실용적이고 쉽게 구현할 수 있는 추정기 개발.
• RBM, DBM, DBN과 같은 딥 생성 모델의 신뢰성 있는 평가를 가능하게 하기 위해 AIS와 보완적인 추정기를 제공하기 위함.

제안 방법

• RAISE는 적절히 선택된 제안 분포를 사용하여 역방향 냉각을 적용함으로써 근사 MRF 모델의 로그우도에 대한 확률적 하한을 계산한다.
• 표준 AIS에서 사용하는 동일한 MCMC 전이 연산자를 활용함으로써 최소한의 구현 오버헤드를 확보한다.
• 비정규화된 모델 확률 기반의 제어 변수를 사용한 중요도 샘플링을 통해 추정의 안정성을 향상시킨다.
• DBM 및 DBN과 같은 모델의 경우, 평균장 또는 인식 네트워크 제안을 사용한 중요도 샘플링을 통해 비정규화된 확률을 추정한다.
• 추정기는 테스트 데이터에 적용되어 보수적인 로그확률 추정치를 생성하며, 이는 표준 AIS 결과와 비교할 수 있다.
• RAISE(하한)와 AIS(상한) 간의 일치는 진짜 로그우도 값에 대해 매우 높은 신뢰도를 제공한다.

실험 결과

연구 질문

• RQ1 표준 MCMC 전이 연산자만을 사용하여 MRF 로그우도에 대한 확률적 하한을 구성할 수 있는가?
• RQ2 제안된 역방향 AIS 추정기(RAISE)는 AIS에서 흔히 발생하는 과도한 낙관을 피하면서 일관되게 보수적인 추정치를 제공하는가?
• RQ3 RAISE와 AIS의 추정치가 RBM, DBM, DBN과 같은 실제 모델에서 얼마나 일치하는가?
• RQ4 RAISE와 AIS의 일치는 MRF에서 로그우도 추정치의 정확도를 판단하는 실용적인 진단 도구로 기능할 수 있는가?

주요 결과

• 정확한 분할 함수 계산이 가능한 작은 RBM에서 RAISE 추정치는 진짜 로그우도와 매우 유사하여 정확도가 검증되었다.
• 전체 크기의 RBM, DBM, DBN에서 RAISE 추정치는 K=100,000일 때 AIS 추정치와 1 nat 이내로 일치하여 높은 일致성을 보였다.
• RAISE는 일관되게 보수적인 추정치를 제공하였으며, 테스트한 10개 모델 중 9개에서 가장 낮은 AIS 추정치 이하의 값을 기록하여 하한 성질을 확인하였다.
• Omniglot DBM의 경우 RAISE는 6.38 nats를 과대평가하여, 냉각 모델이 데이터에 더 잘 맞을 수 있음을 시사하였으며, 이는 RAISE가 모델 불일치를 탐지할 수 있음을 보여준다.
• 모든 경우에서 RAISE(하한)와 AIS(상한) 간의 일치는 둘 다 진짜 값에 매우 가까이 있다는 강력한 증거를 제공하였다.
• 이 방법은 간단하게 구현 가능하며, 표준 MCMC 연산자만으로도 충분하므로, 딥 생성 모델에서 MRF를 평가하는 데 실용적인 도구가 된다.