[논문 리뷰] MCMC for doubly-intractable distributions

Iain Murray, Zoubin Ghahramani외 1명|arXiv (Cornell University)|2012. 06. 27.

Model Reduction and Neural Networks참고 문헌 15인용 수 260

한 줄 요약

이 논문은 Møller 등(2004)의 보조 변수 방법을 확장하여 이중으로 비가역 정규화 상수를 포함하는 분포(likelihood 및 posterior 모두에서 비가역 정규화 상수를 포함)에 대한 새로운 MCMC 알고리즘을 제안한다. 이는 모델 파라미터의 사전 추정이 필요 없는 더 효율적인 샘플링 기법을 통해 수용 확률을 향상시켜, 비정규화된 밀도를 가진 지수족 분포에서 정확한 추론을 가능하게 한다.

ABSTRACT

Markov Chain Monte Carlo (MCMC) algorithms are routinely used to draw samples from distributions with intractable normalization constants. However, standard MCMC algorithms do not apply to doubly-intractable distributions in which there are additional parameter-dependent normalization terms; for example, the posterior over parameters of an undirected graphical model. An ingenious auxiliary-variable scheme (Moeller et al., 2004) offers a solution: exact sampling (Propp and Wilson, 1996) is used to sample from a Metropolis-Hastings proposal for which the acceptance probability is tractable. Unfortunately the acceptance probability of these expensive updates can be low. This paper provides a generalization of Moeller et al. (2004) and a new MCMC algorithm, which obtains better acceptance probabilities for the same amount of exact sampling, and removes the need to estimate model parameters before sampling begins.

연구 동기 및 목표

• 이중 비가역 정규화 상수를 포함하는 모델에서 베이지안 추론의 과제를 해결한다.
• 이중 비가역 타겟에 대해 기존 보조 변수 MCMC 방법에서 기인하는 낮은 수용 확률 문제를 해결한다.
• 이전 방법에서의 제약 요소인 샘플링 이전에 모델 파라미터를 사전 추정할 필요를 제거한다.
• 비정규화된 밀도를 가진 지수족 분포 및 무향 그래픽 모델에 적용 가능한 일반 목적의 MCMC 알고리즘을 개발한다.
• 메트로폴리스-하스팅스 업데이트에서 정확한 샘플링 단계의 수용 확률을 향상시켜 계산 효율성을 높인다.

제안 방법

• Møller 등(2004)의 보조 변수 기법을 확장하여, 파라미터에 의존하는 제안 분포를 허용한다.
• 정확한 샘플링(과거로부터의 결합)을 사용하여 제안 분포에서 완벽한 샘플을 생성함으로써, 처리 가능한 수용 확률을 보장한다.
• 기존의 비가역 정규화 상수를 상쇄시키기 위해 보조 변수를 사용하는 새로운 제안 메커니즘을 도입한다.
• 보조 변수 구성 덕분에 정규화 상수의 비율이 소거되는 메트로폴리스-하스팅스 수용 단계를 활용한다.
• 사전에 파라미터 추정이 필요 없도록 알고리즘을 설계하여, 직접적으로 후행 분포 샘플링을 가능하게 한다.
• 적절한 마르코프 커널 구성으로 상세 균형을 유지하고 진정한 후행 분포로의 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 이중 비가역 후행 분포에 대해 기존 보조 변수 방법보다 더 높은 수용 확률을 달성할 수 있는 MCMC 알고리즘을 설계할 수 있는가?
• RQ2 비정규화된 지수족 모델에서 MCMC 샘플링을 시작하기 전에 모델 파라미터를 사전 추정할 필요 없이도 가능할 수 있는가?
• RQ3 정확한 샘플링을 메트로폴리스-하스팅스 프레임워크에 통합하여, likelihood 및 posterior 모두에서 비가역 정규화 상수를 다룰 수 있는가?
• RQ4 보조 변수 구성에 어떤 수정 사항이 이중 비가역 추론 문제에서 혼합성과 수렴성을 향상시키는가?
• RQ5 제안된 방법은 비정규화된 밀도를 가진 광범위한 무향 그래픽 모델 클래스로 일반화될 수 있는가?

주요 결과

• 제안된 알고리즘은 동일한 양의 정확한 샘플링을 사용할 때 Møller 등(2004)의 원래 보조 변수 방법보다 유의미하게 높은 수용 확률을 달성한다.
• 샘플링 이전에 모델 파라미터를 추정할 필요가 없어지며, 이는 비정규화된 지수족 모델에서 직접 후행 분포 추론을 가능하게 한다.
• 알고리즘은 상세 균형을 유지하고 진정한 후행 분포로 거의 확실하게 수렴함을 보장한다.
• 실험 결과는 이ѕ링 및 포츠 모델과 같은 벤치마크 모델에서 혼합성이 향상되고 수렴 속도가 빨라지는 것으로 나타났다.
• 이 방법은 비가역 정규화 상수를 포함하는 광범위한 무향 그래픽 모델 클래스에 일반적으로 적용 가능하다.
• 기존 표준 MCMC가 비가역 정규화 항 때문에 실패하는 모델에서도 정확한 베이지안 추론을 가능하게 한다.