[논문 리뷰] Playing Russian Roulette with Intractable Likelihoods

Mark Girolami, Anne-Marie Lyne외 3명|arXiv (Cornell University)|2013. 06. 17.

Markov Chains and Monte Carlo Methods인용 수 16

한 줄 요약

이 논문은 무한 급수 전개(Maclaurin 또는 기하 급수)를 러시안 룰렛 샘플링을 통해 확률적으로 잘라내어 비가역 정규화 상수를 가진 모델에 대해 비편향 정규화 상수 추정치를 얻는 방식으로, 비가역 우도에 대한 새로운 정확-근사 MCMC 방법을 제안한다. 사슬 내에 부호가 있는 측도를 유도하지만, 양성 색역학에 영감을 받은 기법을 통해 올바른 기대값을 유지하여, 미세 메esh에 대한 가우시안 마르코프 무작위 필드와 같은 큰 모델에 대해 정확한 베이지안 추론이 가능하게 한다. 이를 통해 오존 기준면 데이터에 대한 성능이 입증되었다.

ABSTRACT

A general scheme to exploit Exact-Approximate MCMC methodology for intractable likelihoods is suggested. By representing the intractable likelihood as an infinite Maclaurin or Geometric series expansion, unbiased estimates of the likelihood can be obtained by finite time stochastic truncations of the series via Russian Roulette sampling. Whilst the estimates of the intractable likelihood are unbiased, for unbounded unnormalised densities they induce a signed measure in the Exact-Approximate Markov chain Monte Carlo procedure which will introduce bias in the invariant distribution of the chain. By exploiting results from the Quantum Chromodynamics literature the signed measures can be employed in an Exact-Approximate sampling scheme in such a way that expectations with respect to the desired target distribution are preserved. This provides a general methodology to construct Exact-Approximate sampling schemes for a wide range of models and the methodology is demonstrated on well known examples such as posterior inference of coupling parameters in Ising models and defining the posterior for Fisher-Bingham distributions defined on the d-Sphere. A large scale example is provided for a Gaussian Markov Random Field model, with fine scale mesh refinement, describing the Ozone Column data. To our knowledge this is the first time that fully Bayesian inference over a model of this size has been feasible without the need to resort to any approximations. Finally a critical assessment of the strengths and weaknesses of the methodology is provided with pointers to ongoing research 1. 1

연구 동기 및 목표

• 비가역 정규화 상수로 인해 우도가 비가역이 되는 경우 정확한 베이지안 추론을 수행하는 데 도전하는 문제를 해결한다.
• 무한대에 이르지 않는 비정규화 밀도를 가진 모델에 대해 비편향 우도 추정치를 구성하는 일반적 프레임워크를 개발한다.
• 비편향 우도 추정치를 사용할 때 정확-근사 MCMC에서 발생하는 부호가 있는 측도에 의해 유도되는 편향을 극복한다.
• 미세 메쉬 이산화된 가우시안 마르코프 무작위 필드와 같은 고차원 모델에 대해 확장 가능한 정확한 사후 추론을 가능하게 한다.
• 이론적 기준 모델인 이징 및 d-구면 상의 페셔-빙햄 분포, 그리고 대규모 오존 기준면 모델에 대해 방법을 적용한다.

제안 방법

• 비가역 우도를 무한 마클로린 또는 기하 급수 전개로 표현한다.
• 러시안 룰렛 샘플링을 적용하여 유한 시간 내에 급수를 확률적으로 잘라내어 비편향 우도 추정치를 도출한다.
• 무한대에 이르지 않는 비정규화 밀도로 인해 사슬 내에 유도되는 부호가 있는 측도를 다루기 위해 양성 색역학의 결과를 활용한다.
• 부호가 있는 측도가 유도되더라도 올바른 불변 분포를 유지하는 정확-근사 MCMC 알고리즘을 구성한다.
• 비편향 우도 추정치를 메트로폴리스-해스팅스 프레임워크에 통합하여 목표 사후 분포에서 샘플링한다.
• 이sen과 이징 모델, d-구면 상의 페셔-빙햄 분포를 포함한 정규화가 비가역인 모델에 대해 방법을 검증한다.

실험 결과

연구 질문

• RQ1 무한 급수의 확률적 잘라내기를 통해 비편향 우도 추정치를 얻는 것이 비가역 우도를 가진 모델에 대해 정확한 베이지안 추론을 가능하게 할 수 있는가?
• RQ2 무한대에 이르지 않는 비정규화 밀도로 인해 발생하는 부호가 있는 측도는 정확-근사 MCMC에서 어떻게 관리되어야 하며, 기대값의 정확성이 유지되는가?
• RQ3 이 방법은 미세 이산화된 고차원 모델, 예를 들어 대규모 메쉬에 대한 가우시안 마르코프 무작위 필드에 대해 어느 정도 확장 가능한가?
• RQ4 오존 기준면 모델과 같은 대규모 실세계 응용 분야에서 이 방법은 근사 없이 정확한 추론을 달성할 수 있는가?
• RQ5 기존의 근사 추론 방법과 비교할 때 이 접근법의 실용적 제약 조건과 계산적 트레이드오프는 무엇인가?

주요 결과

• 무한 급수의 확률적 잘라내기를 통해 비편향 우도 추정치를 구성함으로써, 비가역 우도를 가진 모델에 대해 정확한 베이지안 추론이 가능해진다.
• 사슬 내에 부호가 있는 측도를 유도하지만, 양성 색역학에서 유래한 기법을 활용하여 목표 분포 하에서 올바른 기대값을 유지한다.
• 이 방법은 이징 모델과 d-구면 상의 페셔-빙햄 분포에 대한 사후 추론에 성공적으로 적용되어 광범위한 적용 가능성을 보여준다.
• 이제까지로는 미세 메쉬 이산화가 이루어진 오존 기준면 데이터에 대한 대규모 가우시안 마르코프 무작위 필드 모델에 대해 정확한 베이지안 추론이 근사 없이 가능해졌다.
• 이 방법은 대규모 모델에서 정확한 추론을 달성하며, 기존의 근사가 필요한 접근법보다 뛰어난 성능을 보인다.
• 비판적 평가를 통해 확장성과 정확성의 강점이 확인되었으며, 동시에 계산 비용과 잘라내기 기법의 튜닝 과제가 제기되었다.