[논문 리뷰] Vertical-likelihood Monte Carlo

Nicholas G. Polson, James G. Scott|arXiv (Cornell University)|2014. 09. 11.

Markov Chains and Monte Carlo Methods참고 문헌 31인용 수 4

한 줄 요약

이 논문은 우도 ordinate의 분포를 직접 지정함으로써 중요도 샘플링 제안 분포를 설계하는 통합 프레임워크인 수직-우도 몽테카를로를 소개한다. 이는 내장 샘플링, 슬라이스 샘플링, 시뮬레이티드 템퍼링 등 일곱 가지 주요 몽테카를로 방법을 하나의 관점에서 연결하며, 재가중 슬라이스 샘플링을 통한 향상된 수렴성을 입증하고, 우도 ordinate의 분포를 통해 내장 샘플링에 대한 새로운 해석을 제공한다.

ABSTRACT

In this review, we address the use of Monte Carlo methods for approximating definite integrals of the form $Z = \int L(x) d P(x)$, where $L$ is a target function (often a likelihood) and $P$ a finite measure. We present vertical-likelihood Monte Carlo, which is an approach for designing the importance function $g(x)$ used in importance sampling. Our approach exploits a duality between two random variables: the random draw $X \sim g$, and the corresponding random likelihood ordinate $Y\equiv L(X)$ of the draw. It is natural to specify $g(x)$ and ask: what is the the implied distribution of $Y$? In this paper, we take up the opposite question: what should the distribution of $Y$ be so that the implied importance function $g(x)$ is good for approximating $Z$? Our answer turns out to unite seven seemingly disparate classes of algorithms under the vertical-likelihood perspective: importance sampling, slice sampling, simulated annealing/tempering, the harmonic-mean estimator, the vertical-density sampler, nested sampling, and energy-level sampling (a suite of related methods from statistical physics). In particular, we give an alterate presentation of nested sampling, paying special attention to the connection between this method and the vertical-likelihood perspective articulated here. As an alternative to nested sampling, we describe an MCMC method based on re-weighted slice sampling. This method's convergence properties are studied, and two examples demonstrate the promise of the overall approach.

연구 동기 및 목표

• 우도 ordinate의 분포를 기반으로 하여 중요도 샘플링, 슬라이스 샘플링, 내장 샘플링 등의 다양한 몽테카를로 방법을 통합하는 개념적 프레임워크를 제공하는 것.
• 베이지안 모델 선택에서 주변 우도 추정을 위한 효율적인 중요도 샘플링 제안 분포를 설계하는 데 도전하는 것.
• 최적 또는 근사 최적의 샘플링 효율성을 이끌어내는 우도 ordinate 값의 분포를 선택하는 원칙적인 접근법을 제공하는 것.
• 내장 샘플링을 수직-우도 몽테카를로의 특수한 경우로 재해석하여 이론적 기초와 실용적 구현에 대한 새로운 통찰을 제공하는 것.
• 고차원 문제에서 실용적으로 사용 가능한, 증명 가능한 수렴 성질을 갖춘 재가중 슬라이스-샘플링 MCMC 방법을 개발하는 것.

제안 방법

• 이 방법은 제안 분포 $ g(x) $ 를 직접 지정하는 대신, 우도 ordinate $ Y = L(X) $ 의 분포를 제어하는 가중치 함수 $ w(u) $ 를 통해 중요도 샘플링 제안 분포를 암묵적으로 정의한다.
• 랜덤 샘플링 $ X \sim g $ 와 우도 ordinate $ Y = L(X) $ 간의 이중성(duality)을 수립하여, $ Y $ 의 분포 선택이 암묵적으로 $ g(x) $ 를 정의할 수 있도록 한다.
• 유도된 제안 분포 $ g(x) $ 가 $ Z = \int L(x)\, dP(x) $ 를 추정하는 데 적합하도록 보장하기 위해, 스코어 함수 히우리스틱을 활용한다.
• 샘플은 우도의 슬라이스에서 추출되고 $ w(u) $ 에 따라 재가중되는 재가중 슬라이스-샘플링 알고리즘을 제안하여, 정확한 목표 분포를 갖는 MCMC 샘플링을 가능하게 한다.
• 내장 샘플링에 이 방법을 적용하기 위해, 그 순차적 샘플링 메커니즘을 수직-우도 구성으로 재해석함으로써, 그 기초적인 우도 ordinate 분포와의 연결 고리를 드러낸다.
• MCMC 방법의 이론적 수렴 성질을 분석하고, 수치 예제를 통해 저차원 및 고차원 환경 모두에서의 효과성을 입증한다.

실험 결과

연구 질문

• RQ1 우도 ordinate의 분포는 주변 우도 추정을 위한 효율적인 중요도 샘플링 제안 분포를 설계하는 데 어떻게 활용될 수 있는가?
• RQ2 내장 샘플링과 수직-우도 관점 사이의 이론적 연결 고리는 무엇이며, 이를 어떻게 샘플링 효율성을 향상시키는 데 활용할 수 있는가?
• RQ3 슬라이스 샘플링, 시뮬레이티드 템퍼링, 조화 평균 추정기 등 서로 다른 것으로 보이는 몽테카를로 방법들 간의 관계를 통합 프레임워크로 설명할 수 있는가?
• RQ4 수직-우도 프레임워크에서 최적 또는 근사 최적의 샘플링 효율성을 이끌어내는 데 어떤 가중치 함수 $ w(u) $ 가 적합한가?
• RQ5 이 프레임워크를 기반으로 한 재가중 슬라이스-샘플링 MCMC 방법은 기존 방법에 비해 고차원 문제에서 어떻게 성능을 발휘하는가?

주요 결과

• 수직-우도 관점은 중요도 샘플링, 슬라이스 샘플링, 시뮬레이티드 템퍼링, 조화 평균 추정기, 수직 밀도 샘플링, 에너지 수준 샘플링, 내장 샘플링 등 일곱 가지 주요 몽테카를로 방법을 하나의 개념적 프레임워크로 통합한다.
• 내장 샘플링은 수직-우도 몽테카를로의 특수한 경우로 재해석되며, 그 순차적 샘플링 메커니즘이 특정한 우도 ordinate 분포 선택과 대응됨을 입증한다.
• 제안된 재가중 슬라이스-샘플링 MCMC 방법은 양호한 수렴 성질을 보이며, 기존 방법이 실패하는 50차원 문제에서 주변 우도를 성공적으로 추정한다.
• 고차원 다변량 t 분포 예제에서, Kummer의 콘플루언트 하이퍼기하함수를 분석적 기준으로 사용하여 주변 우도 추정이 정확하게 수행됨을 확인한다.
• 적응형 Wang–Landau 알고리즘이 이 프레임워크와 호환됨을 입증하였으며, 이는 우도 ordinate의 분포를 암묵적으로 학습하여 균일한 에너지 수준 탐색을 달성하기 때문이다.
• 이론적 분석을 통해 제안된 방법의 수렴성이 미약한 정규성 조건 하에 보장됨을 확인하였고, 스코어 함수 히우리스틱은 가중치 함수 $ w(u) $ 를 선택하는 데 원칙적인 방법을 제공한다.