[논문 리뷰] Taking Bigger Metropolis Steps by Dragging Fast Variables

Radford M. Neal|ArXiv.org|2005. 02. 06.

Markov Chains and Monte Carlo Methods참고 문헌 5인용 수 57

한 줄 요약

이 논문은 에너지 함수의 빠른 재계산을 활용해 중간 전이를 통해 빠른 변수를 '끌고 가면서' 느린 변수에 대해 더 큰, 더 효율적인 단계를 허용하는 메트로폴리스-해스팅스 샘플링 방법을 제안한다. 실증적으로, 그 분포를 직접 계산하기가 곤란한 경우조차도 이 방법은 느린 변수의 주변 분포로부터 직접 샘플링하는 것과 유사한 효율성을 달성한다.

ABSTRACT

I show how Markov chain sampling with the Metropolis-Hastings algorithm can be modified so as to take bigger steps when the distribution being sampled from has the characteristic that its density can be quickly recomputed for a new point if this point differs from a previous point only with respect to a subset of 'fast' variables. I show empirically that when using this method, the efficiency of sampling for the remaining 'slow' variables can approach what would be possible using Metropolis updates based on the marginal distribution for the slow variables.

연구 동기 및 목표

• 연도 분포의 전체 에너지 계산이 비용이 많이 들 때 느린 변수에 대한 메트로폴리스 업데이트의 비효율성 문제를 해결하기 위해.
• 빠른 변수의 재계산을 활용하여 MCMC 샘플링에서 느린 변수에 대해 더 큰, 더 효과적인 단계를 가능하게 하는 방법을 개발하기 위해.
• 그 주변 분포의 직접 계산이 필요 없이도 느린 변수의 주변 분포로부터 직접 샘플링하는 것과 유사한 효율성을 근사하기 위해.
• 실증적으로 빠른 변수를 중간 전이를 통해 끌고 가는 것이 MCMC 체인의 자동상관도를 크게 감소시키고 혼합성을 향상시킬 수 있음을 보여주기 위해.

제안 방법

• 제안 분포 $S(x^*|x)$ 를 사용하여 느린 변수 $x$ 에 대해 새로운 상태 $x^*$ 를 제안한다.
• 빠른 변수 $y$ 에 대해 $\rho(y;x,x^*) \propto \exp\left(-\frac{1}{2}(E(x,y) + E(x^*,y))\right)$ 의 형태를 가진 중간 분포를 정의한다.
• 분포 $\rho$ 를 보존하고 $x$ 와 $x^*$ 에 대해 세부 균형 조건과 대칭성을 만족하는 전이 커널 $T(y'|y;x,x^*)$ 를 사용한다.
• 에너지 함수 $E(x,y)$ 의 빠른 재계산만을 사용하여, $T(y^*|y;x,x^*)$ 에 따라 $y^*$ 를 생성하기 위해 하나 이상의 중간 전이를 수행한다.
• 수락 확률 $a(x,y,x^*,y^*) = \min\left[1, \frac{S(x|x^*)\pi(x^*,y^*)\rho(y;x,x^*)}{S(x^*|x)\pi(x,y)\rho(y^*;x,x^*)}\right]$ 을 사용하여 제안된 상태 $(x^*,y^*)$ 를 수락한다.
• 많은 수의 중간 전이를 거치는 한계에서, 이 방법은 점차적으로 느린 변수의 주변 분포로부터 샘플링하는 것과 동일한 효율성에 도달한다.

실험 결과

연구 질문

• RQ1 빠른 변수가 변화할 때 에너지 함수의 빠른 재계산을 활용하여 느린 변수에 대해 더 큰 단계를 취할 수 있는 메트로폴리스-해스팅스 알고리즘을 설계할 수 있는가?
• RQ2 빠른 변수를 중간 분포를 통해 끌고 가는 것이 느린 변수의 주변 분포로부터 직접 샘플링하는 것과 얼마나 유사한 효율성을 달성할 수 있는가?
• RQ3 중간 전이의 수가 느린 변수에 대한 MCMC 체인의 자동상관도와 혼합 효율성에 어떤 영향을 미치는가?
• RQ4 빠른-느린 변수 분리가 있는 고차원 설정에서, 표준 연합, 단일 변수, 또는 주변 메트로폴리스 업데이트와 비교할 때 이 방법은 어떻게 성능을 발휘하는가?

주요 결과

• 500회의 중간 전이를 통해 느린 변수 $x$ 의 자동상관도 시간은 약 9.3으로 감소하였으며, 주변 메트로폴리스 방법에서 관찰된 이상적인 값 7.4에 가까워졌다.
• 외부 $x$-업데이트의 기각률은 연합 메트로폴리스의 87% 에서 500회의 중간 전이를 통해 52% 로 감소하여 혼합성이 향상됨을 나타냈다.
• 이 방법은 주변 분포를 직접 계산할 수 없음에도 불구하고, 실제 $x$ 의 주변 분포로부터 샘플링하는 것과 유사한 거의 최적의 효율성을 달성하였다.
• 두 번째 빠른 변수 $z$ 를 추가하면 연합 메트로폴리스의 자동상관도 시간은 약 75에서 약 205로 증가하지만, 끌고 가는 방법의 경우 약 7.4에서 약 9.3로만 증가하여, 더 높은 빠른 변수 차원에 대해서도 강건함을 보였다.
• 비단조화적이거나 알려지지 않은 $x$ 와 $y$ 간의 관계가 있는 경우, 예를 들어 천체물리학적 파rameter 추론에서조차도 이 방법은 효과적으로 유지되었다.