[논문 리뷰] Optimal Proposal Design for Random Walk Type Metropolis Algorithms with Gaussian Random Field Priors

Natesh S. Pillai, Andrew M. Stuart외 1명|arXiv (Cornell University)|2011. 08. 06.

Advanced Mathematical Modeling in Engineering인용 수 5

한 줄 요약

이 논문은 힐버트 공간 위의 측도에서 샘플링하기 위해 절대 연속인 가우시안 사전분포에 대해, 오르nst-우렌벡 제안을 사용하는 가역 메트로폴리스-해스팅스 알고리즘을 제안한다. 유도된 마르코프 체인의 확산 극한을 분석함으로써, 가우시안 사전분포의 공분산과 일치하는 공간적 상관관계를 갖는 브라운 운동에 의해 구동되는 노이즈가 있는 기울기 강하 SDE로 수렴함을 보이며, 이는 방법의 점근적 가역성과 목표 측도 하에서의 안정성을 입증한다.

ABSTRACT

Consider a probability measure on a Hilbert space defined via its density with respect to a Gaussian. The purpose of this paper is to demonstrate that an appropriately defined Markov chain, which is reversible with respect to the measure in question, exhibits a diffusion limit to a noisy gradient flow, also reversible with respect to the same measure. The Markov chain is defined by applying a Metropolis-Hastings accept-reject mechanism to an Ornstein-Uhlenbeck proposal which is itself reversible with respect to the underlying Gaussian measure. The resulting noisy gradient flow is a stochastic partial differential equation driven by a Wiener process with spatial correlation given by the underlying Gaussian structure.

연구 동기 및 목표

• 절대 연속인 가우시안 사전분포에 대해 힐버트 공간 위의 측도에서 샘플링하기 위한 마르코프 체인 몬테카를로 방법을 개발하는 것.
• 마르코프 체인이 목표 측도에 대해 가역적이 되도록 보장하여 세부 균형을 유지하는 것.
• 체인이 확산 스케일링 하에서 수렴하는 확산 극한을 확립하여, 가우시안 사전분포의 공간적 상관관계를 반영하는 브라운 운동에 의해 구동되는 확률편미분방정식(노이즈가 있는 기울기 강하)으로 수렴함을 보이는 것.
• 목표 측도 하에서 알고리즘의 점근적 행동을 분석하여 장기적 안정성과 정확성을 확보하는 것.

제안 방법

• 기본 가우시안 측도에 대해 가역적인 오르nst-우렌벡 제안을 사용하는 메트로폴리스-해스팅스 알고리즘을 정의한다.
• OU 제안에 수락-기각 기법을 적용하여 힐버트 공간 위의 가역 마르코프 체인을 구성한다.
• 체인의 스케일링 극한을 확산 스케일링 하에서 분석하여, 확률편미분방정식으로의 수렴을 보인다.
• 한계 SDE를 노이즈가 공간적으로 가우시안 사전분포의 공분산 구조에 따라 상관관계를 갖는 노이즈가 있는 기울기 강하로 유도한다.
• 한계 SDE가 목표 측도에 대해 또한 가역적이며, 이로 인해 한계에서 세부 균형이 유지됨을 입증한다.
• 기능적 중심극한정리 기법을 사용하여 마르코프 체인이 확률편미분방정식으로 수렴함을 정당화한다.

실험 결과

연구 질문

• RQ1 제안된 OU 제안을 사용하는 메트로폴리스-해스팅스 알고리즘이 확산 극한에서 잘 정의된 확률편미분방정식으로 수렴하는가?
• RQ2 한계 SDE가 가우시안 사전분포에 대한 밀도에 의해 정의된 목표 측도에 대해 가역적인가?
• RQ3 한계 SDE의 노이즈의 공간적 상관관계는 기저 가우시안 측도의 공분산 구조와 어떻게 관련되는가?
• RQ4 확산 스케일링 하에서 마르코프 체인의 점근적 행동은 어떠한가? 그리고 한계에서 세부 균형을 유지하는가?
• RQ5 이 알고리즘은 무한차원 공간에서 기울기 기반 샘플링 방법의 타당한 근사로 정당화될 수 있는가?

주요 결과

• 메트로폴리스-해스팅스 알고리즘에 의한 마르코프 체인이 확산 스케일링 하에서 확률편미분방정식으로 확률적 분포 수렴을 보인다.
• 한계 SDE는 목표 측도에 대해 가역적인 노이즈가 있는 기울기 강하이다.
• 한계 SDE의 노이즈는 기저 가우시안 사전분포의 공분산 연산자에 따라 공간적으로 상관관계를 갖는다.
• 수렴 결과는 알고리즘이 무한차원 극한에서 세부 균형을 유지함을 보장한다.
• 이 방법은 가우시안 사전분포를 갖는 힐버트 공간에서 무작위 걷기 유형의 메트로폴리스 알고리즘을 사용하는 데에 엄밀한 정당성을 제공한다.
• 분석은 알고리즘이 고차원 및 무한차원 베이지안 추론에서의 사용을 뒷받침하는 점근적 안정성과 정확성을 확인한다.