[논문 리뷰] On the random walk metropolis algorithm for Gaussian random field priors and the gradient flow

Natesh S. Pillai, Andrew M. Stuart외 1명|arXiv (Cornell University)|2011. 08. 06.

Markov Chains and Monte Carlo Methods참고 문헌 27인용 수 3

한 줄 요약

이 논문은 힐버트 공간에서 가우시안 제안을 사용하는 메트로폴리스-하스팅스 랜덤 워크가 확산 스케일링 하에 노이즈가 있는 기울기 강하 SDE로 수렴함을 확립한다. 결과로 얻어진 SDE는 목표 측도에 대해 가역적이며, 기저 가우시안 구조에 맞는 공간적 상관관계를 갖는 브라운 운동에 의해 구동된다.

ABSTRACT

Consider a probability measure on a Hilbert space defined via its density with respect to a Gaussian. The purpose of this paper is to demonstrate that an appropriately defined Markov chain, which is reversible with respect to the measure in question, exhibits a diffusion limit to a noisy gradient flow, also reversible with respect to the same measure. The Markov chain is defined by applying a Metropolis-Hastings accept-reject mechanism to an Ornstein-Uhlenbeck proposal which is itself reversible with respect to the underlying Gaussian measure. The resulting noisy gradient flow is a stochastic partial differential equation driven by a Wiener process with spatial correlation given by the underlying Gaussian structure.

연구 동기 및 목표

• 힐버트 공간에서 오르누슈타인-울렌벡 제안을 사용하는 메트로폴리스-하스팅스 알고리즘의 확산 극한을 분석하기.
• 극한 과정이 노이즈가 있는 기울기 강하인 가역적 확률 편미분방정식(SDE)임을 확립하기.
• 극한 SDE의 노이즈 공간 상관관계가 기저의 가우시안 측도로부터 유추됨을 특성화하기.
• 이산적 메트로폴리스 체인과 무한차원 베이지안 추론에서 연속적 기울기 강하 동역학 간의 관계를 체계화하기.

제안 방법

• 오르누슈타인-울렌벡 제안을 사용하여 힐버트 공간에서 가역적 마코프 체인을 정의하기.
• 제안 메커니즘이 기본 가우시안 측도에 대해 가역적이도록 보장하기.
• 마코프 체인에 확산 스케일링을 적용하여 그 약한 극한을 도출하기.
• 극한 과정이 기저 가우시안 사전의 공분산 구조를 갖는 브라운 운동에 의해 구동되는 확률 편미분방정식임을 보여주기.
• 극한 SDE가 가우시안에 대한 밀도로 정의된 목표 측도에 대해 가역적임을 증명하기.
• 함수해석학적 도구를 사용하여 유한차원 분포의 수렴을 확립하기.

실험 결과

연구 질문

• RQ1 가우시안 제안을 사용하는 메트로폴리스-하스팅스 랜덤 워크가 확산 스케일링 하에 연속 시간 확률 과정으로 수렴하는가?
• RQ2 극한 확률 과정의 성격은 무엇이며, 목표 측도에 대해 가역적인가?
• RQ3 극한 SDE의 노이즈 공간 상관관계는 기저의 가우시안 구조와 어떻게 관련이 있는가?
• RQ4 결과로 얻어진 극한 SDE는 목표 측도에 대한 노이즈가 있는 기울기 강하로 해석될 수 있는가?

주요 결과

• 오르누슈타인-울렌벡 제안을 사용하는 메트로폴리스-하스팅스 체인은 확산 스케일링 하에 약한 수렴을 통해 확률 편미분방정식으로 수렴한다.
• 극한 과정은 가우시안 사전에 대한 밀도로 정의된 목표 측도에 대해 가역적인 SDE이다.
• 극한 SDE의 노이즈는 기저 가우시안 측도의 공분산 구조에 따라 공간적으로 상관되어 있다.
• 극한 SDE는 노이즈가 있는 기울기 강하에 해당하며, 이는 이산적 메트로폴리스 동역학의 연속 시간 해석을 제공한다.