[논문 리뷰] Optimal scalings for local Metropolis--Hastings chains on nonproduct targets in high dimensions

Alexandros Beskos, Gareth O. Roberts외 1명|UCL Discovery (University College London)|2009. 08. 06.

Markov Chains and Monte Carlo Methods인용 수 15

한 줄 요약

이 논문은 고차원에서 비곱형 타깃 분포에 대해 국소 메트로폴리스-해스팅스 알고리즘—랜덤 워크 메트로폴리스(RWM) 및 단순화된 랑주뱅 알고리즘(SLA)—의 최적 스케일링을 유도한다. 타깃 조건부 측도가 분산 감쇠 λᵢ = i⁻ᵏ를 갖는 곱형 측도로부터의 측도 변화로 정의될 경우, RWM의 경우 최적 단계 크기 스케일링은 σ²ₙ = O(n⁻²ᵏ⁻¹)이며, SLA의 경우 σ²ₙ = O(n⁻²ᵏ⁻¹ᐟ³)임을 보여주며, 이는 고차원 베이지안 추론 및 스토하스틱 PDE 문제에서 효율적인 탐색과 최적 수용률을 보장한다.

ABSTRACT

We investigate local MCMC algorithms, namely the random-walk Metropolis and the Langevin algorithms, and identify the optimal choice of the local step-size as a function of the dimension $n$ of the state space, asymptotically as $n o\infty$. We consider target distributions defined as a change of measure from a product law. Such structures arise, for instance, in inverse problems or Bayesian contexts when a product prior is combined with the likelihood. We state analytical results on the asymptotic behavior of the algorithms under general conditions on the change of measure. Our theory is motivated by applications on conditioned diffusion processes and inverse problems related to the 2D Navier--Stokes equation.

연구 동기 및 목표

• n → ∞ 일 때 고차원 상태 공간에서 국소 MCMC 알고리즘(RWM 및 SLA)의 제안 분산 σ²ₙ의 최적 스케일링을 결정하는 것.
• 기존의 i.i.d. 타깃 결과를 곱형 측도로부터의 측도 변화로 유도된 비곱형 타깃 분포로 확장하는 것—특히 베이지안 역문제 및 스토하스틱 PDE에서의 응용을 포함하여.
• 로그 밀도 φₙ에 대한 분석적 조건을 설정하여, MCMC 알고리즘의 점근적 행동이 참조 측도 분산의 감쇠률 κ에만 의존하고 φₙ의 구체적 구조에는 의존하지 않음을 보장하는 것.
• SLA 제안에서 진짜 πₙ 대신 참조 측도 ˜πₙ을 사용하는 것이 타당한지 입증하며, 이로 인해 점근적 효율성이 유지됨을 보여주는 것.
• 2D 나비에-스토크스 방정식에 대한 조건부 확산 및 역문제를 포함한 고차원 문제에서 효율적인 MCMC 샘플링을 위한 이론적 기반을 제공하는 것.

제안 방법

• 타깃 분포 πₙ을 참조 측도 ˜πₙ로부터의 측도 변화로 표현하며, dπₙ/d˜πₙ(x) = exp{−φₙ(x)}이며, φₙ이 일반적인 정규성 조건을 만족함을 가정한다.
• 랜덤 워크 메트로폴리스(RWM) 및 단순화된 랑주뱅 알고리즘(SLA)을 분석하며, 각각 제안식 y = x + σₙZ 및 y = x + σₙ²/2 ∇log ˜πₙ(x) + σₙZ를 사용한다.
• MCMC 효율성의 대체 척도로 평균 제곱 점프 거리를 사용하여, 수용 확률과 혼합 시간의 점근적 계산을 명시적으로 수행한다.
• 함수 해석적 도구—특히 소볼레프 포함과 카르누엔-로브 전개—를 적용하여 고차원 공간 내 경로를 따라 φₙ의 변동성을 통제한다.
• 제안에 따른 로그 밀도 비율 φₙ(y) − φₙ(x)의 점근적 분포를 분석함으로써 수용 확률과 제곱 점프 거리의 점근적 행동을 도출한다.
• 최적 스케일링이 참조 분산의 감쇠률 κ에 따라 결정되며, τ_RWM 및 τ_SLA는 제곱 점프 거리의 한계 분산으로 정의된다.

실험 결과

연구 질문

• RQ1 RWM 및 SLA의 경우 비곱형 타깃에서 차원 n에 따라 단계 크기 σₙ가 어떻게 스케일링되어야 하는가?
• RQ2 참조 측도 분산의 감쇠률 κ가 λᵢ = i⁻ᵏ일 때 MCMC 알고리즘의 최적 스케일링에 어떤 영향을 미치는가?
• RQ3 참조 측도의 기울기만을 사용하는 단순화된 랑주뱅 알고리즘(SLA)이 전체 MALA와 동일한 점근적 효율성을 달성할 수 있는가?
• RQ4 로그 밀도 φₙ에 어떤 조건이 성립할 경우 RWM 및 SLA의 점근적 행동이 φₙ의 특정 구조가 아닌 감쇠률 κ에만 의존하는가?
• RQ5 이론적 스케일링 결과가 조건부 확산 및 2D 나비에-스토크스 방정식의 역문제와 같은 구체적 문제에 어떻게 적용되는가?

주요 결과

• RWM의 경우 최적 단계 크기 스케일링은 σ²ₙ = O(n⁻²ᵏ⁻¹)이며, 이는 한계 수용 확률이 비퇴화된 상수(κ = 0일 때 약 0.234)로 수렴함을 보장한다.
• SLA의 경우 최적 단계 크기 스케일링은 σ²ₙ = O(n⁻²ᵏ⁻¹ᐟ³)이며, 동일한 조건 하에서 한계 수용 확률은 약 0.522로 수렴한다.
• 참조 측도 ˜πₙ의 기울기를 진짜 타깃 πₙ의 기울기 대신 사용함으로써 SLA의 점근적 효율성이 유지됨을 보여, 단순화된 제안의 사용을 정당화한다.
• RWM의 평균 제곱 점프 거리의 한계 행동은 τ_RWM = limₙ n⁻²ᵏ⁻¹ ∑ᵢ₌₁ⁿ λᵢ⁻²로 수렴하며, 이 값은 가정된 감쇠 λᵢ = i⁻ᵏ 하에서 유한하고 양수이다.
• 2D 나비에-스토크스 역문제에서 최적 스케일링은 κ = 1일 때 σ²ₙ = O(n⁻³)이며, 이는 참조 분산의 감쇠율 λᵢ ∝ i⁻¹에 해당한다.
• 대수적 감쇠 λᵢ,n = i⁻ᵏⁿ 이며 kⁿ → κ일 경우 결과는 강건하며, 한계 상수는 n⁻²ᵏ⁻¹ ∑ᵢ₌₁ⁿ λᵢ⁻²의 극한에 의존한다. 이는 i.i.d. 케이스(κ = 0)를 일반화한다.