[논문 리뷰] Error bounds for Approximations of Markov chains used in Bayesian Sampling

James E. Johndrow, Jonathan C. Mattingly|arXiv (Cornell University)|2017. 11. 15.

Markov Chains and Monte Carlo Methods참고 문헌 20인용 수 12

한 줄 요약

이 논문은 중앙극한법칙을 통한 베이지안 추론에서 마르코프 체인의 근사에 대한 오차 한계를 도출한다. 이는 가중 총변동 및 워샤프트 거리 측도를 활용하고 리아푸노프 함수를 통해 엄격한 수축 성질을 보장한다. 원래 핵심이 가중 측도에서 엄격한 수축성을 가지는 일반적이고 검증 가능한 조건을 제공함으로써, 시간 평균과 불변 측도에서의 근사 오차에 대한 날카러운 한계를 도출한다. 이는 MCMC 방법에서 가우시안 근사 및 마이너스배치 적용에 응용된다.

ABSTRACT

We give a number of results on approximations of Markov kernels in total variation and Wasserstein norms weighted by a Lyapunov function. The results are applied to examples from Bayesian statistics where approximations to transition kernels are made to reduce computational costs.

연구 동기 및 목표

• 고차원 베이지안 추론에서 계산 효율성이 높은 마르코프 체인 근사를 위한 수요 증가에 대응한다.
• MCMC 알고리즘에서 단순화된 전이 핵심으로 인한 근사 오차를 제어한다.
• 시간 평균과 불변 측도에서 오차를 정량화하기 위해 가중 측도(총변동 및 워샤프트 거리)를 사용한 통합 프레임워크를 개발한다.
• 원래 핵심이 가중 측도에서 엄격한 수축성을 가지는 검증 가능한 조건을 확립함으로써 오차 한계를 가능하게 한다.
• 이 프레임워크를 실용적인 베이지안 문제에 적용한다. 예를 들어, 가우시안 근사를 사용한 지브스 샘플링 및 마이너스배치 메트로폴리스-해스팅스 방법

제안 방법

• 리아푸노프 함수를 사용한 가중 총변동 및 1-워샤프트 거리 노름을 활용하여 수렴 및 근사 오차를 측정한다.
• 가중 반세미거리에서의 수축 원리를 적용하여 정확한 체인과 근사 체인의 불변 측도 및 시간 평균 간의 차이를 한정한다.
• 포아송 방정식 및 잠재 함수 기법을 활용하여 시간 평균의 분산 한계를 유도한다.
• 특히 덜 표준적인 워샤프트 유사 반세미거리에서 원래 핵심이 가중 측도에서 엄격한 수축성을 가지는 조건을 검증한다.
• 헤어러(2011)의 영향을 받아 가중 Supremum 노름에서의 변동 이론을 활용하여 스펙트럼 갭 및 수렴 속도에 대한 한계를 도출한다.
• 연속 시간 추론에서 유도된 워샤프트 유사 반세미거리에 대한 유한 시간 수축 결과를 이론적으로 확장하여 이산 시간 마르코프 체인에 적용한다.

실험 결과

연구 질문

• RQ1 마르코프 핵심이 가중 총변동 또는 워샤프트 노름에서 엄격한 수축성을 가지는 조건은 무엇인가?
• RQ2 MCMC에서 단순화된 전이 핵심을 사용할 경우 시간 평균과 불변 측도에서의 근사 오차는 어떻게 한정할 수 있는가?
• RQ3 원래 핵심이 가중 워샤프트 유사 반세미거리에서 엄격한 수축성을 가지는 충분한 조건는 무엇인가?
• RQ4 오차 한계는 근사 오차 ε 및 선택된 측도에서의 스펙트럼 갭에 따라 어떻게 척도화되는가?
• RQ5 이 프레임워크는 마이너스배치 메트로폴리스-해스팅스 및 저랭크 공분산 근사와 같은 실용적 문제에 적용 가능한가?

주요 결과

• 논문은 원래 핵심이 가중 측도(예: 총변동 또는 워샤프트 거리)에서 엄격한 수축성을 가지면, 시간 평균에서의 근사 오차가 점근적으로 ε에 비례하는 항으로 제한됨을 확립한다. 여기서 ε는 점별 근사 오차이다.
• |φ| < √V 인 함수 φ에 대해, 근사 체인에서 시간 평균의 분산은 O(ε) + O(1/n) + O(1/n²) 형태의 한계를 만족하며, 이는 스펙트럼 갭과 리아푸노프 함수에 따라 명시적인 상수에 의존한다.
• 근사 오차 ε이 작을 경우 시간 평균 오차의 한계는 O(ε)로 감소하며, 이 상수들은 V^{1/2}에 대한 가중 노름에서의 스펙트럼 갭 1−ᾱ(1/2)에 따라 달라진다.
• 이 방법은 총변동 거리에서는 가까워지지 않지만 1-워샤프트 거리 노름에서는 가까운 특이한 근사(예: 가우시안 프로세스 모델에서의 저랭크 공분산 근사)에 적용 가능하다.
• 저자들은 가우시안 근사 및 마이너스배치 메트로폴리스-해스팅스를 포함한 주요 예시에서 가중 워샤프트 유사 반세미거리에서의 엄격한 수축 조건을 검증한다.
• 잠재 함수 U가 이중 노름에서 잘 정의되고 유계이면, 이 프레임워크는 임의의 하부 연속적인 거리 측도 d에 대해 일반화 가능하며, 이 경우 핵심이 엄격한 수축성을 가지는 조건을 만족한다.