[논문 리뷰] Complexity Results for MCMC derived from Quantitative Bounds

Jun Yang, Jeffrey S. Rosenthal|arXiv (Cornell University)|2017. 08. 02.

Markov Chains and Monte Carlo Methods참고 문헌 55인용 수 21

한 줄 요약

이 논문은 고차원 MCMC 알고리즘에 대한 날카도 높은 수렴 바OUNDS를 도출하기 위해 '큰 집합'과 '적합된 드리프트 함수의 가족'을 사용하는 수정된 드리프트-미노라이제이션 방법을 제안한다. 특정 조건 하에서, 특히 제임스-스타인 추정기와 관련된 몇몇 깁스 샘플러의 경우, 차원이 증가하더라도 혼합 시간이 일정하게 유지됨을 보여주며, 기존의 차원 증가에 따라 악화되는 바OUNDS에 비해 상당한 개선을 이룬다.

ABSTRACT

This paper considers how to obtain MCMC quantitative convergence bounds which can be translated into tight complexity bounds in high-dimensional {settings}. We propose a modified drift-and-minorization approach, which establishes generalized drift conditions defined in subsets of the state space. The subsets are called the "large sets", and are chosen to rule out some "bad" states which have poor drift property when the dimension of the state space gets large. Using the "large sets" together with a "fitted family of drift functions", a quantitative bound can be obtained which can be translated into a tight complexity bound. As a demonstration, we analyze several Gibbs samplers and obtain complexity upper bounds for the mixing time. In particular, for one example of Gibbs sampler which is related to the James--Stein estimator, we show that the number of iterations required for the Gibbs sampler to converge is constant under certain conditions on the observed data and the initial state. It is our hope that this modified drift-and-minorization approach can be employed in many other specific examples to obtain complexity bounds for high-dimensional Markov chains.

연구 동기 및 목표

• 고차원 MCMC에서 통계적 수렴 바OUNDS와 컴퓨터 과학 스타일의 복잡도 결과 사이의 격차를 메우기 위해.
• 기존의 드리프트-미노라이제이션 방법이 차원 증가에 따라 바OUNDS가 악화되는 한계를 극복하기 위해.
• 고차원 마코프 체인에 대해 날카롭고 차원에 영향을 받지 않는 복잡도 바OUNDS를 도출할 수 있는 방법을 개발하기 위해.
• 특히 복잡한 계층적 구조를 가진 실제 깁스 샘플러에 대해 이 방법의 효과성을 입증하기 위해.
• MCMC 혼합 시간이 차원 증가에도 불구하고 일정하게 유지될 수 있는 조건을 설정하기 위해.

제안 방법

• 나쁜 상태(고차원에서 드리프트 성질이 열악한 상태)를 배제하기 위해 철저히 선택된 상태 공간의 부분집합인 '큰 집합'을 도입한다.
• 전체 상태 공간이 아닌 이러한 큰 집합 위에서 정의된 일반화된 드리프트 조건을 제안한다.
• 상태 공간의 다양한 영역에서 드리프트 행동을 적응적으로 모델링하기 위해 '적합된 드리프트 함수의 가족'을 활용한다.
• 수정된 드리프트 조건과 미노라이제이션 조건을 조합하여 정량적 총 변동 거리 수렴 바OUNDS를 수립한다.
• 수득한 바OUNDS를 고차원 환경에서 혼합 시간에 대한 날카로운 복잡도 바OUNDS로 변환한다.
• 특정 깁스 샘플러(예: 제임스-스타인 추정기와 관련된 하나)에 이 프레임워크를 적용하여 명시적인 수렴 결과를 도출한다.

실험 결과

연구 질문

• RQ1 표준 드리프트-미노라이제이션 방법을 수정하여 고차원 MCMC 환경에서 날카로운 복잡도 바OUNDS를 도출할 수 있는가?
• RQ2 기존의 드리프트-미노라이제이션 바OUNDS가 왜 차원 증가에 따라 악화되는가? 이를 피할 수 있는 방법은 무엇인가?
• RQ3 어떤 조건 하에서 깁스 샘플러의 혼합 시간이 차원 증가에도 불구하고 일정하게 유지될 수 있는가?
• RQ4 제시된 방법을 제시된 예제 외의 다른 고차원 MCMC 알고리즘에 체계적으로 적용할 수 있는가?
• RQ5 '큰 집합'과 적합된 드리프트 함수의 사용이 전역 드리프트 조건에 비해 수렴 속도 추정을 얼마나 향상시키는가?

주요 결과

• 제임스-스타인 추정기와 관련된 깁스 샘플러의 경우, 데이터와 초기 상태에 대한 특정 조건 하에서 혼합 시간이 차원과 무관하게 일정한 상한선을 가진다.
• 큰 집합을 통해 열악한 거동을 보이는 상태를 배제함으로써 수정된 드리프트-미노라이제이션 접근법이 고차원에서 바OUNDS의 열악한 성질을 효과적으로 피할 수 있었다.
• 적합된 드리프트 함수의 가족은 더 정확하고 국소적인 드리프트 추정을 가능하게 하여 더 날카로운 수렴 바OUNDS를 이끌어냈다.
• 방법론은 드리프트-미노라이제이션 프레임워크가 신뢰할 수 있는 비점근적이고 차원에 영향을 받지 않는 복잡도 바OUNDS를 도출할 수 있도록 철저히 적용될 수 있음을 입증했다.
• 이 방법은 일반화 가능하며 다른 MCMC 알고리즘에 적용하여 고차원 환경에서 개선된 복잡도 결과를 도출할 수 있다.
• 이론적 분석은 제임스-스타인 모델의 분산 성분에 대한 거부 샘플러의 수용 확률이 표본 크기 증가에 따라 지수적으로 감소함을 확인하며, 효율적인 MCMC 대안의 필요성을 강조한다.