[논문 리뷰] Ergodicity of Approximate MCMC Chains with Applications to Large Data Sets

Natesh S. Pillai, Aaron Smith|arXiv (Cornell University)|2014. 05. 01.

Markov Chains and Monte Carlo Methods참고 문헌 40인용 수 36

한 줄 요약

이 논문은 전체 우도 평가가 계산적으로 비용이 많이 드는 대규모 데이터 환경에서 사용되는 근사 마르코프 체인 몬테카를로(MCMC) 알고리즘에 대해 정량적 에르고딕성 경계를 수립한다. 진정한 메트로폴리스-하스팅스 커널의 변형을 분석함으로써, 저자들은 근사 샘플러가 정확한 MCMC보다 더 낮은 몬테카를로 오차를 낼 수 있는 조건을 규명하는 편향-분산 트레이드오프 부등식을 도출한다. 이는 부분 표본 기반 근사에도 불구하고 성립한다.

ABSTRACT

In many modern applications, difficulty in evaluating the posterior density makes performing even a single MCMC step slow. This difficulty can be caused by intractable likelihood functions, but also appears for routine problems with large data sets. Many researchers have responded by running approximate versions of MCMC algorithms. In this note, we develop quantitative bounds for showing the ergodicity of these approximate samplers. We then use these bounds to study the bias-variance trade-off of approximate MCMC algorithms. We apply our results to simple versions of recently proposed algorithms, including a variant of the "austerity" framework of Korratikara et al.

연구 동기 및 목표

• 전체 우도 평가가 비용이 많이 드는 대규모 데이터 환경에서 MCMC 수렴 속도가 느려지는 문제를 다룬다.
• 부분 표본 추출 또는 우도 근사에 의존하는 근사 MCMC 샘플러에 대해 엄밀한 이론적 보장을 제공한다.
• 고정된 계산 예산 하에서 근사 MCMC 체인이 정확한 MCMC보다 더 낮은 몽테카를로 오차를 달성할 수 있는 조건을 설정한다.
• 특히 근사가 일관되게 좋지 않은 경우에도, 변형된 마르코프 체인의 수렴성 및 혼합 성질을 분석할 수 있는 프레임워크를 개발한다.
• 일부 근사 샘플러가 부분 데이터만을 사용함에도 불구하고 평균제곱오차 측면에서 정확한 MCMC를 초월할 수 있음을 입증한다.

제안 방법

• 근사 체인이 진정한 목표 분포에서 벗어나는 정도를 정량화하는 일반적인 편차 경계를 개발한다.
• 직접적인 편차 분석이 진정한 메트로폴리스-하스팅스 커널에 대해 실패할 경우, 수렴 경계를 향상시키기 위해 보간 체인을 도입한다.
• 이 경계를 근사 MCMC 프레임워크에 적용한다. 여기서 수용 비율은 데이터의 부분 표본을 사용하여 근사된다.
• 단계당 우도 평가 횟수로 계산 복잡도를 정의하고, 평균제곱오차를 통해 통계적 효율성과 연결한다.
• 부분 표본 로그우도 비율에 대한 농도 부등식과 신뢰구간을 사용하여 근사 수용 결정의 정지 기준을 규명한다.
• 근사 샘플러의 평균제곱오차를 정확한 메트로폴리스-하스팅스 커널의 평균제곱오차와 비교하는 편향-분산 트레이드오프 부등식을 제시한다.

실험 결과

연구 질문

• RQ1 부분 표본 우도를 사용하는 근사 MCMC 샘플러가 진정한 사후분포에 가까운 분포로 수렴하는 조건은 무엇인가?
• RQ2 동일한 계산 예산 하에서 근사 MCMC 알고리즘이 정확한 MCMC보다 더 낮은 몽테카를로 오차를 달성할 수 있는가?
• RQ3 비균일하거나 열악한 근사가 MCMC 체인의 에르고딕성과 혼합 성질에 미치는 영향은 어떠한가?
• RQ4 근사 MCMC에서 계산 비용(데이터 평가 횟수)과 통계 정확도(평균제곱오차) 사이의 이론적 트레이드오프는 무엇인가?
• RQ5 표준 편차 분석이 특정 근사 샘플러의 성능 향상을 포착하지 못하는 이유는 무엇이며, 이를 어떻게 보완할 수 있는가?

주요 결과

• 논문은 근사가 일관되게 좋지 않은 경우에도 근사 MCMC 체인이 목표 분포로 수렴하는 정도에 대한 정량적 경계를 수립한다.
• austerity MCMC 프레임워크에 대해 저자들은 편향-분산 트레이드오프 부등식을 도출하여, 특정 조건 하에서 근사 샘플러가 정확한 메트로폴리스-하스팅스 알고리즘보다 더 낮은 평균제곱오차를 달성할 수 있음을 보여준다.
• 보간 체인의 사용은 더 날카운 편차 경계를 가능하게 하여, 진정한 메트로폴리스-하스팅스 커널에 대한 직접 분석의 약점을 극복한다.
• 계산 예산이 제한된 경우, 부분 표본 기반 MCMC 알고리즘은 수용 결정 과정의 분산 감소로 인해 정확한 MCMC보다 통계적 효율성이 높을 수 있다.
• 고정된 단계당 우도 평가 횟수 조건 하에서도, 근사 오차가 신뢰구간을 통해 통제된다면 근사 샘플러가 정확한 샘플러보다 더 나은 몽테카를로 추정치를 제공할 수 있음을 결과가 보여준다.
• 프레임워크는 일부 '명백한' 근사 MCMC 성능 향상 요소들이 표준 편차 이론으로는 포착되지 않음을 규명하며, 이 접근법의 한계를 드러낸다.