[논문 리뷰] Optimal approximating Markov chains for Bayesian inference

James E. Johndrow, Jonathan C. Mattingly외 2명|arXiv (Cornell University)|2015. 08. 13.

Markov Chains and Monte Carlo Methods참고 문헌 23인용 수 13

한 줄 요약

이 논문은 베이지안 추론에서 근사 오차와 계산 비용을 균형 잡는 방식으로 최적의 근사 마르코프 체인을 위한 프레임워크를 제안한다. 균일 혼합 조건 하에서 불변 측도 간의 총 변동 거리에 대한 날카운 경계를 수립하고, 효율적인 MCMC 근사화를 안내하기 위해 계산 최적성의 개념을 도입하며, 로지스틱 회귀 및 가우시안 프로세스 모델에서 검증된다.

ABSTRACT

The Markov Chain Monte Carlo method is the dominant paradigm for posterior computation in Bayesian analysis. It is common to control computation time by making approximations to the Markov transition kernel. Comparatively little attention has been paid to computational optimality in these approximating Markov Chains, or when such approximations are justified relative to obtaining shorter paths from the exact kernel. We give simple, sharp bounds for uniform approximations of uniformly mixing Markov chains. We then suggest a notion of optimality that incorporates computation time and approximation error, and use our bounds to make generalizations about properties of good approximations in the uniformly mixing setting. The relevance of these properties is demonstrated in applications to a minibatching-based approximate MCMC algorithm for large $n$ logistic regression and low-rank approximations for Gaussian processes.

연구 동기 및 목표

• 근사 오차(ε)와 계산 시간 간의 트레이드오���을 체계적으로 분석할 수 있는 부족한 점을 보완하기 위해.
• 진짜 사후분포와 근사된 불변 측도 간의 총 변동 거리에 대한 단순하고 날카운 경계를 제공하기 위해.
• 통계적 정확도(근사 오차)와 계산 비용을 모두 포함하는 계산 최적성의 개념을 정의하기 위해.
• 실제 MCMC 알고리즘에 적용 가능한 양호한 근사의 성질을 균일 혼합 조건 하에서 일반화하기 위해.
• 실제 응용 사례인 로지스틱 회귀에서의 미니배치 및 가우시안 프로세스에서의 저랭크 근사화에 프레임워크를 검증하기 위해.

제안 방법

• 마르코프 체인이 그 불변 측도로 지수 수렴하도록 보장하기 위해 도블린 조건(균일 기하적 정규성)을 사용한다.
• 정확한 커널 P와 근사 커널 Pε 사이에 균일한 총 변동 오차 경계 ε를 도입하며, 기하적 정규성 유지 조건을 위해 ε < α/2 를 요구한다.
• 핵심 경계: ‖μ − με‖_TV ≤ ε/α 를 유도하여, 불변 측도에서의 근사 오차가 ε에 선형으로 비례하고 기하적 정규성 매개수 α에 반비례함을 보여준다.
• 근사 오차와 샘플링 비용 간의 트레이드오프를 균형 잡는 계산 최적성 기준을 도입한다.
• 이론적 경계를 활용해 대규모 n에 대한 로지스틱 회귀에서의 미니배치 기반 MCMC와 가우시안 프로세스에서의 저랭크 근사화를 분석한다.
• 편미분 이론과 커플링 추론을 활용해 세사로 평균과 경로 기반 추정량의 수렴 경계를 도출한다.

실험 결과

연구 질문

• RQ1 근사 MCMC에서 총 오차(통계적 오차 + 계산 비용)를 최소화하는 최적의 근사 오차 수준 ε는 무엇인가?
• RQ2 기하적 정규성 매개수 α는 커널 편향에 대한 사후 근사의 민감도에 어떻게 영향을 미치는가?
• RQ3 균일 혼합 조건 하에서 진짜와 근사 불변 측도 간의 총 변동 거리에 대해 날카운, 계산 가능한 경계를 유도할 수 있는가?
• RQ4 오차와 계산 비용의 병합 비용을 최소화하기 위해 최적의 근사 커널 Pε가 만족해야 할 성질은 무엇인가?
• RQ5 이론적 경계는 대용량 데이터 베이지안 모델, 예를 들어 로지스틱 회귀와 가우시안 프로세스에서 실질적인 성능 향상으로 어떻게 번역되는가?

주요 결과

• 진짜 사후분포 μ와 근사 불변 측도 με 간의 총 변동 거리는 ‖μ − με‖_TV ≤ ε/α 로 경계되며, 여기서 α는 도블린 계수이다.
• ε < α/2 일 경우, 근사 체인 Pε는 엄밀히 양의 기하적 정규성 매개수 αε > α − 2ε 를 유지하는 균일 기하적 정규성을 유지한다.
• 이론적 프레임워크를 통해 고정된 예산 하에서 근사 오차와 계산 비용을 최적의 균형으로 선택할 수 있다.
• 이 경계들은 로지스틱 회귀에서의 미니배치와 가우시안 프로세스에서의 저랭크 근사화가 통제된 오차 하에 상당한 속도 향상을 달성할 수 있음을 보여준다.
• α가 크다면 중간 정도의 ε 값이라도 근사 오차가 작게 유지됨을 보여주며, 이는 고차원 설정에서 적극적인 근사를 사용하는 데 유리함을 시사한다.
• 이 프레임워크는 오차와 계산 효율성의 트레이드오프를 기반으로 다양한 근사 MCMC 알고리즘을 평가하고 비교할 수 있는 체계적인 방법을 제공한다.