[논문 리뷰] Asymptotically Optimal Exact Minibatch Metropolis-Hastings

Ruqi Zhang, A. Feder Cooper외 1명|arXiv (Cornell University)|2020. 06. 20.

Markov Chains and Monte Carlo Methods참고 문헌 27인용 수 4

한 줄 요약

이 논문은 진정한 사후분포를 유지하면서 배치 크기와 수렴 속도 사이의 조정 가능한 트레이드오프를 가능하게 하는 점근적으로 최적의 정확한 미니배치 메트로폴리스-하스팅스 알고리즘인 TunaMH를 제안한다. 이는 정확한 미니배치 MH 방법에 대해 배치 크기의 최초의 하한을 증명하고, TunaMH가 기대 배치 크기를 최소화하면서도 수렴 속도를 유지하는 데 점근적으로 최적임을 보여준다.

ABSTRACT

Metropolis-Hastings (MH) is a commonly-used MCMC algorithm, but it can be intractable on large datasets due to requiring computations over the whole dataset. In this paper, we study minibatch MH methods, which instead use subsamples to enable scaling. We observe that most existing minibatch MH methods are inexact (i.e. they may change the target distribution), and show that this inexactness can cause arbitrarily large errors in inference. We propose a new exact minibatch MH method, TunaMH, which exposes a tunable trade-off between its batch size and its theoretically guaranteed convergence rate. We prove a lower bound on the batch size that any minibatch MH method must use to retain exactness while guaranteeing fast convergence-the first such bound for minibatch MH-and show TunaMH is asymptotically optimal in terms of the batch size. Empirically, we show TunaMH outperforms other exact minibatch MH methods on robust linear regression, truncated Gaussian mixtures, and logistic regression.

연구 동기 및 목표

• 기존의 미니배치 MH 방법에서의 부정확성 문제를 해결하기 위해, 이는 임의로 큰 추론 오차를 초래할 수 있다.
• 강한 가정에 의존하지 않거나 효율성을 희생시키지 않고도 진정한 사후분포를 유지하는 정확한 미니배치 MH 방법을 개발하기 위해.
• 기존 연구가 수행하지 못한, 정확한 미니배치 MH에서 배치 크기와 수렴 속도 사이의 이론적 트레이드오프를 체계적으로 기술하기 위해.
• 모든 정확한 미니배치 MH 방법이 주어진 수렴 속도를 유지하기 위해 필요한 기대 배치 크기의 이론적 하한을 증명하기 위해.
• TunaMH가 배치 크기와 수렴 속도를 균형 잡는 데 점근적으로 최적임을 보여주기 위해.

제안 방법

• TunaMH는 포isson 분포를 이용한 샘플링 메커니즘을 사용하여 미니배치를 확률적으로 선택함으로써 정확성을 유지하면서도 조정 가능한 초모수 χ를 통해 기대 배치 크기를 제어할 수 있다.
• 알고리즘은 로그타겟 밀도 차이의 불편 추정량을 사용하여 전체 데이터 메트로폴리스-하스팅스 비율과 정확히 일치하는 수락 확률을 구성한다.
• 서브샘플링 하에서 수락 비율의 타당성을 보장하기 위해 잠재 함수 U_i(θ)의 국소 리프시츠 경계를 활용한다.
• 전체 데이터 MH와 미니배치 MH 체인 간의 새로운 커플링 메커니즘을 도입하여 상세 균형과 정확한 정적분포를 유지한다.
• 스펙트럼 갭 기반의 수렴 속도 보장을 유도하여, TunaMH의 수렴 속도가 표준 MH와 일정한 요인 내에 있음을 보여준다.
• 알고리즘은 전역 경계나 버진-마이어스 근사가 필요 없는 미약한 국소 정규성 조건 하에서도 적용 가능하도록 설계되었다.

실험 결과

연구 질문

• RQ1 부정확한 미니배치 MH 방법은 임의로 부정확해질 수 있으며, 이는 실용적 추론에 어떤 영향을 미치는가?
• RQ2 정확성과 효율성의 희생 없이 정확한 미니배치 MH 방법을 설계할 수 있는가?
• RQ3 주어진 수렴 속도를 유지하기 위해 필요한 기대 배치 크기의 이론적 최소값은 무엇인가?
• RQ4 배치 크기와 수렴 속도를 균형 잡는 데 점근적으로 최적일 수 있는 미니배치 MH 알고리즘이 존재하는가?
• RQ5 제안된 방법은 다양한 모델에서 최신의 정확한 미니배치 MH 방법들과 비교해 실제로 어떻게 성능을 발휘하는가?

주요 결과

• 논문은 어떤 부정확한 미니배치 MH 방법이라도 정적분포가 진짜 사후분포로부터 임의로 멀리 떨어질 수 있음을 보여주며, 이는 정확한 추론에 있어 신뢰할 수 없음을 시사한다.
• TunaMH는 표준 전체 데이터 메트로폴리스-하스팅스와 동일한 수준의 수렴 속도(스펙트럼 갭)를 달성하여 강력한 샘플링 효율성을 보장한다.
• 모든 정확한 미니배치 MH 방법이 주어진 수렴 속도를 유지하기 위해 필요한 기대 배치 크기의 하한을 증명하여 최적성의 이론적 기반을 마련한다.
• TunaMH는 점근적으로 최적이다: 동일한 수렴 속도 보장을 갖는 모든 정확한 미니배치 MH 방법들 중에서 기대 배치 크기가 가장 작다.
• 실증적으로 TunaMH는 강건한 선형 회귀, 잘라낸 가우시안 혼합모형, 로지스틱 회귀에서 다른 정확한 미니배치 MH 방법들을 능가하며, 시간 제약 조건 하에서도 더 정확한 밀도 추정을 제공한다.
• 2차원 문제에서 1초 런타임 비교에서 TunaMH는 진짜 사후분포에 가장 가까운 밀도 추정을 생성했고, 다른 모든 방법들은 정확하게 수렴하지 못했다.