[논문 리뷰] On Markov chain Monte Carlo methods for tall data

Rémi Bardenet, Randal Douc외 1명|arXiv (Cornell University)|2015. 05. 11.

Markov Chains and Monte Carlo Methods참고 문헌 48인용 수 133

한 줄 요약

이 논문은 높은 데이터셋에 대해 표준 O(n) 복잡도보다 낮은 데이터 포인트 당 가능도 평가 횟수를 확보하는 새로운 서브샘플링 기반 마르코프 체인 몬테카를로(MCMC) 방법을 제안한다. 이는 로그가능도에 대한 테일러 전개 기반의 대체 모델을 사용하여 유리한 경우 O(1) 평가로 감소시킨다. 이 방법은 진짜 사후분포에 증명 가능하게 가까운 분포에서 표본을 추출하며, 베르슈타인-폰 마이어스 근사가 성립할 경우 상당한 계산적 이점을 제공한다.

ABSTRACT

Markov chain Monte Carlo methods are often deemed too computationally intensive to be of any practical use for big data applications, and in particular for inference on datasets containing a large number $n$ of individual data points, also known as tall datasets. In scenarios where data are assumed independent, various approaches to scale up the Metropolis-Hastings algorithm in a Bayesian inference context have been recently proposed in machine learning and computational statistics. These approaches can be grouped into two categories: divide-and-conquer approaches and, subsampling-based algorithms. The aims of this article are as follows. First, we present a comprehensive review of the existing literature, commenting on the underlying assumptions and theoretical guarantees of each method. Second, by leveraging our understanding of these limitations, we propose an original subsampling-based approach which samples from a distribution provably close to the posterior distribution of interest, yet can require less than $O(n)$ data point likelihood evaluations at each iteration for certain statistical models in favourable scenarios. Finally, we have only been able so far to propose subsampling-based methods which display good performance in scenarios where the Bernstein-von Mises approximation of the target posterior distribution is excellent. It remains an open challenge to develop such methods in scenarios where the Bernstein-von Mises approximation is poor.

연구 동기 및 목표

• 크게 n이 큰 높은 데이터셋에서 표준 MCMC 방법의 계산 비용이 지나치게 높아져 실행이 불가능한 문제를 해결하기 위해, 각 반복에서 전체 데이터 가능도 평가가 비용이 많이 드는 상황을 다루는 것.
• 강력한 이론적 보장을 유지하면서도 각 반복에서 가능도 평가 횟수를 극적으로 줄이는 서브샘플링 기반 MCMC 접근법을 개발하는 것.
• 기존의 신뢰도 샘플러를 향상시키기 위해 로그가능도에 대한 대체 모델을 도입하여 유리한 상황에서 비선형 복잡도를 달성하는 것.
• 서브샘플링 기반 MCMC가 O(1) 가능도 평가 횟수를 각 반복에서 달성할 수 있는 조건, 특히 베르슈타인-폰 마이어스 근사가 정확할 경우를 규명하는 것.

제안 방법

• 보조 변수와 중요도 샘플링을 활용해 비편향된 로그가능도 비율 추정기를 구성한 신뢰도 샘플러를 도입한다.
• 로그가능도의 전체 데이터 로그가능도를 제어 가능한 오차로 근사하기 위해 테일러 전개 기반의 대체 모델을 사용한다.
• 정확도와 효율성의 균형을 위해 각 MCMC 반복에서 서브샘플링할 데이터 포인트 수를 신뢰구간 기반 정지 기준으로 결정한다.
• 수렴 비율이 비편향된 가능도 비율 추정기 기반으로 계산되는 가짜 마진 메트로폴리스-해스팅스 프레임워크를 적용하여 정확한 사후분포 타겟팅을 보장한다.
• 모드 주변에서 로그가능도의 국소 2차 근사(대체 모델) 사용을 정당화하기 위해 베르슈타인-폰 마이어스 근사를 활용한다.
• Rhee와 Glynn(2013)의 영감을 받아 증가하는 서브샘플의 시퀀스를 사용해 비편향된 가능도 비율 추정기의 재귀적 구성 방법을 적용한다.

실험 결과

연구 질문

• RQ1 서브샘플링 기반 MCMC 방법은 높은 데이터 환경에서 사후 정확도를 유지하면서도 각 반복에서 O(1) 가능도 평가 횟수를 달성할 수 있는가?
• RQ2 로그가능도의 대체 모델 기반 근사가 신뢰할 수 있는 MCMC 샘플링과 증명 가능한 보장을 제공하는 조건은 무엇인가?
• RQ3 비편향된 가능도 비율 추정기를 효율적으로 구성하여 비선형 데이터 액세스로 정확한 사후분포 샘플링을 가능하게 할 수 있는가?
• RQ4 베르슈타인-폰 마이어스 근사가 서브샘플링 MCMC 방법의 성능과 확장성에 어떤 영향을 미치는가?
• RQ5 신뢰도 샘플러 프레임워크는 사후 정확도를 희생시키지 않고 계산 비용을 줄일 수 있는가?

주요 결과

• 제안된 방법은 베르슈타인-폰 마이어스 근사가 뛰어날 경우, O(1) 가능도 평가 횟수를 각 반복에서 달성하여 표준 O(n) 장벽을 돌파한다.
• 테일러 전개 기반의 대체 모델 사용으로 오차 범위가 명확한 로그가능도 근사가 가능해져 신뢰할 수 있는 서브샘플링이 가능해진다.
• 개선된 신뢰도 샘플러는 특히 covtype 데이터셋에서 로지스틱 회귀 및 감마 회귀 실험에서 기준 방법 대비 상당한 계산적 이점을 보였다.
• covtype 데이터셋에 대한 실증 결과는, 각 반복에서의 데이터 액세스 횟수를 줄이면서도 양호한 혼합성과 수렴 성질을 유지함을 보여준다.
• 이 방법은 증명 가능하게 유효하다: 대체 모델의 품질에 따라 제어 가능한 오차로 진짜 사후분포에 가까운 분포에서 표본을 추출한다.
• 이 방법은 베르슈타인-폰 마이어스 근사가 정확한 설정에 한해 유효하므로, 보다 광범위한 적용 가능성에 있어 핵심적인 열린 과제를 드러낸다.