[논문 리뷰] Speeding Up MCMC by Efficient Data Subsampling

Matias Quiroz, Robert Kohn외 2명|UTS ePRESS (University of Technology Sydney)|2014. 04. 16.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 제어 변수를 사용하여 소규모 무작위 데이터 부분집합에서 로그우도를 효율적으로 추정함으로써 빠르고 정확한 MCMC 샘플링을 가능하게 하는 확장 가능한 베이지안 추론 프레임워크인 Subsampling MCMC를 제안한다. 편향 보정된 우도 추정과 상관된 가짜우도 기반 기법을 결합함으로써, 오직 m = O(√n)개의 표본만으로도 근사적으로 정확한 사후분포 근사가 가능해지며, 계산 비용을 줄이면서도 높은 샘플링 효율성과 무시할 만한 오차를 유지한다.

ABSTRACT

We propose Subsampling MCMC, a Markov Chain Monte Carlo (MCMC) framework where the likelihood function for $n$ observations is estimated from a random subset of $m$ observations. We introduce a highly efficient unbiased estimator of the log-likelihood based on control variates, such that the computing cost is much smaller than that of the full log-likelihood in standard MCMC. The likelihood estimate is bias-corrected and used in two dependent pseudo-marginal algorithms to sample from a perturbed posterior, for which we derive the asymptotic error with respect to $n$ and $m$, respectively. We propose a practical estimator of the error and show that the error is negligible even for a very small $m$ in our applications. We demonstrate that Subsampling MCMC is substantially more efficient than standard MCMC in terms of sampling efficiency for a given computational budget, and that it outperforms other subsampling methods for MCMC proposed in the literature.

연구 동기 및 목표

• 전체 데이터 우도 평가가 비용이 많이 드는 대규모 베이지안 추론에서 MCMC의 계산적 한계를 해결한다.
• 모든 반복에서 데이터를 부분집합으로 추출함으로써 후행 정확도를 희생시키지 않고도 확장 가능한 MCMC 프레임워크를 개발한다.
• 제어 변수를 통해 가짜우도 MCMC에서 우도 추정기의 분산을 줄여 빠른 혼합과 높은 수락률을 달성한다.
• 작은 부분집합 크기에서도 부분집합화에 의해 유도된 변형된 사후분포가 진짜 사후분포와 가까워지도록 보장한다.
• 고정된 계산 예산 하에서 기존의 부분집합 MCMC 방법들과 비교해 성능이 뛰어나다는 것을 입증한다.

제안 방법

• 계산 비용을 줄이기 위해 m ≪ n인 m개의 관측치에서 이루어진 무작위 부분집합을 사용해 로그우도를 추정한다.
• 분산을 줄이기 위해 두 가지 유형의 제어 변수를 적용한다: 매개변수 확장형(최대우도기준)과 데이터 확장형(데이터 중심기준).
• 소규모 부분집합 기반 잔차 항과 제어 변수를 조합하여 로그우도의 불편추정기(무편향 추정기)를 구성한다.
• 진짜 전체 데이터 로그우도에 대해 추정된 로그우도가 근사적으로 편향이 없도록 편향 보정 단계를 실시한다.
• 블록 제안과 공유된 난수를 사용한 상관된 가짜우도 기반 기법을 구현하여 메트로폴리스-하스팅스 수락률을 향상시킨다.
• 이중 단계 전략을 활용한다: 처음에는 탐색을 위해 더 큰 m을 사용하고, MLE 추정이 양호해진 후에는 효율성을 높이기 위해 m을 줄인다.

실험 결과

연구 질문

• RQ1 작은 비율의 데이터만을 사용해도 계산 효율성을 유지하면서 근사적으로 정확한 사후분포 근사가 가능할 수 있는가?
• RQ2 제어 변수의 사용이 부분집합 MCMC에서 우도 추정기의 분산을 어떻게 줄이고, 혼합 및 수락률에 어떤 영향을 미치는가?
• RQ3 부분집합화에 의해 유도된 변형된 사후분포의 이론적 오차 한계는 n과 m에 따라 어떻게 척도화되는가?
• RQ4 특히 사후분포 집중 영역에서, 사후분포의 비율 오차는 우도 추정기의 오차와 어떻게 비교되는가?
• RQ5 고정된 계산 예산 하에서 제안된 방법이 기존의 부분집합 MCMC 접근법보다 샘플링 효율성과 정확성 측면에서 뛰어나다는가?

주요 결과

• 전체 데이터 MLE를 제어 변수로 사용할 경우, 변형된 사후분포와 진짜 사후분포 사이의 총 변동 거리(total variation distance)는 m = O(√n)일 때 O(n⁻²)이며, O(√n) 크기의 부분집합을 사용할 경우 O(n⁻¹/²)이다.
• 변형된 사후분포의 절대 비율 오차는 매우 작다: 예를 들어, Bankruptcy 데이터셋에서 평균 1.418 × 10⁻⁶, HIGGS에서 8.594 × 10⁻⁸, Covtype에서 5.136 × 10⁻⁸이다.
• 표준 MCMC에 비해 빠른 속도 향상을 달성했으며, 대규모 데이터셋에서 상대적 계산 시간(Relative Computational Time, RCT)이 수개의 지수 정도 감소했다.
• 사후분포 집중 영역에서 오차가 상당히 작아지며, 이는 메트로폴리스-하스팅스 수락률이 가장 중요한 영역에서 메서드가 가장 잘 작동한다는 것을 시사한다.
• 훈련 단계 이후 매개변수 확장형 제어 변수로 전환하면, 초기 큰 m 값을 m = 1,000으로 줄일 수 있으며, 정확도 손실 없이 효율성이 향상된다.
• 여러 실세계 데이터셋에서 검증된 결과, 이 방법은 계산 효율성과 사후정확성 측면에서 다른 부분집합 MCMC 접근법을 모두 능가한다.