[논문 리뷰] Divide-and-Conquer Bayesian Inference in Hidden Markov Models

Chunlei Wang, Sanvesh Srivastava|arXiv (Cornell University)|2021. 05. 30.

Markov Chains and Monte Carlo Methods참고 문헌 47인용 수 4

한 줄 요약

이 논문은 독립 관측을 가정하는 기존 방법의 한계를 극복하기 위해 종속된 데이터를 가진 은닉 마르코프 모델(HMMs)에 대한 분할 정복 베이지안 추론 방법을 제안한다. 블록 단위 예측 필터를 사용해 가능도를 수정하고 K로 스케일링함으로써, 하위집단의 사후 분산이 진짜 사후 분산과 渐진적으로 일치하도록 보장함으로써, 이론적 보장이 있는 1-워샤프스키 거리 기반으로 정확하고 확장 가능한 사후 추론이 가능해진다.

ABSTRACT

Divide-and-conquer Bayesian methods consist of three steps: dividing the data into smaller computationally manageable subsets, running a sampling algorithm in parallel on all the subsets, and combining parameter draws from all the subsets. The combined parameter draws are used for efficient posterior inference in massive data settings. A major restriction of existing divide-and-conquer methods is that their first two steps assume that the observations are independent. We address this problem by developing a divide-and-conquer method for Bayesian inference in parametric hidden Markov models, where the state space is known and finite. Our main contributions are two-fold. First, after partitioning the data into smaller blocks of consecutive observations, we modify the likelihood for performing posterior computations on the subsets such that the posterior variances of the subset and true posterior distributions have the same asymptotic order. Second, if the number of subsets is chosen appropriately depending on the mixing properties of the hidden Markov chain, then we show that the subset posterior distributions defined using the modified likelihood are asymptotically normal as the subset sample size tends to infinity. The latter result also implies that we can use any existing combination algorithm in the third step. We show that the combined posterior distribution obtained using one such algorithm is close to the true posterior distribution in 1-Wasserstein distance under widely used regularity assumptions. Our numerical results show that the proposed method provides an accurate approximation of the true posterior distribution than its competitors in diverse simulation studies and a real data analysis.

연구 동기 및 목표

• 기존의 분할 정복 베이지안 방법이 독립 데이터를 가정하는 데서 비롯하는 격차를 메우기 위해, 이를 종속된 HMMs로 확장한다.
• 하위집단 간의 점근적 분산 구조를 유지하는 가능도 수정 방법을 개발하여 타당한 사후 근사가 보장되도록 한다.
• 하위집단 사후 분포가 점점 정규분포가 되는 조건을 설정하여 표준 조합 알고리즘의 사용을 가능하게 한다.
• 모의 실험을 통해 제안된 블록 필터링 사후 분포가 시뮬레이션 및 실제 HMM 데이터에서 기존의 분할 정복 방법보다 정확성과 효율성 면에서 뛰어나다는 것을 입증한다.
• 대규모 HMM 추론을 위한 전체 데이터 MCMC와 온라인 EM의 확장 가능한 대안을 제공하여 데이터 증강의 계산적 병목 현상과 스 tochastic 방법의 튜닝 과제를 피한다.

제안 방법

• HMM 데이터 시퀀스를 크기가 m = n/K인 K개의 연속된 블록으로 나누어 병렬 계산을 가능하게 한다.
• 각 하위집단에서 수정된 조건부 가능도 pθ(Y[j] | Y[j−1])^K를 정의한다. 여기서 지수 K는 누락된 데이터를 보상하고 점근적 분산 구조를 유지하는 데 기여한다.
• 예측 필터를 사용해 수정된 가능도를 계산함으로써, m과 K가 증가함에 따라 진짜 조건부 가능도와 일관성을 확보한다.
• 수정된 사후 분포 π(θ | Y[j], Y[j−1]) ∝ π(θ) × [pθ(Y[j] | Y[j−1])]^K를 사용해 각 하위집단에서 병렬 MCMC 샘플링을 수행한다.
• 모든 하위집단의 사후 샘플을 표준 조합 알고리즘(예: 워샤프스키 또는 모멘트 기반 방법)을 사용해 조합한다.
• 이론적 근거는 은닉 마르코프 체인의 혼합 성질에 기반하여 최적의 하위집단 수 K를 결정한다.

실험 결과

연구 질문

• RQ1 표준 방법이 독립성을 가정하는 바에 비해, 종속 관측이 있는 HMMs에 대해 분할 정복 베이지안 추론을 어떻게 확장할 수 있는가?
• RQ2 각 하위집단에서 가능도를 어떻게 수정해야 하위집단 사후 분산이 점점 진짜 사후 분산과 일치하는가?
• RQ3 하위집단 수 K와 하위집단 크기 m에 대해 어떤 조건이 하위집단 사후 분포가 점점 정규분포가 되게 하는가?
• RQ4 1-워샤프스키 거리 기준으로 조합된 사후 분포는 진짜 사후 분포와 얼마나 가까운가?
• RQ5 제안된 블록 필터링 사후 분포는 다양한 종속성 구조를 가진 HMMs에서 기존의 분할 정복 및 전체 가능도 방법보다 정확성과 계산 효율성 면에서 뛰어나게 되는가?

주요 결과

• 표준 정규성 조건 하에서, 블록 필터링 사후 분포는 진짜 사후 분포와 1-워샤프스키 거리가 점점 무시할 수 없게 작아지며, 이는 이론적 타당성을 보장한다.
• 약한 종속성(HMMs, S=2,3)의 경우, 블록 필터링 사후 분포는 하이퍼볼릭 몬테카를로(HMC)와 정확도가 유사하며, n=10^4 및 n=10^5에서 중앙값 정확도가 0.97–0.99이다.
• 강한 종속성(HMMs, S=5,7)의 경우, 블록 필터링 사후 분포는 중앙값 정확도 0.51–0.68를 유지하지만, WASP, DPMC, PIE와 같은 경쟁 방법은 근처 0.00으로 급격히 떨어지며 종속성에 대한 강건성을 입증한다.
• 데이터 증강(2.27–0.70시간 대비 4.53시간)보다 효율적이며, n=10^5 데이터 포인트에서 K=n^{1/3}일 경우 HMC보다도 더 빠르게 동작한다(0.70시간).
• K가 증가함에 따라 하위집단 크기가 작아져 정확도는 감소하지만, 모든 K 값과 HMM 설정에서 경쟁 방법보다 블록 필터링 사후 분포가 열등하지 않다.
• 다양한 시뮬레이션 설정과 실제 데이터에서 강건성을 보이며, 사후 정확도의 최대 몽테카를로 오차는 0.02, 실제 데이터 분석의 최대 오차는 0.01이다.