[论文解读] Divide-and-Conquer Bayesian Inference in Hidden Markov Models

Chunlei Wang, Sanvesh Srivastava|arXiv (Cornell University)|May 30, 2021

Markov Chains and Monte Carlo Methods参考文献 47被引用 4

一句话总结

本文提出一种针对具有依赖数据的隐马尔可夫模型（HMMs）的分而治之贝叶斯推断方法，克服了现有方法假设观测值独立的局限性。通过使用分块预测滤波器修改似然函数并乘以K，该方法确保子集后验方差在渐近意义上与真实后验匹配，从而实现通过标准组合算法进行准确、可扩展的后验推断，并在1- Wasserstein 距离下具有理论保证。

ABSTRACT

Divide-and-conquer Bayesian methods consist of three steps: dividing the data into smaller computationally manageable subsets, running a sampling algorithm in parallel on all the subsets, and combining parameter draws from all the subsets. The combined parameter draws are used for efficient posterior inference in massive data settings. A major restriction of existing divide-and-conquer methods is that their first two steps assume that the observations are independent. We address this problem by developing a divide-and-conquer method for Bayesian inference in parametric hidden Markov models, where the state space is known and finite. Our main contributions are two-fold. First, after partitioning the data into smaller blocks of consecutive observations, we modify the likelihood for performing posterior computations on the subsets such that the posterior variances of the subset and true posterior distributions have the same asymptotic order. Second, if the number of subsets is chosen appropriately depending on the mixing properties of the hidden Markov chain, then we show that the subset posterior distributions defined using the modified likelihood are asymptotically normal as the subset sample size tends to infinity. The latter result also implies that we can use any existing combination algorithm in the third step. We show that the combined posterior distribution obtained using one such algorithm is close to the true posterior distribution in 1-Wasserstein distance under widely used regularity assumptions. Our numerical results show that the proposed method provides an accurate approximation of the true posterior distribution than its competitors in diverse simulation studies and a real data analysis.

研究动机与目标

• 为填补传统分而治之贝叶斯方法在假设独立数据下的空白，将这些方法扩展至具有依赖性的HMMs。
• 开发一种似然函数修改方法，以在子集中保持渐近方差结构，确保后验近似有效。
• 建立子集后验分布渐近正态的理论条件，从而可使用标准组合算法。
• 通过实证结果表明，所提出的分块滤波后验在模拟和真实HMM数据上，相较于现有分而治之方法，在准确性和效率方面表现更优。
• 为大规模HMM推断提供一种可扩展的替代方案，替代全数据MCMC和在线EM方法，避免数据增强的计算瓶颈以及随机方法的调参挑战。

提出的方法

• 将HMM数据序列划分为K个连续的块，每块大小为m = n/K，以实现并行计算。
• 在每个子集上定义修改后的条件似然函数pθ(Y[j] | Y[j−1])^K，其中指数K用于补偿缺失数据并保持渐近方差结构。
• 使用预测滤波器计算修改后的似然函数，确保当m和K增大时，其与真实条件似然函数保持一致。
• 在每个子集上使用修改后的后验π(θ | Y[j], Y[j−1]) ∝ π(θ) × [pθ(Y[j] | Y[j−1])]^K 进行并行MCMC采样。
• 使用标准组合算法（如Wasserstein或矩方法）合并所有子集的后验样本。
• 理论依据依赖于隐马尔可夫链的混合性质，以确定最优子集数量K。

实验结果

研究问题

• RQ1 分而治之贝叶斯推断能否扩展至具有依赖观测的HMMs，而传统方法通常假设独立性？
• RQ2 应如何在每个子集上修改似然函数，以确保子集后验方差在渐近意义上与真实后验方差匹配？
• RQ3 在子集数量K和子集大小m满足何种条件下，子集后验分布渐近正态？
• RQ4 在1-Wasserstein距离下，组合后验分布与真实后验的接近程度如何？
• RQ5 所提出的分块滤波后验在具有不同依赖结构的HMMs上，是否在准确性和计算效率方面均优于现有分而治之方法和全似然方法？

主要发现

• 在标准正则条件下，分块滤波后验分布与真实后验之间的1-Wasserstein距离渐近可忽略，确保了理论有效性。
• 对于弱依赖HMMs（S=2,3），分块滤波后验在准确性上与哈密顿蒙特卡洛（HMC）相当，n=10^4和n=10^5时的中位准确率均达0.97–0.99。
• 对于强依赖HMMs（S=5,7），分块滤波后验的中位准确率保持在0.51–0.68之间，而WASP、DPMC和PIE等竞争方法的准确率降至接近0.00，表明对依赖结构具有鲁棒性。
• 分块滤波后验在效率上优于数据增强方法（2.27–0.70小时 vs. 4.53小时），且在n=10^5数据点下，当K=n^{1/3}时，其速度也快于HMC（0.70小时）。
• 随着K增大，由于子集尺寸减小，准确性下降，但分块滤波后验在所有K值和HMM配置下仍优于竞争方法。
• 该方法在各种模拟设置和真实数据中均表现稳健，后验准确性的最大蒙特卡洛误差为0.02，真实数据分析中的最大误差为0.01。