[论文解读] A reversible infinite HMM using normalised random measures

Konstantina Palla, David A. Knowles+1 more|arXiv (Cornell University)|Mar 17, 2014

Bayesian Methods and Mixture Models参考文献 13被引用 5

一句话总结

本文提出了一种基于归一化随机测度（特别是伽马过程）的可逆马尔可夫链的非参数先验，用于构建可数无限、对称的转移矩阵，从而确保细致平衡。该方法在可逆无限隐马尔可夫模型中实现了高效的MCMC推断，在表观基因组和离子通道数据集上的表现优于非可逆及标准iHMM模型，通过引入物理可逆性约束提升了性能。

ABSTRACT

We present a nonparametric prior over reversible Markov chains. We use completely random measures, specifically gamma processes, to construct a countably infinite graph with weighted edges. By enforcing symmetry to make the edges undirected we define a prior over random walks on graphs that results in a reversible Markov chain. The resulting prior over infinite transition matrices is closely related to the hierarchical Dirichlet process but enforces reversibility. A reinforcement scheme has recently been proposed with similar properties, but the de Finetti measure is not well characterised. We take the alternative approach of explicitly constructing the mixing measure, which allows more straightforward and efficient inference at the cost of no longer having a closed form predictive distribution. We use our process to construct a reversible infinite HMM which we apply to two real datasets, one from epigenomics and one ion channel recording.

研究动机与目标

• 开发一种可逆马尔可夫链的非参数先验，以尊重物理和生物系统中的时间反演动力学。
• 构建一种对无限转移矩阵的先验，显式强制实现细致平衡，确保可逆性，而不依赖渐近或启发式增强方案。
• 通过MCMC实现高效的贝叶斯推断，克服现有模型中闭式预测分布的局限性。
• 在已知具有时间反演对称性的实际数据集（如离子通道记录和表观基因组数据）上验证模型。
• 证明将可逆性作为先验约束可提升预测性能与模型校准性。

提出的方法

• 使用伽马过程生成无向图上可数无限的态和边权重，确保转移概率的对称性。
• 通过归一化边权重构造可逆转移矩阵，使所得马尔可夫链满足细致平衡条件。
• 采用分层构造方法，基测度为勒贝格测度，伽马过程的Lévy测度通过幂律强度定义，以确保无限支撑。
• 将所得先验应用于隐马尔可夫模型（HMM），并为连续和离散数据设计状态相关观测模型。
• 使用吉布斯采样结合HMC或NUTS进行潜在状态和参数更新，实现对后验分布的高效探索。
• 利用de Finetti表示定理刻画过程的可交换性，并为转移矩阵的可交换先验提供理论依据。

实验结果

研究问题

• RQ1 能否利用归一化随机测度显式构造无限、可逆马尔可夫链的非参数先验？
• RQ2 在具有已知时间反演动力学的真实数据集中，强制先验可逆性是否能提升预测性能？
• RQ3 与现有的非参数HMM（如iHMM和边增强随机游走）相比，该方法在推断效率和模型拟合方面表现如何？
• RQ4 该模型能否有效应用于复杂、高频的生物时间序列（如离子通道记录）？
• RQ5 在可逆HMM框架中，使用HMC或NUTS对后验推断有何影响？

主要发现

• 可逆SHGP-HMM在测试对数似然（2.034 vs. 1.970）和测试误差（0.030 vs. 0.033）方面显著优于非可逆HGP-HMM，尽管差异仅在边际上显著（p=0.08）。
• 使用HMC时测试对数似然为2.034 ± 0.058，使用NUTS时为2.030 ± 0.062，表明在离子通道数据上具有出色的预测校准性。
• 采用束采样（beam sampling）的iHMM在训练和测试误差（0.038 vs. 0.023）及对数似然（2.008 vs. 2.034）方面均劣于可逆HGP-HMM，表明显式可逆性具有优势。
• 该模型在离子通道数据集中通常选择5–7个状态，最频繁的转移发生在低电流态之间，与生物学预期一致。
• 缺失区域（灰色区域）的预测方差覆盖了真实信号，证实模型校准良好，并能有效反映状态和观测分布中的不确定性。
• 使用HMC或NUTS对性能影响不大，表明对MCMC采样方法的选择具有鲁棒性。