[论文解读] Clustering hidden Markov models with variational HEM

Emanuele Coviello, Antoni B. Chan+1 more|arXiv (Cornell University)|Oct 24, 2012

Music and Audio Processing参考文献 31被引用 24

一句话总结

该论文提出了一种新型算法——变分分层期望最大化（VHEM），通过基于底层概率分布而非参数来对隐马尔可夫模型（HMM）进行聚类，实现了对时间序列应用中HMM聚类的准确性和鲁棒性提升。该方法采用分层EM框架并结合变分推断，以处理不可计算的期望值，从而高效学习具有代表性的HMM聚类中心。该方法在动作捕捉、音乐标注和手写识别等任务中表现优异。

ABSTRACT

The hidden Markov model (HMM) is a widely-used generative model that copes with sequential data, assuming that each observation is conditioned on the state of a hidden Markov chain. In this paper, we derive a novel algorithm to cluster HMMs based on the hierarchical EM (HEM) algorithm. The proposed algorithm i) clusters a given collection of HMMs into groups of HMMs that are similar, in terms of the distributions they represent, and ii) characterizes each group by a "cluster center", i.e., a novel HMM that is representative for the group, in a manner that is consistent with the underlying generative model of the HMM. To cope with intractable inference in the E-step, the HEM algorithm is formulated as a variational optimization problem, and efficiently solved for the HMM case by leveraging an appropriate variational approximation. The benefits of the proposed algorithm, which we call variational HEM (VHEM), are demonstrated on several tasks involving time-series data, such as hierarchical clustering of motion capture sequences, and automatic annotation and retrieval of music and of online hand-writing data, showing improvements over current methods. In particular, our variational HEM algorithm effectively leverages large amounts of data when learning annotation models by using an efficient hierarchical estimation procedure, which reduces learning times and memory requirements, while improving model robustness through better regularization.

研究动机与目标

• 解决现有方法在基于生成分布而非参数距离对HMM进行聚类方面的不足。
• 开发一种基于分层EM的算法，学习与HMM生成模型一致的代表性HMM聚类中心。
• 通过将HEM的E步建模为变分优化问题，克服其中不可计算的推断问题。
• 提升大规模HMM聚类任务中的可扩展性与鲁棒性，尤其在语义标注的分层模型估计中。
• 通过直接聚类分布，消除对状态排列敏感性及非线性参数流形的影响。

提出的方法

• 提出一种分层期望最大化（HEM）框架，将EM算法推广用于HMM聚类，其中E步在所有可能的输入HMM观测值上计算期望充分统计量。
• 引入变分近似方法，使原本不可计算的E步在计算上变得可行，通过近似隐藏状态与观测值的后验分布。
• 基于混合模型对数似然的变分下界，推导出HMM参数（转移、发射和混合权重）的更新公式。
• 使用基HMM模型的加权和算子计算期望充分统计量，从而实现对聚类中心参数的高效优化。
• 应用变分推断对隐藏状态序列与观测序列进行边缘化，确保聚类中心估计的一致性。
• 利用附录C中的优化技术，推导出HMM参数的闭式更新公式，包括对混合权重的狄利克雷约束最大化及对发射分量的 exponential-family 更新。

实验结果

研究问题

• RQ1 能否基于HMM的底层概率分布而非参数向量对HMM进行有效聚类，从而避免非线性参数流形与状态排列带来的问题？
• RQ2 分层EM算法能否被调整以实现HMM聚类，同时学习与HMM生成模型一致的代表性HMM聚类中心？
• RQ3 变分推断能否有效近似HEM中HMM聚类的不可计算E步，从而实现可扩展且鲁棒的学习？
• RQ4 所提出的VHEM算法在真实世界时间序列数据上的聚类准确率与模型鲁棒性方面是否优于现有HMM聚类方法？
• RQ5 VHEM能否在大规模HMM混合模型估计（如音乐或视频的语义标注）中降低计算成本与内存使用？

主要发现

• VHEM算法成功基于生成分布对HMM进行聚类，避免了基于参数空间聚类带来的问题，如对状态排列的敏感性与非欧几里得几何影响。
• 与基线的谱聚类和基于参数的k-means相比，该方法在动作捕捉序列、音乐标注与在线手写识别任务中实现了更优的聚类性能。
• 通过利用变分近似，VHEM在降低学习时间与内存需求的同时，通过更优的正则化提升了模型鲁棒性。
• 该算法能有效学习紧凑且具有代表性的HMM聚类中心，从而简洁地总结相似HMM的群体，支持高效的分层模型估计。
• 实证结果表明，VHEM在分层聚类与检索任务中优于现有方法，尤其在从大规模数据集中学习标注模型时表现突出。