[论文解读] Products of Hidden Markov Models: It Takes N>1 to Tango

Graham W. Taylor, Geoffrey E. Hinton|arXiv (Cornell University)|May 9, 2012

Generative Adversarial Networks and Image Synthesis参考文献 13被引用 7

一句话总结

本文提出产品隐马尔可夫模型（PoHMMs）作为一种强大的生成模型，用于建模具有组件结构的复杂时间序列数据。通过采用专家产品框架组合多个HMM，并利用退火重要性采样（AIS）估算难以计算的归一化常数，PoHMMs在真实世界中的降雨和人体运动数据上实现了优越的对数似然性能——尤其在数据表现出强烈组件依赖关系时效果更佳，表明尽管训练成本高于标准HMM，PoHMMs在高维序列建模方面仍具可行性。

ABSTRACT

Products of Hidden Markov Models(PoHMMs) are an interesting class of generative models which have received little attention since their introduction. This maybe in part due to their more computationally expensive gradient-based learning algorithm,and the intractability of computing the log likelihood of sequences under the model. In this paper, we demonstrate how the partition function can be estimated reliably via Annealed Importance Sampling. We perform experiments using contrastive divergence learning on rainfall data and data captured from pairs of people dancing. Our results suggest that advances in learning and evaluation for undirected graphical models and recent increases in available computing power make PoHMMs worth considering for complex time-series modeling tasks.

研究动机与目标

• 解决标准HMM在建模具有长程依赖关系的高维、组件化时间序列数据时的局限性。
• 重振对产品隐马尔可夫模型（PoHMMs）的关注，这是一类具有分布式隐藏状态的无向模型，自其提出以来使用甚少。
• 为PoHMM中的难以计算的归一化常数提供一种可靠的估计方法，从而实现准确的对数似然计算，以支持模型评估与选择。
• 在真实世界数据集（降雨和人体动作捕捉）上对PoHMMs进行实证评估，证明其相较于基线HMM的优越性。

提出的方法

• PoHMMs被定义为多个独立HMM的乘积，其中每个HMM作为专家，分别建模序列的不同方面，联合分布通过将各HMM的似然相乘并归一化得到。
• 由于无向模型中归一化常数难以计算，采用退火重要性采样（AIS）进行估计，使用5000个均匀分布的退火间隔，以实现高精度的对数似然估计。
• 使用对比发散（CD）方法进行模型训练，K=10步，以最小化数据分布与模型分布之间的对比发散。
• 对于运动数据，将维度按身体部位分组（如左腿、右臂），并对每组应用25均值聚类，生成用于建模的离散序列。
• 对数似然比较结果按维度进行归一化，以确保单人与多人运动数据之间的公平比较。
• 基线HMM通过EM算法训练，状态数为2N（N=2至6），而PoHMMs则使用与之相当的参数量，通过CD(10)和动量优化进行训练。

实验结果

研究问题

• RQ1 PoHMMs能否有效建模具有组件结构的高维真实时间序列数据，如人体运动或降雨模式？
• RQ2 PoHMM中难以计算的归一化常数是否能通过退火重要性采样（AIS）可靠估计，从而实现准确的对数似然评估？
• RQ3 当PoHMM与标准HMM的参数量相近时，两者在对数似然性能上的表现如何比较？
• RQ4 当数据中组件结构更强时（如多智能体动作捕捉），PoHMMs的性能优势是否会进一步提升？
• RQ5 尽管计算成本更高，基于梯度的CD学习结合AIS驱动的似然估计，是否能优于传统的EM训练HMM？

主要发现

• 在单人和双人动作捕捉数据上，PoHMMs的对数似然得分显著优于基线HMM，且在双人数据中优势更明显，表明更强的组件结构更有利于模型表现。
• 在单人运动数据上，4个专家、每个专家8个状态（4×8）的PoHMMs在归一化对数似然上优于最多32个状态的HMM。
• 在双人数据上，4×8和8×4配置的PoHMMs在测试对数似然上优于64个状态的HMM，表明其在建模多因素影响序列方面具有更强的建模能力。
• 采用5000个间隔的AIS使对数似然估计更加可靠，100次AIS运行的误差条极小，在图表上几乎不可见。
• 尽管训练成本更高（每个PoHMM约需一小时，而HMM仅需几分钟），PoHMMs在泛化能力和建模能力方面表现更优，尤其在数据具有强组件依赖关系时。
• 结果表明，通过乘积模型组合多个HMM，比在单一HMM中增加状态数更有效，尤其当状态数较大时更为显著。