[论文解读] Implementing spectral methods for hidden Markov models with real-valued emissions

Carl Mattfeld|arXiv (Cornell University)|Apr 29, 2014

Bayesian Methods and Mixture Models参考文献 9被引用 5

一句话总结

本硕士论文实现了并评估了用于具有实值输出的隐马尔可夫模型（HMMs）的谱方法，将Hsu等人（2012）与Anandkumar等人（2012b）的算法与标准的Baum-Welch EM算法进行了比较。谱方法展现出显著更低的计算复杂度和样本复杂度，尽管在高维观测空间中会出现不稳定性，因此提出了一种针对实值数据的分箱策略。

ABSTRACT

Hidden Markov models (HMMs) are widely used statistical models for modeling sequential data. The parameter estimation for HMMs from time series data is an important learning problem. The predominant methods for parameter estimation are based on local search heuristics, most notably the expectation-maximization (EM) algorithm. These methods are prone to local optima and oftentimes suffer from high computational and sample complexity. Recent years saw the emergence of spectral methods for the parameter estimation of HMMs, based on a method of moments approach. Two spectral learning algorithms as proposed by Hsu, Kakade and Zhang 2012 (arXiv:0811.4413) and Anandkumar, Hsu and Kakade 2012 (arXiv:1203.0683) are assessed in this work. Using experiments with synthetic data, the algorithms are compared with each other. Furthermore, the spectral methods are compared to the Baum-Welch algorithm, a well-established method applying the EM algorithm to HMMs. The spectral algorithms are found to have a much more favorable computational and sample complexity. Even though the algorithms readily handle high dimensional observation spaces, instability issues are encountered in this regime. In view of learning from real-world experimental data, the representation of real-valued observations for the use in spectral methods is discussed, presenting possible methods to represent data for the use in the learning algorithms.

研究动机与目标

• 评估具有实值输出的HMM谱学习算法，以避免EM方法中常见的局部最优问题。
• 比较谱方法（Hsu等人与Anandkumar等人）与传统Baum-Welch算法在计算复杂度和样本复杂度方面的表现。
• 研究谱方法在高维实值观测空间中的稳定性与准确性。
• 开发并评估实用的数据表示技术，特别是分箱方法，以实现连续输出的谱学习。
• 在合成数据上提供对比性的实证评估，测量参数估计的准确性、运行时间与鲁棒性。

提出的方法

• 改编Hsu等人（2012）提出的谱学习算法，该方法通过三阶矩的张量分解，利用奇异值分解（SVD）估计HMM参数。
• 实现Anandkumar等人（2012b）提出的算法，将HMM学习问题建模为多视角混合模型，并利用经验矩的张量分解。
• 应用一种简单的分箱策略，将实值输出离散化为类别观测，从而使得原本仅适用于离散输出的谱方法得以应用。
• 采用矩方法，通过将观测序列的经验三阶矩与由模型参数导出的理论矩相匹配来估计参数。
• 使用奇异值分解（SVD）提取矩张量的低秩表示，从而在较弱的可识别性条件下实现一致的参数估计。
• 在具有已知参数的合成HMM上验证算法，测量在不同状态数与输出维度下的估计误差与运行时间。

实验结果

研究问题

• RQ1 在具有实值输出的合成HMM上，Hsu等人（2012）与Anandkumar等人（2012b）提出的谱学习算法在准确性和计算效率方面如何比较？
• RQ2 谱方法与Baum-Welch算法在估计准确性与收敛速度方面存在多大性能差距？
• RQ3 针对实值输出的分箱方法如何影响谱HMM学习的准确性与稳定性？
• RQ4 谱方法在应用于高维实值观测空间时存在哪些局限性？
• RQ5 谱方法是否能在样本数更少、计算量更小的情况下，实现与基于EM的方法相当或更优的参数估计一致性？

主要发现

• 谱算法（learnHKZ与learnAHK）相比Baum-Welch算法，展现出显著更低的计算复杂度与样本复杂度。
• 在k=2与k=3个隐状态的情况下，learnAHK在准确性和运行时间上均持续优于learnHKZ，尤其当输出维度d增大时更为明显。
• Baum-Welch算法在随机初始化下表现出高方差与较差的收敛性，而使用learnAHK的初始化可显著提升其性能。
• 简单的分箱方法使谱学习能够应用于实值数据，但随着输出维度的增加，准确性下降，表明在高维情形下存在不稳定性。
• 尽管具有优势，谱方法在分箱后输出类别数较大时仍表现出不稳定性，提示离散化保真度与数值稳定性之间存在权衡。
• 实证结果证实，谱方法在显著更短的运行时间内实现了与Baum-Welch相当或更优的参数估计准确性，尤其在高维设置下表现突出。