[论文解读] Minimal Realization Problems for Hidden Markov Models

Qingqing Huang, Rong Ge+2 more|arXiv (Cornell University)|Nov 13, 2014

Tensor decomposition and applications参考文献 19被引用 4

一句话总结

该论文提出了一套高效算法，用于从有限长度的输出字符串中实现隐马尔可夫模型（HMM）的最小化实现，利用谱分解与张量分解方法。对于几乎所有HMM（排除参数空间中测度为零的集合），研究证明了最小化准HMM和最小化HMM实现均可在多项式时间内完成，窗口大小为$\mathcal{O}(\log_d k)$量级，从而表明在典型情况下，HMM与准HMM的学习具有相近的计算复杂度。

ABSTRACT

Consider a stationary discrete random process with alphabet size d, which is assumed to be the output process of an unknown stationary Hidden Markov Model (HMM). Given the joint probabilities of finite length strings of the process, we are interested in finding a finite state generative model to describe the entire process. In particular, we focus on two classes of models: HMMs and quasi-HMMs, which is a strictly larger class of models containing HMMs. In the main theorem, we show that if the random process is generated by an HMM of order less or equal than k, and whose transition and observation probability matrix are in general position, namely almost everywhere on the parameter space, both the minimal quasi-HMM realization and the minimal HMM realization can be efficiently computed based on the joint probabilities of all the length N strings, for N > 4 lceil log_d(k) rceil +1. In this paper, we also aim to compare and connect the two lines of literature: realization theory of HMMs, and the recent development in learning latent variable models with tensor decomposition techniques.

研究动机与目标

• 解决HMM的最小化实现问题，重点在于恢复能够再现有限长度字符串观测联合输出概率的最小阶HMM。
• 弥合HMM实现理论与近期用于学习潜变量模型的谱方法之间的鸿沟。
• 证明对于几乎所有HMM（排除参数空间中测度为零的集合），最小化准HMM和最小化HMM实现均可高效计算。
• 分析在有限样本和估计误差条件下，HMM实现的计算复杂度、信息复杂度与统计复杂度。

提出的方法

• 利用谱分解将长度为$N$的字符串的联合概率表示为低秩张量，利用HMM的递归结构。
• 应用张量分解，从联合概率张量的秩结构分解中恢复最小化HMM的参数（转移矩阵与观测矩阵）。
• 采用矩阵分解技术：在满秩情况下，使用伪逆从因子$A$、$B$和$C$中恢复转移矩阵与观测矩阵。
• 提出算法1用于最小化准HMM实现，算法4用于HMM实现，二者均依赖于秩条件与张量唯一性。
• 使用随机检查（算法2）验证张量分解在列排列意义下是否唯一，以确保对典型HMM的正确性。
• 在满列秩假设下，应用伪逆$X^\dagger = (X^\top X)^{-1}X^\top$从因子矩阵中恢复$Q$与$O$。

实验结果

研究问题

• RQ1 对于几乎所有HMM，能否从有限长度输出字符串的联合概率中高效重构最小阶HMM？
• RQ2 对于典型HMM，恢复完整联合分布$\mathcal{P}^{(\infty)}$所需的最小窗口大小$N$是多少，以从$\mathcal{P}^{(N)}$中恢复？
• RQ3 在典型设置下，学习最小化HMM的计算复杂度与学习最小化准HMM相比如何？
• RQ4 当$\mathcal{P}^{(N)}$从有限样本中学习时，所提出的算法对估计误差是否具有鲁棒性？
• RQ5 在典型条件下，当转移矩阵不满秩时，张量分解能否唯一恢复HMM参数？

主要发现

• 对于处于一般位置的HMM（排除测度为零的集合），最小化准HMM实现可使用窗口大小$N = 2n+1$完成，其中$n > 8\lceil\log_d k\rceil$，确保$\mathcal{P}^{(\infty)}$的恢复。
• 最小化HMM实现可在$d$与$k$的多项式时间内完成，窗口大小$N = \mathcal{O}(\log_d k)$，表明其计算复杂度与准HMM学习相当。
• 当转移矩阵$Q$具有满列秩时，可通过$Q = (O \odot A^{(n-1)})^\dagger A$或$Q = O^\dagger A^{(1)}$的伪逆运算恢复$Q$与$O$。
• 对于$\text{rank}(Q) < k$的退化HMM，算法4在满秩缺陷子集中的几乎所有实例中仍能以概率1恢复正确分解。
• 对于典型HMM，张量分解在列排列意义下以概率1唯一，从而支持可靠参数恢复。
• 两个算法（分别用于准HMM与HMM）在$d$与$k$上均实现多项式时间复杂度与样本复杂度，证实了对典型HMM的高效学习。