[论文解读] Learning Overcomplete HMMs

Vatsal Sharan, Sham M. Kakade+2 more|arXiv (Cornell University)|Nov 7, 2017

Machine Learning and Algorithms参考文献 18被引用 8

一句话总结

本文研究了过完备隐马尔可夫模型（HMM）的可学习性，其中隐藏状态数远大于输出字母表大小。它建立了一个基本的信息论下界，表明具有随机正则转移矩阵且输出字母表较小的HMM无法从多项式样本中学习，同时证明了在使用张量分解和矩方法、且观测矩阵为随机的情况下，具有有限短周期概率的稀疏HMM可实现高效学习。

ABSTRACT

We study the problem of learning overcomplete HMMs---those that have many hidden states but a small output alphabet. Despite having significant practical importance, such HMMs are poorly understood with no known positive or negative results for efficient learning. In this paper, we present several new results---both positive and negative---which help define the boundaries between the tractable and intractable settings. Specifically, we show positive results for a large subclass of HMMs whose transition matrices are sparse, well-conditioned, and have small probability mass on short cycles. On the other hand, we show that learning is impossible given only a polynomial number of samples for HMMs with a small output alphabet and whose transition matrices are random regular graphs with large degree. We also discuss these results in the context of learning HMMs which can capture long-term dependencies.

研究动机与目标

• 理解过完备HMM学习的根本限制，其中隐藏状态数n远大于输出字母表大小m。
• 识别出使多项式样本复杂度下学习成为可能的转移矩阵结构特性。
• 解决在标准谱方法失效时，过完备HMM中可识别性与样本复杂度之间的张力。
• 澄清在通用或随机HMM中，尽管它们可能可识别，但是否在过完备情形下可学习，因为可能存在信息论上的障碍。
• 通过基于条件状态影响的新记忆概念，建立分析HMM长期依赖捕捉能力的框架。

提出的方法

• 通过计数论证证明信息论下界，分析度为d = n^ε的随机正则图的数量，表明多项式样本无法提供足够信息以确定转移矩阵。
• 通过将后验分布建模为时间非齐次马尔可夫链，分析初始隐藏状态对未来状态的影响衰减过程，条件于观测输出。
• 利用时间非齐次转移矩阵的谱分析，表明即使在条件化下，初始状态的影响仍会随时间呈指数衰减。
• 为具有稀疏转移矩阵且短于10 log_m n的周期概率较低的HMM，提出一种正向学习算法，利用张量分解和矩方法。
• 假设观测矩阵具有i.i.d.条目，且E[O_ij] = 1/m，以将观测矩阵的复杂性与转移矩阵结构解耦。
• 引入一种基于过去状态对将来预测条件影响的新记忆度量，有助于刻画长期依赖捕捉能力。

实验结果

研究问题

• RQ1 具有小输出字母表和大量隐藏状态的过完备HMM能否在多项式样本复杂度下高效学习？
• RQ2 转移矩阵的何种结构特性可使过完备情形下的学习变得可行？
• RQ3 是否存在信息论障碍，使得即使可识别，具有随机正则转移矩阵的HMM也无法学习？
• RQ4 转移图中存在短周期如何影响HMM的可学习性？
• RQ5 输出过程的记忆性与HMM捕捉长期依赖的能力之间有何关系？

主要发现

• 对于转移矩阵对应于d = n^ε的d-正则图上随机游走、且m = polylog(n)的HMM，即使近似学习也无法从多项式样本中实现，这是由于信息论限制。
• 多项式长度窗口中的信息量最多为Õ(n)，而指定转移矩阵需要Ω(nd)比特，因此学习不可能实现。
• 对于具有有界度和短于10 log_m n周期上概率质量较低的稀疏HMM，可通过张量分解和矩方法，结合随机观测矩阵，实现高效学习。
• 对短周期的限制确保了在多项式时间窗口内对状态空间的充分混合与探索，从而可通过高阶矩实现可识别性。
• 当条件于中间观测时，初始隐藏状态对未来状态的影响呈指数衰减，这构成了信息论下界的基础。
• 本文引入了一种基于过去状态条件影响的新HMM记忆概念，有助于量化长期依赖捕捉能力，并与可学习性相关联。