[论文解读] Expressiveness and Learning of Hidden Quantum Markov Models

Sandesh Adhikary, Siddarth Srinivasan+2 more|arXiv (Cornell University)|Dec 2, 2019

Bayesian Modeling and Causal Inference参考文献 37被引用 4

一句话总结

该论文证明了隐量子马尔可夫模型（HQMMs）是可观测算子模型（OOMs）的一个子类，且保证概率非负；提出了一种基于缩减的优化方法，在Stiefel流形上实现更快、更可扩展的HQMM学习。该方法在速度和精度上优于先前方法，使此前无法学习的大规模HQMM得以训练。

ABSTRACT

Extending classical probabilistic reasoning using the quantum mechanical view of probability has been of recent interest, particularly in the development of hidden quantum Markov models (HQMMs) to model stochastic processes. However, there has been little progress in characterizing the expressiveness of such models and learning them from data. We tackle these problems by showing that HQMMs are a special subclass of the general class of observable operator models (OOMs) that do not suffer from the \emph{negative probability problem} by design. We also provide a feasible retraction-based learning algorithm for HQMMs using constrained gradient descent on the Stiefel manifold of model parameters. We demonstrate that this approach is faster and scales to larger models than previous learning algorithms.

研究动机与目标

• 为了表征隐量子马尔可夫模型（HQMMs）相对于可观测算子模型（OOMs）和NOOMs的表达能力。
• 为了解决OOMs固有的负概率问题，证明HQMMs通过设计避免了该问题。
• 开发一种实用且可扩展的HQMM学习算法，确保模型参数的可行性。
• 在合成数据集和真实世界数据集上实证验证新学习方法，证明其在性能上优于先前方法。
• 证明HQMMs能够建模任意HMM，并在分类任务中表现优于HMMs，且参数数量相当或更少。

提出的方法

• HQMMs使用Kraus算符{K_i}进行公式化，满足约束条件∑K_i†K_i = I，从而保证量子态的有效性并避免负概率。
• 模型参数表示为矩阵κ，满足κ†κ = I，位于Stiefel流形上，支持约束优化。
• 采用基于缩减的梯度下降算法，在Stiefel流形上执行约束优化，确保学习过程中参数的可行性。
• 推导了HQMMs的Liouville表示，为模型提供了唯一且可解释的表征，便于与OOMs直接比较。
• 该方法实现为COSM（在Stiefel流形上的约束优化），直接在流形上优化似然函数，无需迭代酉校正。
• 与先前采用迭代酉旋转的GS（梯度搜索）方法相比，该方法被证明更高效，且收敛性更优。

实验结果

研究问题

• RQ1 HQMMs能否与OOMs和NOOMs建立正式关联，是否能推广这些模型？
• RQ2 HQMM框架是否从设计上避免了OOMs固有的负概率问题？
• RQ3 能否为HQMMs开发一种可扩展且高效的优化算法，同时保持参数可行性？
• RQ4 HQMMs在建模和分类任务中是否优于HMMs，尤其是在大规模模型上？
• RQ5 HQMMs能否在真实世界数据集上训练，而这些数据集此前因计算不可行而无法用先前方法处理？

主要发现

• HQMMs是OOMs的正规子类，且推广了NOOMs，其有效初始状态可表征为迹为1的厄米正半定矩阵的谱单纯形。
• 对于大规模HQMMs，所提出的COSM算法在300秒内收敛，而先前的GS方法即使运行2000秒也未能收敛。
• 对于(6,6)-HMM，使用COSM训练的(6,6,6)-HQMM成功建模了目标HMM，验证了理论保证在实践中的有效性。
• 在splicing数据集上，使用COSM训练的HQMMs优于使用EM训练的HMMs，分类准确率更高，且参数数量更多。
• 当Kraus秩w从1增加到2时，性能提升最大，但进一步增加n仍能获得收益，表明需根据数据集对n和w同时调优。
• COSM方法使HQMMs的训练规模达到100个隐状态，而此前的GS方法在计算上不可行。