[论文解读] Learning Hidden Quantum Markov Models

Siddarth Srinivasan, Geoff Gordon+1 more|arXiv (Cornell University)|Oct 24, 2017

Quantum Computing Algorithms and Architecture参考文献 2被引用 5

一句话总结

本文提出了一种用于隐性量子马尔可夫模型（HQMMs）的新学习算法，HQMMs 是一种基于量子形式的、对经典 HMM 的扩展。通过放松经典约束并使用 Kraus 算子表述 HQMMs，作者开发了一种最大似然学习方法，在 HQMM 生成的数据上，该方法以显著更少的隐藏状态实现了与 HMM 相当的预测精度。

ABSTRACT

Hidden Quantum Markov Models (HQMMs) can be thought of as quantum probabilistic graphical models that can model sequential data. We extend previous work on HQMMs with three contributions: (1) we show how classical hidden Markov models (HMMs) can be simulated on a quantum circuit, (2) we reformulate HQMMs by relaxing the constraints for modeling HMMs on quantum circuits, and (3) we present a learning algorithm to estimate the parameters of an HQMM from data. While our algorithm requires further optimization to handle larger datasets, we are able to evaluate our algorithm using several synthetic datasets. We show that on HQMM generated data, our algorithm learns HQMMs with the same number of hidden states and predictive accuracy as the true HQMMs, while HMMs learned with the Baum-Welch algorithm require more states to match the predictive accuracy.

研究动机与目标

• 开发一种适用于隐性量子马尔可夫模型（HQMMs）的实用学习算法，HQMMs 是经典 HMM 的量子启发扩展。
• 证明 HQMM 可以通过更少的隐藏状态实现与经典 HMM 相当的预测精度，从而更高效地建模序列数据。
• 展示 HQMM 可以从模拟经典 HMM 的量子线路构建，并且放松量子约束可带来更具表现力的模型。
• 在合成数据集上评估所提出的算法，并与标准 HMM 的 Baum-Welch 方法进行性能比较。
• 为 HQMM 建立理论与实证基础，使其成为序列数据建模中经典模型的可行替代方案。

提出的方法

• 构建量子线路以模拟经典 HMM，然后放松量子约束，允许使用复数振幅实现更具表现力的建模。
• 使用 Kraus 算子表示 HQMM，其推广了经典随机矩阵，允许在量子框架中实现幺正演化与测量。
• 将 Norm-observable Operator Models (NOOM) 的学习算法进行改编，以开发 HQMM 的最大似然无监督学习过程。
• 通过迭代优化从观测数据中估计 Kraus 算子，将模型参数视为可通过基于梯度的更新学习的变量。
• 在从 HQMM 和经典 HMM 生成的合成数据集上实现并评估该算法，以比较模型性能与参数效率。
• 使用量子条件化与边缘化操作执行信念状态更新，将经典推理推广至量子形式。

实验结果

研究问题

• RQ1 能否使用 Kraus 算子表示在量子线路中忠实模拟经典 HMM？
• RQ2 在量子形式中建模 HMM 时，放松经典概率约束有何优势？
• RQ3 能否成功为 HQMM 开发一种最大似然学习算法，以从数据中估计其 Kraus 算子？
• RQ4 HQMM 是否能在使用更少隐藏状态的情况下实现与经典 HMM 相当或更优的预测精度？
• RQ5 HQMM 在由经典 HMM 生成的数据上的性能，与使用 Baum-Welch 训练的 HMM 相比如何？

主要发现

• 在 HQMM 生成的数据上，所提出的算法成功恢复了与真实 HQMM 具有相同隐藏状态数和预测精度的模型。
• HQMM 实现了与 Baum-Welch 训练的 HMM 相当的预测性能，但所需隐藏状态显著更少——例如，2 个 HQMM 状态在 HQMM 生成的数据上即可达到 6 个 HMM 状态的性能。
• 在来自经典 HMM 的合成数据上，HQMM 使用 $ w < n $ 个 Kraus 算子仍能学习到合理的模型，表明其灵活性超越了理论上的 $ w = n $ 要求。
• 对于 2,6,1-HQMM，该学习算法实现了 0.1303（±0.0042）的测试预测精度（DA），与真实 HQMM 的性能一致，而 HMM 需要多达 6 个状态才能达到类似精度。
• 在 HMM 生成的数据上，HQMM 使用 $ w=5 $ 且 $ n=6 $ 时，测试 DA 达到 0.1877（±0.0060），与 6 个状态 HMM 的 0.1901 DA 相当，但参数更多且训练更慢。
• 尽管存在过参数化和收敛缓慢的问题，HQMM 学习算法仍成功识别出在 HQMM 生成序列上性能匹配或超过 HMM 的模型，且隐藏状态更少。