[论文解读] Equality conditions for internal entropies of certain classical and quantum models

Peter Gmeiner|arXiv (Cornell University)|Aug 26, 2011

Statistical Mechanics and Entropy参考文献 2被引用 7

一句话总结

本文研究了经典与量子随机过程模型在何时达到相等的内部熵，表明经典最小模型（ε-机器）与特定量子模型之间的熵相等极为罕见。研究证明，尽管量子模型可显著降低内存需求，但内部熵相等仅在严格条件下成立，且即使在这些条件下，也并非在所有量子构造中普遍成立。

ABSTRACT

Mathematical models use information from past observations to generate predictions about the future. If two models make identical predictions the one that needs less information from the past to do this is preferred. It is already known that certain classical models (certain Hidden Markov Models called ε-machines which are often optimal classical models) are not in general the preferred ones. We extend this result and show that even optimal classical models (models with minimal internal entropy) in general are not the best possible models (called ideal models). Instead of optimal classical models we can construct quantum models which are significantly better but not yet the best possible ones (i.e. they have a strictly smaller internal entropy). In this paper we show conditions when the internal entropies between classical models and specific quantum models coincide. Furthermore it turns out that this situation appears very rarely. An example shows that our results hold only for the specific quantum model construction and in general not for alternative constructions. Furthermore another example shows that classical models with minimal internal entropy need not to be related to quantum models with minimal internal entropy.

研究动机与目标

• 确定经典隐马尔可夫模型（HMM）的内部熵与相应量子模型的内部熵相等的条件。
• 将先前关于量子优势在内存效率方面的研究结果，从ε-机器扩展至所有最优经典模型。
• 探究以生成复杂度衡量的最小经典模型是否对应于最小量子模型。
• 证明内部熵相等在不同量子模型构造中并非必然成立。
• 阐明最小经典模型与具有最小内部熵的量子模型之间的关系。

提出的方法

• 使用计算力学与隐马尔可夫模型（HMM）的框架，对具有经典与量子内部状态的随机过程进行建模。
• 应用Stinespring-Kraus定理，将量子操作表示为算子和形式，从而构建隐量子马尔可夫模型（HQMM）。
• 将量子内部状态熵 $ C_q $ 定义为量子态分布的冯诺依曼熵，类比于经典香农熵 $ C_{Cl} $。
• 通过比较过去与未来之间的互信息 $ I(X;Y) $、过剩熵 $ E $，以及内部熵 $ C_q $ 和 $ C_{Cl} $，建立不等式链 $ E \leq I(X;Y) \leq C_q \leq C_{Cl} $。
• 通过从经典HMM构造特定量子模型（使用正交投影算子与转移算子），分析 $ C_q = C_{Cl} $ 的相等条件。
• 通过一个4符号HMM示例验证结果，其中 $ C_{Cl} = 2 $，$ I(X;Y) = 0.5 $，且 $ C_q \approx 1.2018 $，表明严格不等式成立。

实验结果

研究问题

• RQ1 在何种条件下，经典最小模型与特定量子模型具有相等的内部熵？
• RQ2 由经典最小HMM诱导出的量子模型是否总是内部熵最小的量子模型？
• RQ3 是否可以实现 $ C_q = C_{Cl} $？若可以，其过程或模型的结构约束为何？
• RQ4 内部熵相等是否在所有量子模型构造中均成立，还是仅针对所提出的方法成立？
• RQ5 以 $ C_{Cl} $ 衡量的最小经典模型与以 $ C_q $ 衡量的最小量子模型之间存在何种关系？

主要发现

• 经典生成复杂度 $ C_{Cl} $ 与量子内部状态熵 $ C_q $ 相等仅在特定结构条件下发生，且在实践中极为罕见。
• 在4符号HMM示例中，$ C_{Cl} = 2 $，$ I(X;Y) = 0.5 $，$ C_q \approx 1.2018 $，表明严格不等式 $ I(X;Y) < C_q < C_{Cl} $ 成立。
• 通过仅使用2-level系统构造的另一种量子模型，实现 $ C_q = 1 $，证明所诱导的HQMM并非最小，因此 $ C_q $ 可严格小于所诱导模型的熵。
• 对于ε-机器，$ E = I(X;Y) $ 成立，但这并不意味着与量子模型的内部熵相等。
• 内部熵相等 $ C_q = C_{Cl} $ 并非在所有量子模型构造中普遍成立；该结果仅针对所提出的HQMM构造成立。
• 最小经典模型并不必然对应于最小量子模型，且最小量子模型的结构仍是开放问题。