[论文解读] Quantum Cross Entropy and Maximum Likelihood Principle

Zhou Shangnan, Yixu Wang|arXiv (Cornell University)|Feb 23, 2021

Quantum Computing Algorithms and Architecture参考文献 5被引用 8

一句话总结

本文提出了一种量子交叉熵的推广，定义为 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $，并建立了其数学性质，包括基于量子保真度的下界。研究发现，仅当数据未受测量干扰时，最小化量子交叉熵才等价于最大化似然；否则，测量引起的的信息损失会破坏这种等价性，因此得出结论：为实现完整的量子机器学习，推迟测量至关重要，以保持理想的优化特性。

ABSTRACT

Quantum machine learning is an emerging field at the intersection of machine learning and quantum computing. Classical cross entropy plays a central role in machine learning. We define its quantum generalization, the quantum cross entropy, prove its lower bounds, and investigate its relation to quantum fidelity. In the classical case, minimizing cross entropy is equivalent to maximizing likelihood. In the quantum case, when the quantum cross entropy is constructed from quantum data undisturbed by quantum measurements, this relation holds. Classical cross entropy is equal to negative log-likelihood. When we obtain quantum cross entropy through empirical density matrix based on measurement outcomes, the quantum cross entropy is lower-bounded by negative log-likelihood. These two different scenarios illustrate the information loss when making quantum measurements. We conclude that to achieve the goal of full quantum machine learning, it is crucial to utilize the deferred measurement principle.

研究动机与目标

• 为量子机器学习中的经典交叉熵提出一个量子推广形式化定义。
• 在存在和不存在量子测量的情况下，研究量子交叉熵与最大似然原理之间的关系。
• 识别在构建经验密度矩阵时，量子测量所引起的信息损失。
• 为设计保持优化特性的量子机器学习算法提供理论基础。
• 倡导推迟测量原则作为实现完整量子机器学习的关键机制。

提出的方法

• 将量子交叉熵定义为 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $，将经典交叉熵推广至密度矩阵。
• 证明基本性质：非负性、酉不变性、第一变量的线性性、第二变量的凸性，以及联合凸性。
• 建立下界：$ S(\rho,\sigma) \geq -\log \text{tr}(\rho\sigma) \geq -\log F(\rho,\sigma) $，并将其与量子保真度联系起来。
• 分析两种情形：(1) 未受测量干扰的量子数据，此时最小化量子交叉熵等价于最大化似然；(2) 基于测量结果构建的经验密度矩阵，此时量子交叉熵由负对数似然下界限定。
• 利用推迟测量原理论证：避免早期测量可保持最小化量子交叉熵与最大化似然之间的等价性。
• 提供关于秩恒等式和秩-1投影算子下换位子条件的补充证明，以支持主要理论结论。

实验结果

研究问题

• RQ1 在量子领域中，经典上最小化交叉熵与最大化似然之间的等价性是否仍然成立？
• RQ2 量子测量如何影响量子交叉熵与似然最大化之间的关系？
• RQ3 所提出的量子交叉熵的数学结构及其性质集合是什么？
• RQ4 当基于测量数据构建时，量子交叉熵能否被负对数似然下界限定？
• RQ5 推迟测量原则在保持量子机器学习优化结构方面起到什么作用？

主要发现

• 已证明量子交叉熵 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $ 具有非负性、酉不变性、第二变量的凸性，以及联合凸性。
• 建立了紧致的下界：$ S(\rho,\sigma) \geq -\log F(\rho,\sigma) $，其中 $ F(\rho,\sigma) = \left(\text{tr} \sqrt{\rho\sigma}\right)^2 $ 为量子保真度。
• 当量子数据未受测量干扰时，最小化量子交叉熵在数学上等价于最大化似然函数。
• 当量子交叉熵基于测量结果构建的经验密度矩阵时，其由负对数似然下界限定，表明测量导致信息损失。
• 两种情形之间的差异——未受干扰 vs. 受测量影响的数据——表明，量子测量破坏了经典中交叉熵最小化与似然最大化之间的等价性。
• 本研究结论为：推迟测量原则对于保持交叉熵与似然的有利优化结构至关重要，是实现完整量子机器学习的关键。