[论文解读] Quantum-Classical Machine learning by Hybrid Tensor Networks

Ding Liu, Yao, Jiaqi+2 more|arXiv (Cornell University)|May 15, 2020

Quantum many-body systems参考文献 37被引用 5

一句话总结

本文提出混合张量网络（HTN），一种统一的深度学习框架，将经典神经网络与张量网络相结合，以克服常规张量网络在机器学习中应用的局限性。通过引入神经网络单元中的非线性激活函数，HTN 实现了通用近似能力，并可通过反向传播和随机梯度下降实现端到端训练，在量子-经典学习任务（如量子态分类和量子数据自动编码）中表现出色。

ABSTRACT

Tensor networks (TN) have found a wide use in machine learning, and in particular, TN and deep learning bear striking similarities. In this work, we propose the quantum-classical hybrid tensor networks (HTN) which combine tensor networks with classical neural networks in a uniform deep learning framework to overcome the limitations of regular tensor networks in machine learning. We first analyze the limitations of regular tensor networks in the applications of machine learning involving the representation power and architecture scalability. We conclude that in fact the regular tensor networks are not competent to be the basic building blocks of deep learning. Then, we discuss the performance of HTN which overcome all the deficiency of regular tensor networks for machine learning. In this sense, we are able to train HTN in the deep learning way which is the standard combination of algorithms such as Back Propagation and Stochastic Gradient Descent. We finally provide two applicable cases to show the potential applications of HTN, including quantum states classification and quantum-classical autoencoder. These cases also demonstrate the great potentiality to design various HTN in deep learning way.

研究动机与目标

• 解决常规张量网络在机器学习中的根本局限，特别是缺乏非线性激活函数及可扩展性差的问题。
• 开发一种统一的深度学习框架，无缝集成经典神经网络与张量网络，以增强表示能力。
• 通过标准深度学习算法（如反向传播和随机梯度下降）实现混合架构的端到端训练。
• 探索 HTN 在量子-经典机器学习中的潜力，包括量子态分类和量子数据自动编码。
• 通过利用混合量子-经典模型中的纠缠和保真度，为量子特征工程奠定基础。

提出的方法

• 提出一种通用的混合张量网络（HTN）框架，支持任意组合经典神经网络（如全连接网络、卷积神经网络、循环神经网络）与张量网络（如MPS、PEPS、TTN）。
• 通过经典神经网络层引入非线性激活函数，以克服常规张量网络在通用近似能力上的局限。
• 采用标准深度学习优化技术——反向传播和随机梯度下降——对整个 HTN 架构实现端到端训练。
• 设计模块化 HTN 架构，支持在任意网络阶段灵活集成张量网络结构与神经网络层。
• 利用张量网络分解（如 TTN）表示量子态与过程，尤其适用于乘积态和纠缠态。
• 在自动编码任务中采用 PSNR 和保真度指标评估重建质量，并通过基于网格的压缩方法调节中间表示规模。

实验结果

研究问题

• RQ1 通过将非线性神经网络组件与张量网络结合，能否使张量网络在机器学习中成为通用近似器？
• RQ2 与常规张量网络相比，张量网络与神经网络的混合架构在可扩展性和表示能力方面有何提升？
• RQ3 HTN 在可微分、端到端可训练的前提下，能在多大程度上有效学习和重建量子态（包括纠缠态和乘积态）？
• RQ4 HTN 是否可作为量子特征工程的可行框架，特别是在提取和利用纠缠和保真度等量子特性方面？
• RQ5 在不同数据集（如 MNIST、Fashion-MNIST）上，HTN 在量子态分类和量子自动编码等实际任务中的性能表现如何？

主要发现

• 由于缺乏非线性激活函数且可扩展性差，常规张量网络并非通用近似器，限制了其作为深度学习中构建模块的应用。
• HTN 通过引入经典神经网络单元中的非线性激活函数，克服了这些局限，实现了通用近似能力与更强的表示能力。
• HTN 支持使用反向传播和随机梯度下降等标准深度学习算法进行端到端训练，支持灵活且可扩展的架构设计。
• 在量子态分类任务中，HTN 达到了高准确率，证明其能有效处理乘积态和纠缠态。
• 在 MNIST 和 Fashion-MNIST 的量子-经典自动编码实验中，HTN 在较大中间表示网格（如 8×8）下实现了更高的 PSNR 分数，表明重建保真度更优。
• 该框架实现了压缩率与重建质量之间的平衡，较小的网格（如 2×2）实现更高压缩率但 PSNR 较低，验证了其在量子信息处理中的实际应用价值。