[论文解读] Embedding Learning in Hybrid Quantum-Classical Neural Networks

Henry X. Liu, Junyu Liu+5 more|arXiv (Cornell University)|Apr 9, 2022

Quantum Computing Algorithms and Architecture被引用 4

一句话总结

本文提出了一种量子少样本学习范式，通过从经典数据训练量子嵌入，利用混合量子-经典神经网络提升泛化能力并减少电路旁路问题——即经典参数无法充分利用量子希尔伯特空间的问题。该方法在未见类别上表现出更优的泛化性能，并在量子态空间中保持了较高的几何分离度，优于经典距离度量和现有嵌入方法。

ABSTRACT

Quantum embedding learning is an important step in the application of quantum machine learning to classical data. In this paper we propose a quantum few-shot embedding learning paradigm, which learns embeddings useful for training downstream quantum machine learning tasks. Crucially, we identify the circuit bypass problem in hybrid neural networks, where learned classical parameters do not utilize the Hilbert space efficiently. We observe that the few-shot learned embeddings generalize to unseen classes and suffer less from the circuit bypass problem compared with other approaches.

研究动机与目标

• 开发一种量子少样本学习范式，从经典数据中学习通用的量子嵌入，以支持下游量子机器学习任务。
• 解决混合量子-经典神经网络中的电路旁路问题，即经典参数无法有效利用完整希尔伯特空间的问题。
• 与现有经典和量子嵌入方法相比，提升嵌入在未见类别上的泛化能力。
• 通过新型张量网络模拟与深度学习框架的集成，实现大规模高量子比特量子电路的仿真。
• 研究正则化策略，以促进高维、几何上分明的量子嵌入，从而释放潜在的量子优势。

提出的方法

• 采用混合量子-经典神经网络架构，包含一个经典特征提取器，后接参数化量子线路（PQC）用于嵌入。
• 采用基于原型网络的模型方法实现少样本学习，通过在支持集和查询集上进行度量学习来优化嵌入。
• 应用包含三个变分层的两量子比特量子电路方案，并通过单量子比特旋转将经典特征编码为量子态。
• 引入一种正则化策略，在损失函数中减去流形维度，以抑制低维嵌入，促进高维量子态空间中的分离。
• 在近场量子设备上使用Hadamard测试来估计量子嵌入之间的复内积。
• 开发QTensorAI，一个混合仿真库，将张量网络方法与PyTorch集成，实现大规模量子电路的可扩展、高保真仿真。

实验结果

研究问题

• RQ1 量子少样本学习能否在少样本设置下生成对未见类别具有有效泛化能力的嵌入？
• RQ2 电路旁路问题在混合量子-经典神经网络的嵌入学习中如何影响性能？
• RQ3 在少样本分类中，量子嵌入在多大程度上优于经典距离度量（如余弦或欧氏距离）？
• RQ4 惩罚低维流形的正则化技术能否提升量子嵌入的几何表达能力？
• RQ5 所提出的方法即使在有限数据上训练，是否仍能保持希尔伯特空间中的高几何分离度？

主要发现

• 所提出的量子少样本嵌入方法在未见类别上表现出有效的泛化能力，在少样本分类任务中优于经典基线方法。
• 通过少样本学习获得的量子嵌入相比其他方法显著减少了电路旁路问题，保持了对高维希尔伯特空间的有效利用。
• 该方法在少样本准确率上优于经典余弦距离度量，并与经典欧氏距离度量相当或更优，尽管尚未展现出量子加速优势。
• 在损失函数中减去流形维度的正则化策略成功抑制了低维嵌入，并增强了量子态空间中的几何分离度。
• 通过QTensorAI将张量网络仿真与深度学习框架集成，实现了超过15量子比特电路的可靠大规模仿真，验证了大规模结果的可靠性。
• Hadamard测试被成功应用于估计量子嵌入之间的内积，使度量学习方案能够在真实设备上实现。