[论文解读] Classical-to-quantum convolutional neural network transfer learning

Juhyeon Kim, Joonsuk Huh+1 more|arXiv (Cornell University)|Aug 31, 2022

Quantum Computing Algorithms and Architecture参考文献 56被引用 6

一句话总结

本文提出了一种经典到量子的迁移学习框架，利用预训练的经典卷积神经网络（CNN）来初始化量子卷积神经网络（QCNN），从而在量子线路深度极低的情况下实现对MNIST数据的高性能分类。该方法在经典迁移学习基础上实现了统计上显著的准确率提升，展示了在近期含噪声中等规模量子（NISQ）时代使用小规模量子线路的量子优势。

ABSTRACT

Machine learning using quantum convolutional neural networks (QCNNs) has demonstrated success in both quantum and classical data classification. In previous studies, QCNNs attained a higher classification accuracy than their classical counterparts under the same training conditions in the few-parameter regime. However, the general performance of large-scale quantum models is difficult to examine because of the limited size of quantum circuits, which can be reliably implemented in the near future. We propose transfer learning as an effective strategy for utilizing small QCNNs in the noisy intermediate-scale quantum era to the full extent. In the classical-to-quantum transfer learning framework, a QCNN can solve complex classification problems without requiring a large-scale quantum circuit by utilizing a pre-trained classical convolutional neural network (CNN). We perform numerical simulations of QCNN models with various sets of quantum convolution and pooling operations for MNIST data classification under transfer learning, in which a classical CNN is trained with Fashion-MNIST data. The results show that transfer learning from classical to quantum CNN performs considerably better than purely classical transfer learning models under similar training conditions.

研究动机与目标

• 为解决近期量子设备中量子线路规模受限的问题，实现对小规模量子模型的有效利用。
• 探究通过经典CNN进行迁移学习训练的量子卷积神经网络（QCNN）是否能超越经典模型。
• 证明从经典CNN向QCNN的知识迁移可避免经典数据维度压缩，同时在受限的量子资源下提升分类准确率。
• 通过统计显著性检验比较QCNN与经典迁移学习基线模型的性能，验证迁移学习中存在量子优势。

提出的方法

• 对预训练的经典CNN在Fashion-MNIST数据上进行微调，并用于提取MNIST分类的特征表示。
• 将提取的特征映射为量子比特态，并输入具有分层、浅层深度结构的QCNN，以保持量子优势。
• 对输入量子比特应用量子卷积和池化操作——具体为ZX、广义池化和平凡池化，以处理空间特征。
• 采用混合量子-经典优化循环训练QCNN，其中梯度通过参数移位规则计算，并在经典端更新。
• 通过使用经典CNN学习到的权重初始化QCNN来实现迁移学习，从而减少对大规模量子线路的需求。
• 使用Welch's t检验（α = 0.05）评估性能差异的统计显著性，以确定是否存在量子优势。

实验结果

研究问题

• RQ1 通过经典到量子迁移学习训练的QCNN是否能在量子线路深度极低的情况下，实现比经典迁移学习模型更高的MNIST分类准确率？
• RQ2 所提出的C2Q迁移学习框架是否避免了对经典数据进行维度压缩，同时保持或提升性能？
• RQ3 在C2Q迁移学习设置中，哪种量子池化策略——ZX、广义池化或平凡池化——能带来最显著的统计性能提升？
• RQ4 QCNN相较于经典模型的性能提升是否具有统计显著性，表明在NISQ时代存在潜在的量子优势？

主要发现

• 经典到量子迁移学习框架在多种配置下均实现了相对于经典迁移学习模型的统计显著准确率提升，p值均低于0.05。
• 在使用2D CNN与广义池化的8 vs. 9分类任务中，C2Q模型的p值为0.0002，表明具有极强的统计显著性，且准确率高于经典基线。
• 在使用1D CNN与ZX池化的0 vs. 1分类任务中，C2Q模型的p值为0.0312，显示出统计显著优势。
• 在2D CNN与广义池化、76个参数的设置下，8 vs. 9任务的p值为0.0002，表明在多个学习任务中均保持一致的优越性。
• 该方法通过将经典CNN作为特征提取器，成功避免了对经典数据的维度压缩，直接将输出馈送到量子模型。
• 结果证实，在相同参数约束下，通过C2Q迁移学习训练的QCNN可超越经典模型，表明为NISQ设备实现量子优势提供了可行路径。