[论文解读] QDCNN: Quantum Dilated Convolutional Neural Network

Yixiong Chen|arXiv (Cornell University)|Oct 29, 2021

Quantum Computing Algorithms and Architecture参考文献 53被引用 5

一句话总结

该论文提出QDCNN，一种混合量子-经典卷积神经网络，通过将空洞卷积分解到量子神经网络中，以更低的计算成本捕获更大的上下文感受野。通过使用膨胀率大于1的量子空洞卷积，QDCNN在MNIST和Fashion-MNIST数据集上相比标准QCNN，验证损失降低高达31.74%，准确率提高3%，同时由于减少了量子线路执行次数，训练时间最多缩短18.42%。

ABSTRACT

In recent years, with rapid progress in the development of quantum technologies, quantum machine learning has attracted a lot of interest. In particular, a family of hybrid quantum-classical neural networks, consisting of classical and quantum elements, has been massively explored for the purpose of improving the performance of classical neural networks. In this paper, we propose a novel hybrid quantum-classical algorithm called quantum dilated convolutional neural networks (QDCNNs). Our method extends the concept of dilated convolution, which has been widely applied in modern deep learning algorithms, to the context of hybrid neural networks. The proposed QDCNNs are able to capture larger context during the quantum convolution process while reducing the computational cost. We perform empirical experiments on MNIST and Fashion-MNIST datasets for the task of image recognition and demonstrate that QDCNN models generally enjoy better performances in terms of both accuracy and computation efficiency compared to existing quantum convolutional neural networks (QCNNs).

研究动机与目标

• 解决由于量子线路执行次数过多而导致训练量子卷积神经网络（QCNN）计算成本过高的问题。
• 通过在量子层中扩大感受野而不增加量子比特数或线路深度，提升模型性能。
• 将经典深度学习中已知能高效捕捉上下文信息的空洞卷积概念，适配至量子机器学习领域。
• 评估混合量子-经典架构中模型准确率、计算效率与量子资源使用之间的权衡。
• 证明量子空洞卷积在准确率和训练速度方面均优于标准量子卷积。

提出的方法

• QDCNN架构用量子空洞卷积（QDC）层替代标准量子卷积层，该层应用具有可控膨胀率的量子滤波器。
• 每个QDC层使用参数化量子线路处理输入特征，通过在感受野之间引入间隔（膨胀），扩大有效感受野大小。
• 通过跳过特征图中的中间位置，直接减少每张图像所需的量子线路执行次数，从而降低训练时间。
• QDCNN使用PennyLane结合Qulacs和default.qubit模拟器实现，支持非可训练与可训练的量子滤波器。
• 量子线路使用参数移位规则进行梯度计算，性能在模拟器和硬件兼容设置下均进行了评估。
• 该方法与PyTorch和TensorFlow兼容，可无缝集成至主流深度学习工作流中。

实验结果

研究问题

• RQ1 空洞卷积能否被有效适配至量子神经网络，以改善上下文建模？
• RQ2 与标准QCNN相比，使用量子空洞卷积是否能减少量子线路的执行次数？
• RQ3 增大膨胀率在多大程度上能提升量子卷积网络的分类准确率？
• RQ4 在图像识别任务中，QDCNN相较于标准QCNN在训练效率和模型准确率方面表现如何？
• RQ5 QDCNN能否在NISQ时代量子设备上维持或提升性能，同时降低计算开销？

主要发现

• QDCNN_r3在MNIST上达到91.00%的测试准确率，在Fashion-MNIST上达到81.00%，相比QCNN基线模型准确率提升3%。
• 在MNIST上，QDCNN_r3相比QCNN验证损失降低31.74%，表明优化和泛化能力显著提升。
• 在实验A中，由于量子线路执行次数减少，QDCNN模型相比QCNN将训练时间最多缩短15.24%。
• 在实验B中，尽管基线运行时间更高，QDCNN在使用反向传播进行梯度计算时，仍比QCNN实现最高18.42%的训练加速。
• 膨胀率r=3的QDCNN展现出最佳整体性能，证明更大的感受野可增强模型能力。
• 量子线路执行次数的减少——与r=1相比，每张图像减少27次执行（r=2和r=3）——直接导致了观察到的速度提升。