[论文解读] Classical-to-Quantum Transfer Learning for Spoken Command Recognition Based on Quantum Neural Networks

Jun Qi, Javier Tejedor|arXiv (Cornell University)|Oct 17, 2021

Quantum Computing Algorithms and Architecture被引用 12

一句话总结

该论文提出了一种混合经典-量子迁移学习框架，用于语音命令识别，采用与经典1D卷积神经网络（CNN）集成的变分量子线路（VQC）。通过将预训练的经典特征迁移至量子组件，实现在含噪声的NISQ设备上高效微调；模拟结果显示，该方法在仅使用0.00096 MB参数的情况下实现了94.58%的准确率，优于基线CNN-QNN模型，且接近经典CNN-DNN的性能，尽管量子参数极少。

ABSTRACT

This work investigates an extension of transfer learning applied in machine learning algorithms to the emerging hybrid end-to-end quantum neural network (QNN) for spoken command recognition (SCR). Our QNN-based SCR system is composed of classical and quantum components: (1) the classical part mainly relies on a 1D convolutional neural network (CNN) to extract speech features; (2) the quantum part is built upon the variational quantum circuit with a few learnable parameters. Since it is inefficient to train the hybrid end-to-end QNN from scratch on a noisy intermediate-scale quantum (NISQ) device, we put forth a hybrid transfer learning algorithm that allows a pre-trained classical network to be transferred to the classical part of the hybrid QNN model. The pre-trained classical network is further modified and augmented through jointly fine-tuning with a variational quantum circuit (VQC). The hybrid transfer learning methodology is particularly attractive for the task of QNN-based SCR because low-dimensional classical features are expected to be encoded into quantum states. We assess the hybrid transfer learning algorithm applied to the hybrid classical-quantum QNN for SCR on the Google speech command dataset, and our classical simulation results suggest that the hybrid transfer learning can boost our baseline performance on the SCR task.

研究动机与目标

• 为解决在含噪声的近似中规模量子（NISQ）设备上从零开始端到端训练混合经典-量子神经网络的低效问题。
• 探究预训练的经典模型是否能够提升量子神经网络在语音命令识别（SCR）中的性能。
• 开发一种迁移学习策略，利用经典特征提取网络初始化混合CNN-QNN模型的经典组件。
• 在无噪声和含噪声的量子线路条件下，评估混合迁移学习方法的鲁棒性与有效性。

提出的方法

• 设计了一种混合CNN-QNN架构，其中1D CNN提取经典语音特征，变分量子线路（VQC）使用量子态执行分类。
• 经典CNN组件通过预训练的CNN-DNN模型初始化，减少从零开始的完整微调需求。
• 实现两种迁移学习变体：CNN-QNN_2 固定CNN，仅微调VQC参数；CNN-QNN_3 联合微调CNN与VQC组件。
• 量子态编码通过8条通道线和4层重复VQC将低维经典特征映射为量子嵌入，共96个可训练参数。
• 在Google语音命令数据集上进行模拟，使用PennyLane-Qiskit模拟无噪声和含噪声的量子电路，并采用真实IBM Q 20量子比特设备的噪声配置。
• 通过交叉熵损失和测试集上的分类准确率评估模型性能，与经典基线及先前的QNN模型进行比较。

Fig. 1 : A framework of quantum neural network. $R_{X}(\cdot)$ , $R_{Y}(\cdot)$ , $R_{Z}(\cdot)$ separately denote Pauli rotation X, Y, Z gates. The circuits in the dash square correspond to the learnable model with the repeated copies.

实验结果

研究问题

• RQ1 预训练的经典深度学习模型能否有效用于初始化混合经典-量子神经网络中经典组件的语音命令识别？
• RQ2 与从零开始训练混合CNN-QNN相比，混合经典-量子迁移学习是否能提升分类准确率并降低模型复杂度？
• RQ3 在典型NISQ设备中常见的含噪声量子电路条件下，该混合迁移学习框架的性能如何扩展？
• RQ4 所提方法能否在远少于经典DNN基线参数量的情况下实现具有竞争力的性能？

主要发现

• CNN-QNN_2模型（固定预训练CNN，仅微调VQC）在仅使用0.00096 MB参数的情况下实现了94.58%的测试准确率，略高于经典CNN-DNN（94.42%准确率），且参数量显著更少。
• CNN-QNN_3模型（联合微调CNN与VQC）在无噪声条件下实现了最高的94.87%测试准确率，表明全参数优化的优势。
• 在含噪声的量子电路中，CNN-QNN_2模型保持优异性能，准确率达93.38%，交叉熵损失为0.274，与经典CNN-DNN基线（94.42%准确率，0.251损失）相比仍具竞争力。
• CNN-QNN_3模型在含噪声条件下实现93.84%准确率，表明联合微调在噪声环境下仍能保持性能，尽管未超越经典基线。
• 混合迁移学习方法显著减少了量子组件中的可训练参数数量，同时保持或提升了分类性能，表明其在NISQ时代量子机器学习中具有高度效率。
• 结果表明，未来容错量子计算机有望进一步提升该混合迁移学习框架的性能，尤其对CNN-QNN_3这类联合优化经典与量子组件的模型而言。

Fig. 2 : Unitary matrices of the quantum gates.