[논문 리뷰] Classical-to-Quantum Transfer Learning for Spoken Command Recognition Based on Quantum Neural Networks

Jun Qi, Javier Tejedor|arXiv (Cornell University)|2021. 10. 17.

Quantum Computing Algorithms and Architecture인용 수 12

한 줄 요약

이 논문은 1D CNN와 변분 양자 회로(VQC)를 통합한 하이브리드 고전-양자 전이 학습 프레임워크를 제안한다. 사전 훈련된 고전적 특징은 양자 구성요소로 전이되어 NISQ 장치에서 효율적인 미세조정을 가능하게 하며, 시뮬레이션 결과 이 방법은 0.00096 MB의 파라미터로 94.58%의 정확도를 달성한다. 이는 기준 CNN-QNN 성능을 뛰어넘고 고전적 CNN-DNN 성능에 가까워지며, 극히 적은 양자 파라미터를 사용한다.

ABSTRACT

This work investigates an extension of transfer learning applied in machine learning algorithms to the emerging hybrid end-to-end quantum neural network (QNN) for spoken command recognition (SCR). Our QNN-based SCR system is composed of classical and quantum components: (1) the classical part mainly relies on a 1D convolutional neural network (CNN) to extract speech features; (2) the quantum part is built upon the variational quantum circuit with a few learnable parameters. Since it is inefficient to train the hybrid end-to-end QNN from scratch on a noisy intermediate-scale quantum (NISQ) device, we put forth a hybrid transfer learning algorithm that allows a pre-trained classical network to be transferred to the classical part of the hybrid QNN model. The pre-trained classical network is further modified and augmented through jointly fine-tuning with a variational quantum circuit (VQC). The hybrid transfer learning methodology is particularly attractive for the task of QNN-based SCR because low-dimensional classical features are expected to be encoded into quantum states. We assess the hybrid transfer learning algorithm applied to the hybrid classical-quantum QNN for SCR on the Google speech command dataset, and our classical simulation results suggest that the hybrid transfer learning can boost our baseline performance on the SCR task.

연구 동기 및 목표

• 노이즈가 있는 중간 규모 양자(NISQ) 장치에서 하이브리드 고전-양자 신경망을 끝내기까지 훈련하는 데 드는 비효율성을 해결하기 위해.
• 사전 훈련된 고전적 모델이 음성 명령 인식(SCR)에서 양자 신경망 성능을 향상시킬 수 있는지 탐색하기 위해.
• 하이브리드 CNN-QNN 모델의 고전적 구성요소를 초기화하기 위해 고전적 특징 추출 네트워크를 활용하는 전이 학습 전략을 개발하기 위해.
• 노이즈 없는 조건과 노이즈 있는 양자 회로 조건에서 하이브리드 전이 학습 접근법의 강건성과 효율성을 평가하기 위해.

제안 방법

• 1D CNN가 고전적 음성 특징을 추출하고, 변분 양자 회로(VQC)가 양자 상태를 사용해 분류를 수행하는 하이브리드 CNN-QNN 아키텍처를 설계한다.
• 고전적 CNN 구성요소는 사전 훈련된 CNN-DNN 모델을 사용해 초기화되어, 전체 재훈련이 필요로 하는 것을 줄인다.
• 두 가지 전이 학습 변형을 구현한다: CNN-QNN_2는 CNN을 고정하고 오직 VQC 파라미터만 미세조정한다; CNN-QNN_3는 CNN과 VQC 구성요소를 함께 미세조정한다.
• 양자 상태 인코딩은 8개의 채널 웨이어와 4회의 반복된 VQC 레이어를 사용해 저차원 고전적 특징을 양자 임bedding으로 매핑하며, 총 96개의 훈련 가능한 파라미터를 갖는다.
• 시뮬레이션은 구글 음성 명령 데이터셋을 사용해 수행되며, 노이즈 없는 양자 회로와 노이즈 있는 양자 회로를 펜릴레인-퀴스킷을 통해 에뮬레이션하고, 실제 IBM Q 20-qubit 장치의 노이즈 프로파일을 적용한다.
• 모델 성능은 테스트 세트에서 교차 엔트로피 손실과 분류 정확도를 사용해 평가되며, 고전적 기준 모델과 이전 QNN 모델과 비교된다.

Fig. 1 : A framework of quantum neural network. $R_{X}(\cdot)$ , $R_{Y}(\cdot)$ , $R_{Z}(\cdot)$ separately denote Pauli rotation X, Y, Z gates. The circuits in the dash square correspond to the learnable model with the repeated copies.

실험 결과

연구 질문

• RQ1 사전 훈련된 고전적 딥 러닝 모델이 음성 명령 인식을 위한 하이브리드 고전-양자 신경망의 고전적 구성요소를 초기화하는 데 효과적으로 전이될 수 있는가?
• RQ2 하이브리드 고전-양자 전이 학습이 하이브리드 CNN-QNN를 끝내기까지 훈련하는 것과 비교해 분류 정확도를 향상시키고 모델 복잡도를 감소시키는가?
• RQ3 NISQ 장치에서 일반적인 노이즈가 있는 양자 회로 조건에서 하이브리드 전이 학습 프레임워크의 성능은 어떻게 스케일링되는가?
• RQ4 제안된 방법이 고전적 DNN 기준 모델보다 훨씬 적은 파라미터로 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• CNN-QNN_2 모델은 사전 훈련된 CNN를 고정하고 오직 VQC만 미세조정하며, 단지 0.00096 MB의 파라미터로 94.58%의 테스트 정확도를 달성한다. 이는 더 적은 파라미터를 사용하면서도 고전적 CNN-DNN(94.42% 정확도)를 略로 뛰어넘는다.
• CNN-QNN_3 모델은 노이즈 없는 조건에서 가장 높은 테스트 정확도 94.87%를 기록하며, 모든 파라미터 최적화의 이점을 보여준다.
• 노이즈 있는 양자 회로 조건에서는 CNN-QNN_2 모델이 93.38%의 정확도와 0.274의 교차 엔트로피 손실을 기록하며, 고전적 CNN-DNN 기준 모델(94.42% 정확도, 0.251 손실)과 경쟁 가능하다.
• CNN-QNN_3 모델은 노이즈 조건에서도 93.84%의 정확도를 기록하며, 공동 미세조정이 노이즈에도 불구하고 성능을 유지함을 보여주지만, 고전적 기준 모델을 능가하지는 못한다.
• 하이브리드 전이 학습 접근법은 양자 구성요소의 훈련 가능한 파라미터 수를 크게 줄였지만 분류 성능은 유지하거나 향상시켰으며, NISQ 시대의 양자 기계학습에 있어 높은 효율성을 나타낸다.
• 결과는 향후 고장내성 양자 컴퓨터가 CNN-QNN_3와 같이 고전적 및 양자 구성요소를 함께 최적화하는 모델의 성능을 더욱 향상시킬 수 있음을 시사한다.

Fig. 2 : Unitary matrices of the quantum gates.