[논문 리뷰] QDCNN: Quantum Dilated Convolutional Neural Network

Yixiong Chen|arXiv (Cornell University)|2021. 10. 29.

Quantum Computing Algorithms and Architecture참고 문헌 53인용 수 5

한 줄 요약

이 논문은 확장된 컨volution을 양자 신경망에 통합하여 더 넓은 문맥적 수용 영역을 더 낮은 계산 비용으로 캡처하는 하이브리드 양자-고전 컨볼루션 신경망인 QDCNN을 제안한다. 확장률 >1인 양자 확장 컨볼루션을 사용함으로써, MNIST 및 Fashion-MNIST에서 표준 QCNN보다 최대 31.74% 낮은 검증 손실과 3% 높은 정확도를 달성하면서도, 더 적은 양자 회로 실행 횟수로 인해 학습 시간을 최대 18.42% 단축시킨다.

ABSTRACT

In recent years, with rapid progress in the development of quantum technologies, quantum machine learning has attracted a lot of interest. In particular, a family of hybrid quantum-classical neural networks, consisting of classical and quantum elements, has been massively explored for the purpose of improving the performance of classical neural networks. In this paper, we propose a novel hybrid quantum-classical algorithm called quantum dilated convolutional neural networks (QDCNNs). Our method extends the concept of dilated convolution, which has been widely applied in modern deep learning algorithms, to the context of hybrid neural networks. The proposed QDCNNs are able to capture larger context during the quantum convolution process while reducing the computational cost. We perform empirical experiments on MNIST and Fashion-MNIST datasets for the task of image recognition and demonstrate that QDCNN models generally enjoy better performances in terms of both accuracy and computation efficiency compared to existing quantum convolutional neural networks (QCNNs).

연구 동기 및 목표

• 과도한 양자 회로 실행으로 인한 양자 컨볼루션 신경망(QCNN) 학습의 높은 계산 비용을 해결하기 위해.
• 큐비트 수나 회로 깊이를 늘리지 않고도 양자 레이어에서 더 큰 수용 영역을 가능하게 하여 모델 성능을 향상시키기 위해.
• 딥러닝에서 효율적인 문맥 캡처로 유명한 고전적 확장 컨볼루션 개념을 양자 기계학습 분야에 적응시키기 위해.
• 하이브리드 양자-고전 아키텍처에서 모델 정확도, 계산 효율성, 양자 자원 사용 간의 상호 상충 관계를 평가하기 위해.
• 양자 확장 컨볼루션은 정확도와 학습 속도 측면에서 표준 양자 컨볼루션보다 뛰어나다는 것을 입증하기 위해.

제안 방법

• QDCNN 아키텍처는 표준 양자 컨볼루션 레이어를 확장률 제어가 가능한 양자 확장 컨볼루션(QDC) 레이어로 대체한다.
• 각 QDC 레이어는 수용 영역 간격(확장)을 가진 양자 필터를 적용하여 입력 특징을 처리하며, 이로 인해 효과적인 수용 영역 크기가 증가한다.
• 특징 맵의 중간 위치를 건너뛰어 각 이미지당 필요한 양자 회로 실행 횟수를 줄임으로써 학습 시간을 직접적으로 감소시킨다.
• PennyLane을 사용하여 Qulacs 및 default.qubit 시뮬레이터를 지원하는 QDCNN은 비학습 가능 및 학습 가능한 양자 필터를 모두 지원한다.
• 양자 회로는 기울기 계산을 위해 파라미터 이동 규칙을 사용하여 학습되며, 시뮬레이터 및 하드웨어 호환 설정 모두에서 성능 평가가 이루어진다.
• 이 방법은 PyTorch 및 TensorFlow와 호환되어 메인스트림 딥러닝 워크플로우에 통합될 수 있다.

실험 결과

연구 질문

• RQ1 확장 컨볼루션은 양자 신경망에 효과적으로 적응시킬 수 있는가? 문맥 모델링 향상에 기여하는가?
• RQ2 표준 QCNN에 비해 양자 확장 컨볼루션을 사용할 경우, 양자 회로 실행 횟수가 감소하는가?
• RQ3 확장률을 높일수록 양자 컨볼루션 네트워크의 분류 정확도는 어느 정도 향상되는가?
• RQ4 이미지 인식 작업에서 표준 QCNN에 비해 QDCNN의 학습 효율성과 모델 정확도는 어떻게 평가되는가?
• RQ5 NISQ 시대의 양자 장치에서 계산 오버헤드를 줄이면서도 QDCNN은 성능을 유지하거나 향상시킬 수 있는가?

주요 결과

• QDCNN_r3는 MNIST에서 91.00%의 테스트 정확도, Fashion-MNIST에서 81.00%의 정확도를 달성하여 QCNN 기준선보다 정확도 3% 향상.
• MNIST에서 QDCNN_r3는 QCNN 대비 검증 손실을 31.74% 감소시켜 최적화 및 일반화 능력 향상의 뚜렷한 증거를 제시.
• 실험 A에서 QDCNN 모델은 QCNN 대비 최대 15.24% 빠른 학습 시간을 기록했으며, 이는 더 적은 양자 회로 실행 횟수 때문이었다.
• 역전파를 사용한 실험 B에서도 QDCNN은 QCNN 대비 최대 18.42% 더 빠른 학습을 달성했으며, 이는 높은 기준 런타임에도 불구하고 성능 향상이 지속됨을 시사.
• 확장률 r=3을 가진 QDCNN이 가장 우수한 종합 성능를 보였으며, 더 넓은 수용 영역이 모델 능력을 향상시킨다는 것을 입증.
• r=2 및 r=3일 경우 r=1 대비 이미지당 27회 더 적은 양자 회로 실행 횟수로 인해 관측된 속도 향상이 직접적으로 기인함.