[논문 리뷰] QDNN: DNN with Quantum Neural Network Layers

Chen Zhao, Xiao-Shan Gao|arXiv (Cornell University)|2019. 12. 29.

Quantum Computing Algorithms and Architecture참고 문헌 38인용 수 12

한 줄 요약

이 논문은 표현 능력을 향상시키기 위해 양자 회로를 신경망 레이어로 통합한 하이브리드 양자-고전적 딥 뉴럴 네트워크인 QDNN을 제안한다. 입력을 양자 회로를 통해 비선형으로 인코딩하고 하이브리드 양자-고전적 학습 기반을 사용함으로써, QDNN는 오직 8 큐비트만으로도 MNIST 이미지 분류에서 99.29%의 정확도를 달성하며, 근접한 NISQ 장치에서 실현 가능한 것으로 입증되었다. 이는 고전적 DNN보다 뛰어난 표현 능력을 지닌다.

ABSTRACT

In this paper, we introduce a quantum extension of classical DNN, QDNN. The QDNN consisting of quantum structured layers can uniformly approximate any continuous function and has more representation power than the classical DNN. It still keeps the advantages of the classical DNN such as the non-linear activation, the multi-layer structure, and the efficient backpropagation training algorithm. Moreover, the QDNN can be used on near-term noisy intermediate-scale quantum processors. A numerical experiment for image classification based on quantum DNN is given, where a high accuracy rate is achieved.

연구 동기 및 목표

• 고전적 DNN보다 표현 능력이 뛰어난 양자 강화 딥 뉴럴 네트워크 아키텍처를 개발하는 것.
• 유니터리 연산으로 인해 본질적으로 선형인 양자 회로에서 비선형성을 도입하는 데 도전하는 것.
• 노이즈가 많은 중간 규모 양자(NISQ) 프로세서와 호환되는 학습 가능한 하이브리드 양자-고전적 모델을 설계하는 것.
• 실제 응용 분야인 이미지 분류와 같은 표준 기계학습 과제에서 제안된 모델의 실현 가능성과 성능을 입증하는 것.
• QDNN가 고전적으로 효율적으로 시뮬레이션될 수 없음을 이론적·실험적으로 입증함으로써 표현 능력에서의 양자 우월성을 보여주는 것.

제안 방법

• 입력을 비선형적으로 인코딩하기 위해 파arameterized quantum circuits(PQCs)를 사용하는 양자 신경망 레이어(QNNLs)를 도입하며, 이는 고전적 신경망 레이어의 양자적 대응이다.
• 양자 회로가 데이터를 처리하고 고전적 최적화 알고리즘이 기울기 기반 역전파를 통해 파라미터를 업데이트하는 하이브리드 양자-고전적 학습 기반을 사용한다.
• RZ, RX 및 얽힘 게이트를 사용한 파arameterized quantum circuits를 활용해 양자 특징 공간 내에서 비선형 변환을 구현한다.
• 각 QNNL의 출력을 파울리 연산자 기대값(예: ⟨H_{i,Y}⟩, ⟨H_{i,Z}⟩)으로 정의하여 양자 측정 결과를 고전적 벡터로 매핑한다.
• 표준 딥 러닝 구성요소인 활성화 함수, 편향 항, 손실 함수(예: 평균 제곱 오차)를 양자 레이어 프레임워크 내에서 활용한다.
• Julia의 Yao.jl 양자 시뮬레이터를 사용해 학습 및 평가를 수행하며, 고전적 데스크톱 시스템에서 Adam 최적화 및 배치 처리를 적용한다.

실험 결과

연구 질문

• RQ1 양자 구조 레이어를 갖춘 딥 뉴럴 네트워크가 고전적 DNN보다 더 뛰어난 표현 능력을 가지는가?
• RQ2 유니터리 성질로 인해 본질적으로 선형인 양자 회로 프레임워크에서 비선형성을 효과적으로 도입할 수 있는가?
• RQ3 근접한 양자 하드웨어에 적합한 기울기 기반 방법을 사용해 하이브리드 양자-고전적 모델을 효율적으로 학습시킬 수 있는가?
• RQ4 이러한 모델이 MNIST 이미지 분류와 같은 표준 기계학습 벤치마크에서 실질적인 성능을 보이는가?
• RQ5 QDNN 모델은 고전적 DNN보다 본질적으로 더 표현 능력이 뛰어나며, 이는 이론적 한계나 시뮬레이션을 통해 입증될 수 있는가?

주요 결과

• QDNN 모델은 오직 8 큐비트만으로도 MNIST 이미지 분류 과제에서 테스트 정확도 99.29%를 달성하여 뛰어난 실험적 성능를 입증하였다.
• 이론적으로 QDNN가 고전적 DNN보다 더 뛰어난 표현 능력을 지닌다는 것이 증명되었으며, 이는 유니버설 양자 계산이 고전적으로 시뮬레이션 가능하지 않다면, QDNN는 고전적으로 효율적으로 시뮬레이션될 수 없기 때문이다.
• 하이브리드 양자-고전적 학습 알고리즘은 역전파 유사 최적화를 가능하게 하여 현재 NISQ 장치에서 모델을 학습시킬 수 있도록 한다.
• 파라미터화된 양자 회로의 사용은 다항식 수준의 파라미터로도 지수적 크기의 힐베르트 공간에 접근할 수 있게 하여 특징 학습 능력을 향상시킨다.
• 모델는 비선형 활성화, 깊은 아키텍처, 효율적 학습과 같은 고전적 DNN의 주요 이점을 유지하면서도, 양자 기반의 표현 능력을 추가한다.
• 수치 실험은 QDNN가 기존 양자 하드웨어, 예를 들어 구글의 53큐비트 초전도 양자 프로세서에서도 최소한의 큐비트 오버헤드로 실현 가능하다는 것을 확인한다.