[논문 리뷰] Quanvolutional Neural Networks: Powering Image Recognition with Quantum Circuits

M. Todd Henderson, Samriddhi Shakya외 2명|arXiv (Cornell University)|2019. 04. 09.

Quantum Computing Algorithms and Architecture인용 수 12

한 줄 요약

이 논문은 이미지 데이터에서 특징을 추출하기 위해 전통적인 컨볼루션 레이어를 양자 회로로 대체하는 하이브리드 양자-고전적 아키텍처인 쿼런볼루션 신경망(QNNs)을 소개한다. 실험적으로 QNNs는 MNIST에서 높은 테스트 정확도(95% 이상)와 더 빠른 학습을 달성했지만, 고전적 랜덤 비선형성에 비해 양자 우월성은 입증되지 않았다.

ABSTRACT

Convolutional neural networks (CNNs) have rapidly risen in popularity for many machine learning applications, particularly in the field of image recognition. Much of the benefit generated from these networks comes from their ability to extract features from the data in a hierarchical manner. These features are extracted using various transformational layers, notably the convolutional layer which gives the model its name. In this work, we introduce a new type of transformational layer called a quantum convolution, or quanvolutional layer. Quanvolutional layers operate on input data by locally transforming the data using a number of random quantum circuits, in a way that is similar to the transformations performed by random convolutional filter layers. Provided these quantum transformations produce meaningful features for classification purposes, then the overall algorithm could be quite useful for near term quantum computing, because it requires small quantum circuits with little to no error correction. In this work, we empirically evaluated the potential benefit of these quantum transformations by comparing three types of models built on the MNIST dataset: CNNs, quantum convolutional neural networks (QNNs), and CNNs with additional non-linearities introduced. Our results showed that the QNN models had both higher test set accuracy as well as faster training compared to the purely classical CNNs.

연구 동기 및 목표

• 쿼런볼루션 레이어를 도입하여 양자 회로를 딥 러닝에 통합해 이미지 인식에 활용하는 방법을 탐색한다.
• 하이브리드 양자-고전 신경망 아키텍처에서 양자 변환 기반의 분류 성능 향상 여부를 평가한다.
• 근시적 노이즈가 있는 중규모 양자(NISQ) 장치를 머신러닝 응용에 활용할 수 있는지의 가능성을 평가한다.
• 쿼런볼루션 레이어가 고전적 비선형 변환보다 성능 우월성을 제공하는지 확인한다.
• 쿼런볼루션 레이어가 생성한 특징이 스케일업 시 고전적으로 해석하기 어려운지, 즉 양자 우월성을 위한 필수 조건인지 조사한다.

제안 방법

• 기존 CNN의 표준 컨볼루션 레이어를 국소 이미지 패치에 무작위 양자 회로를 적용하는 쿼런볼루션 레이어로 대체한다.
• NISQ 장치와의 호환성을 유지하기 위해 얕고 오류에 강건한 양자 회로를 사용하며, 큐비트 수는 5~10개, 게이트 깊이도 낮게 유지한다.
• 양자 변환을 적용하기 전에 고전적 이미지 데이터를 진폭 인코딩 또는 유사 방법으로 양자 상태로 인코딩한다.
• 백프로파게이션을 사용해 전체 QNN을 학습시키며, 양자 회로를 미분 가능한 비선형 특징 추출기로 활용한다.
• MNIST 데이터셋에서 QNN의 성능을 표준 CNN 및 고전적 랜덤 비선형성을 사용한 모델과 비교한다.
• 모델 성능 평가 및 수렴 여부 평가를 위해 주로 테스트 정확도와 학습 로스 손실을 사용한다.

실험 결과

연구 질문

• RQ1 무작위 양자 회로로 구현된 쿼런볼루션 레이어가 고전적 컨볼루션 레이어보다 이미지 분류 정확도를 향상시키는가?
• RQ2 신경망에 양자 변환을 적용할 경우 고전적 대안 대비 더 빠른 학습 수렴이 이루어지는가?
• RQ3 QNN와 고전적 랜덤 비선형성을 사용한 모델 간에 측정 가능한 성능 격차가 존재하는가? 이는 잠재적 양자 우월성을 시사하는가?
• RQ4 쿼런볼루션 레이어가 생성한 특징들이 스케일업 시 고전적으로 해석하기 어려운가? 이는 양자 우월성을 위한 필수 조건이다.
• RQ5 쿼런볼루션 필터의 수와 회로 깊이가 모델 성능 및 수렴에 어떤 영향을 미치는가?

주요 결과

• QNNs는 MNIST 데이터셋에서 테스트 세트 정확도가 95%를 초과하여 표준 딥 CNN과 유사한 뛰어난 성능을 보였다.
• QNN 모델은 고전적 CNN 대비 더 빠르게 학습을 완료했으며, 이는 양자 특징 추출이 효율성 향상에 기여할 수 있음을 시사한다.
• QNN와 고전적 랜덤 비선형성을 사용한 모델 간 성능에 유의미한 차이가 없었으며, 이는 이 설정에서 명백한 양자 우월성이 없음을 시사한다.
• 쿼런볼루션 필터 수를 늘릴수록 정확도가 향상되다가趋세에 도달했으며, 이는 고전적 CNN과 유사했고, 25~50개 이상에서는 거의 향상되지 않았다.
• 쿼런볼루션 레이어는 네트워크 스택 내에서 예상대로 작동했으며, 필터 수와 학습 반복 횟수가 증가할수록 일관되게 성능 향상이 이루어졌다.
• 결과적으로 쿼런볼루션 레이어는 효과적이지만, 관측된 성능 향상은 본질적으로 양자적 효과 때문이기보다는 비선형 변환의 성질 때문일 수 있음을 시사한다.