[논문 리뷰] Scalable Quantum Convolutional Neural Networks

Hankyul Baek, Won Joon Yun외 1명|arXiv (Cornell University)|2022. 09. 26.

Quantum Computing Algorithms and Architecture인용 수 4

한 줄 요약

이 논문은 새로운 역행성 피어스티티 훈련(RF-Train) 알고리즘을 사용하여 유한한 크기의 필터를 다수 사용함으로써 양자 신경망에서의 평평한 골짜기 문제를 해결하는 확장 가능한 양자 컨volution 신경망(sQCNN)을 제안한다. 양자 상태 피어스티티를 활용해 특징 다양성을 정규화함으로써, sQCNN는 MNIST와 FMNIST에서 기존의 훈련 방식을 사용한 QCNN보다 16% 높은 상위-1 정확도를 달성하여 필터 수가 증가함에 따라 확장성과 성능이 향상됨을 입증한다.

ABSTRACT

With the beginning of the noisy intermediate-scale quantum (NISQ) era, quantum neural network (QNN) has recently emerged as a solution for the problems that classical neural networks cannot solve. Moreover, QCNN is attracting attention as the next generation of QNN because it can process high-dimensional vector input. However, due to the nature of quantum computing, it is difficult for the classical QCNN to extract a sufficient number of features. Motivated by this, we propose a new version of QCNN, named scalable quantum convolutional neural network (sQCNN). In addition, using the fidelity of QC, we propose an sQCNN training algorithm named reverse fidelity training (RF-Train) that maximizes the performance of sQCNN.

연구 동기 및 목표

• 필터당 큐비트 수를 늘리지 않고도 큐비트 수 증가에 따른 평평한 골짜기 문제를 해결하기 위해 큐비트 수 증가 없이도 확장 가능한 QCNN 아키텍처를 개발하는 것.
• 필터당 큐비트 수를 늘리지 않고 다수의 유한한 크기의 필터를 사용하여 QCNN의 확장 가능한 특징 추출을 가능하게 하는 것.
• 양자 피어스티티를 정규화 요소로 사용하여 특징 다양성과 모델 성능을 향상시키는 훈련 알고리즘을 개발하는 것.
• 기존의 QCNN들과 비교하여 표준 비전 데이터셋에서의 확장성과 성능 우수성을 실증적으로 검증하는 것.

제안 방법

• 필터당 큐비트 수를 늘리지 않고 다수의 유한한 크기의 양자 필터를 사용하는 확장 가능한 QCNN 아키텍처인 sQCNN를 제안하여 평평한 골짜기 문제를 방지한다.
• 다른 필터의 출력 상태 간의 피어스티티를 기반으로 한 새로운 역행성 피어스티티(RF) 정규화 요소를 설계하여 특징 다양성을 극대화한다.
• RF 정규화 요소를 총 손실 함수에 통합하여 $\mathcal{L}_{total} = \mathcal{L}_{CE} + \lambda \mathcal{L}_{RF}$ 로 표현하며, $\mathcal{L}_{RF}$ 는 필터 출력 간 유사도를 최소화한다.
• 분류를 위한 교차 엔트로피 손실 $\mathcal{L}_{CE}$ 와 RF 정규화 요소를 결합하여 정확도와 특징 다양성을 동시에 최적화한다.
• 조정 가능한 $\lambda$ 를 사용한 미니배치 기반 훈련 절차를 적용하여 피어스티티 정규화의 강도를 제어한다.
• 성능과 확장성 평가를 위해 MNIST 및 FMNIST 데이터셋에 훈련 알고리즘을 적용한다.

실험 결과

연구 질문

• RQ1 큐비트 수 증가 없이도 필터당 큐비트 수를 늘리지 않고도 QCNN 아키텍처를 확장 가능하게 만들 수 있는가?
• RQ2 양자 상태 피어스티티를 정규화 요소로 사용할 경우, 양자 컨볼루션 네트워크의 특징 다양성과 모델 성능이 향상되는가?
• RQ3 표준 비전 벤치마크에서 sQCNN의 성능은 기존의 훈련 방식을 사용한 QCNN과 비교해 상위-1 정확도 측면에서 어떻게 다른가?
• RQ4 sQCNN에서 필터 수를 늘일 경우 성능 향상이 일관되게 이루어지는가? 기존의 QCNN와는 달리?

주요 결과

• RF-Train를 사용한 sQCNN는 MNIST 데이터셋에서 RF-Train를 사용하지 않은 sQCNN($\lambda = 0$)보다 16% 높은 상위-1 정확도를 달성한다.
• RF-Train 방법은 추출된 특징 간 유클리드 거리를 증가시켜 특징 다양성이 향상됨을 확인한다.
• sQCNN는 필터 수가 증가함에 따라 안정적인 성능을 유지하여 확장성 잠재력을 입증한다.
• 반면 QCNN는 필터당 큐비트 수를 8에서 16으로 늘릴 경우 성능이 30% 감소하는 반면, sQCNN는 더 많은 필터를 사용할수록 지속적인 성능 향상을 보인다.
• 출력 상태 간의 피어스티티가 감소함에 따라, RF 정규화 요소가 필터 출력 간 유사도를 효과적으로 감소시킴을 입증한다.
• sQCNN는 MNIST 및 FMNIST 데이터셋 전반에서 기존의 훈련 방식을 사용한 QCNN를 뛰어넘으며, 특히 $\lambda$ 값이 클수록 성능 향상이 두드러진다.