[논문 리뷰] Random Quantum Neural Networks (RQNN) for Noisy Image Recognition

Debanjan Konar, Erol Gelenbe외 3명|arXiv (Cornell University)|2022. 03. 03.

Quantum Computing Algorithms and Architecture인용 수 7

한 줄 요약

이 논문은 초전파 및 진폭 인코딩을 활용하여 노이즈 있는 이미지 인식을 향상시키기 위한 하이브리드 고전-양자 모델인 랜덤 양자 신경망(RQNN)을 제안한다. 변분 양자 회로와 매개변수 이동 규칙을 통한 고전적 훈련을 통합함으로써 RQNN은 MNIST, 패션MNIST, KMNIST에서 평균 94.9%의 정확도를 달성하여 노이즈 환경에서 고전적 RNN, SNN, AlexNet보다 뛰어난 성능을 보였다.

ABSTRACT

Classical Random Neural Networks (RNNs) have demonstrated effective applications in decision making, signal processing, and image recognition tasks. However, their implementation has been limited to deterministic digital systems that output probability distributions in lieu of stochastic behaviors of random spiking signals. We introduce the novel class of supervised Random Quantum Neural Networks (RQNNs) with a robust training strategy to better exploit the random nature of the spiking RNN. The proposed RQNN employs hybrid classical-quantum algorithms with superposition state and amplitude encoding features, inspired by quantum information theory and the brain's spatial-temporal stochastic spiking property of neuron information encoding. We have extensively validated our proposed RQNN model, relying on hybrid classical-quantum algorithms via the PennyLane Quantum simulator with a limited number of \emph{qubits}. Experiments on the MNIST, FashionMNIST, and KMNIST datasets demonstrate that the proposed RQNN model achieves an average classification accuracy of $94.9\%$. Additionally, the experimental findings illustrate the proposed RQNN's effectiveness and resilience in noisy settings, with enhanced image classification accuracy when compared to the classical counterparts (RNNs), classical Spiking Neural Networks (SNNs), and the classical convolutional neural network (AlexNet). Furthermore, the RQNN can deal with noise, which is useful for various applications, including computer vision in NISQ devices. The PyTorch code (https://github.com/darthsimpus/RQN) is made available on GitHub to reproduce the results reported in this manuscript.

연구 동기 및 목표

• 고전적 랜덤 신경망(RNN)의 패턴 인식에서의 한계, 특히 딥 러닝 모델에 비해 낮은 정확도와 노이즈에 대한 취약성을 해결하기 위해.
• 초전파 및 진폭 인코딩과 같은 양자적 이점들을 활용하기 위해 새로운 지도 학습 기반 랜덤 양자 신경망(RQNN) 아키텍처를 설계하기 위해.
• 하이브리드 고전-양자 프레임워크에서 양자 매개변수를 최적화하기 위해 변분 양자 회로와 매개변수 이동 규칙을 통한 강건한 훈련 전략을 개발하기 위해.
• 노이즈 조건 하에서 표준 이미지 데이터셋에서 RQNN의 성능을 평가하여 고전적 대안들에 비해 정확도와 노이즈 내성 면에서 뛰어난 성능을 입증하기 위해.

제안 방법

• RQNN 모델은 입력 데이터를 양자 상태로 진폭 인코딩하고, 특징 추출을 위해 변분 양자 회로(VQC)를 사용하는 하이브리드 고전-양자 아키텍처를 채택한다.
• 양자 레이어는 훈련 가능한 매개변수 ρ와 σ를 가진 RX 및 RY 회전 게이트를 사용하며, 효율적인 역전파를 위해 매개변수 이동 규칙을 활용한 경사 하강법으로 갱신된다.
• 손실 함수는 이진 교차 엔트로피로 정의된다: 𝒪(θ) = Σⱼ [γⱼ log z(ωⱼ) + (1−γⱼ) log(1−z(ωⱼ))], 여기서 z(ωⱼ)는 입력 ωⱼ에 대한 예측 출력이다.
• 회전 각도에 대한 손실의 미분은 매개변수 이동 규칙을 통해 계산된다: ∂z/∂ρⱼᶿ = ½[ℳᶿ₊₁₍ρ±π/₂₎ − ℳᶿ₍ρ±π/₂₎], σ에 대해서도 유사한 표현이 존재한다.
• 모델는 제한된 큐비트를 가진 PennyLane 양자 시뮬레이터를 사용하여 훈련되며, 이는 양자 회로 매개변수의 효율적 최적화를 가능하게 한다.
• MNIST, 패션MNIST, KMNIST의 입력 데이터는 진폭 인코딩을 통해 양자 상태로 변환되어 분류를 위해 입력 구조를 유지한다.

실험 결과

연구 질문

• RQ1 초전파 및 진폭 인코딩을 활용하는 하이브리드 고전-양자 신경망이 노이즈 조건 하에서 고전적 RNN보다 이미지 인식 성능에서 뛰어나게 되는가?
• RQ2 변분 양자 회로와 무작위 스파iking 뉴런 원리를 통합함으로써 노이즈가 있는 입력에 대한 내성은 향상되는가?
• RQ3 RQNN는 MNIST, 패션MNIST, KMNIST와 같은 표준 벤치마크 데이터셋에서 노이즈 조건 하에서 달성 가능한 분류 정확도는 얼마인가?
• RQ4 매개변수 이동 규칙은 지도 학습 기반 RQNN 프레임워크에서 양자 회로를 통해 효과적인 역전파를 어떻게 가능하게 하는가?

주요 결과

• 제안된 RQNN 모델은 표준 조건 하에서 MNIST, 패션MNIST, KMNIST 데이터셋에서 평균 분류 정확도 94.9%를 달성한다.
• RQNN는 고전적 RNN, 스파iking 신경망(SNN), AlexNet에 비해 노이즈에 대한 뛰어난 내성을 보이며, 노이즈 환경에서도 더 높은 정확도를 유지한다.
• 진폭 인코딩과 변분 양자 회로의 사용은 제한된 큐비트 환경 내에서 이미지 데이터의 효율적 표현과 처리를 가능하게 한다.
• 매개변수 이동 규칙은 양자 매개변수에 대한 효과적인 기울기 계산을 가능하게 하여 RQNN 모델의 엔드 투 엔드 훈련을 지원한다.
• RQNN 프레임워크는 생물학적 뉴런의 무작위 스파이크 행동을 양자 초전파를 통해 효과적으로 활용하여 노이즈 내성 능력을 향상시킨다.
• GitHub에 공개된 PyTorch 구현은 보고된 결과의 완전한 재현 가능성을 보장한다.