[논문 리뷰] Storage properties of a quantum perceptron

Aikaterini, Gratsea외 2명|arXiv (Cornell University)|2021. 11. 16.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 통계역학과 스핀글라스 이론을 사용하여 특정 양자 퍼셉트론 아키텍처의 저장 용량을 조사하며, 그 최대 저장 용량이 큐비트 수와 선형으로 증가하고, 고전적 대안보다 현저히 향상됨을 보여준다. 분석 결과, 동일한 조건에서 양자 간섭과 중첩은 고전적 퍼셉트론보다 더 높은 패턴 유지 능력을 가능하게 한다.

ABSTRACT

Driven by growing computational power and algorithmic developments, machine learning methods have become valuable tools for analyzing vast amounts of data. Simultaneously, the fast technological progress of quantum information processing suggests employing quantum hardware for machine learning purposes. Recent works discuss different architectures of quantum perceptrons, but the abilities of such quantum devices remain debated. Here, we investigate the storage capacity of a particular quantum perceptron architecture by using statistical mechanics techniques and connect our analysis to the theory of classical spin glasses. We focus on a specific quantum perceptron model and explore its storage properties in the limit of a large number of inputs. Finally, we comment on using statistical physics techniques for further studies of neural networks.

연구 동기 및 목표

• Tacchino 등(2019)에서 제안한 양자 퍼셉트론 모델의 최대 저장 용량을 특정 학습 규칙에 의존하지 않고 결정하는 것.
• 원래 고전적 신경망을 위해 개발된 Gardner의 프로그램을 양자 퍼셉트론 아키텍처에 적용하는 것.
• 중첩과 얽힘과 같은 양자 효과가 고전적 한계를 초월해 기억 용량을 향상시키는 데 미치는 역할을 탐색하는 것.
• 양자 퍼셉트론 설계와 스핀글라스 모델 및 통계역학장 이론을 연결하는 이론적 프레임워크를 수립하는 것.
• 몬테카를로 시뮬레이션과 해석적 근사치를 사용하여 양자 및 고전적 퍼셉트론의 저장 용량을 비교하는 것.

제안 방법

• 가중치를 무작위 변수로 간주하고 입력 패턴과 가중치 구성 간의 오버랩을 분석함으로써, Gardner의 프로그램을 활용해 양자 퍼셉트론의 저장 용량을 계산한다.
• 입력 상태를 계산 기저 상태 $|m-1\rangle$로 매핑하는 제어된 유니터리 연산 $V_{\vec{w}}$를 갖는 양자 퍼셉트론 모델을 사용하며, 이는 내적 $\vec{i}^\mu \cdot \vec{w}$에 기반한다.
• 읽기 출력 큐비트를 갖는 다중 제어 NOT 게이트를 사용하여 출력 진폭 $|c_{m-1}|^2 = |\vec{i}^\mu \cdot \vec{w}|^2$를 투영함으로써, 측정 기반의 퍼셉트론 출력을 가능하게 한다.
• 복제 장 이론과 안장점 근사치를 적용하여 자유 에너지와 효과적 포텐셜을 유도하고, 이로부터 저장 용량 $\alpha_c$의 표현식을 도출한다.
• 고전적 및 양자 퍼셉트론에 대해 몬테카를로 시뮬레이션을 수행하며, 무작위 입력 패턴과 가중치 구성에 대해 샘플링하여 평균 저장 용량 $\alpha(N_s) = \langle P \rangle / N_s$를 추정한다.
• 수치적 시뮬레이션은 고전 모델에 대해 $N_s = N$, 양자 모델에 대해 $N_s = m$로 설정하며, $10000$개의 샘플과 $m = 8, 16, 32$를 사용하여 확장성과 오차를 평가한다.

실험 결과

연구 질문

• RQ1 양자 퍼셉트론의 힐베르트 공간 차원에 따라 저장할 수 있는 패턴의 최대 수는 무엇인가?
• RQ2 Ising 가중치를 갖는 고전적 퍼셉트론과 비교해 양자 퍼셉트론의 저장 용량은 어떻게 되는가?
• RQ3 양자 간섭과 중첩은 고전적 한계를 초월해 저장 용량을 얼마나 향상시키는가?
• RQ4 양자 퍼셉트론의 임계 저장 용량 $\alpha_c$는 무엇이며, 이는 임계값 $\kappa$에 어떻게 의존하는가?
• RQ5 고전적 스핀글라스에 사용된 통계역학 프레임워크를 양자 신경망 아키텍처 분석으로 확장할 수 있는가?

주요 결과

• 양자 퍼셉트론은 큐비트 수 $m$과 선형으로 증가하는 저장 용량을 보이며, $\kappa = 0$일 때 임계 용량 $\alpha_c$가 최대 $1/8$에 도달한다.
• 효과적 포텐셜에 대한 해석적 표현식은 조건 $\alpha_c(2+\kappa)^2/2 = 1$에서 유도된 $\alpha_c(\kappa=0) = 1/8$의 임계 용량을 예측한다.
• 몬테카를로 시뮬레이션은 양자 중첩과 간섭 덕분에 양자 퍼셉트론이 고전적 대안보다 훨씬 더 많은 패턴을 저장함을 확인하며, 특히 $m$이 클수록 두드러진다.
• 임계값 $\kappa$가 증가할수록 저장 용량 $\alpha_c$는 감소하며, 이는 입력 패턴과 가중치 구성 간의 오버랩 영역이 감소하기 때문이다.
• 모델은 양자 퍼셉트론이 평균적으로 $P \approx \alpha_c \cdot m$개의 패턴을 저장할 수 있으며, $\alpha_c$는 양자 코herence와 패턴 오버랩의 상호작용에 의해 결정됨을 보여준다.
• $m = 8, 16, 32$에 대한 수치 결과는 양자 퍼셉트론의 저장 용량이 고전 모델보다 더 빠르게 증가함을 보이며, 기억 용량에서 양자 우월성이 있음을 시사한다.