[논문 리뷰] Artificial Quantum Neural Network: quantum neurons, logical elements and tests of convolutional nets

V. I. Dorozhinsky, Oleg Pavlovsky|arXiv (Cornell University)|2018. 06. 25.

Neural Networks and Applications참고 문헌 3인용 수 3

한 줄 요약

이 논문은 이중우물 퍼텐셜 내의 양자 입자를 뉴런으로 사용하는 인공 양자 신경망(AQNN)을 제안한다. 경로 적분 몬테카를로 방법을 통해 스파ike 유사 솔리톤 진동을 시뮬레이션하며, 고전적 논리 게이트(AND, OR, NOT)의 구현, 수직선 탐지 전용 단순 컨볼루션 네트워크 구성, 그리고 훈련된 고전적 MNIST 가중치를 양자 네트워크로 이전하여 약 91%의 인식 정확도를 달성함으로써 고전적 아키텍처에서 양자 아키텍처로의 가중치 이전 가능성의 타당성을 입증한다.

ABSTRACT

We consider a model of an artificial neural network that uses quantum-mechanical particles in a two-humped potential as a neuron. To simulate such a quantum-mechanical system the Monte-Carlo integration method is used. A form of the self-potential of a particle and two potentials (exciting and inhibiting) interaction are proposed. The possibility of implementing the simplest logical elements, (such as AND, OR and NOT) based on introduced quantum particles is shown. Further we show implementation of a simplest convolutional network. Finally we construct a network that recognizes handwritten symbols, which shows that in the case of simple architectures, it is possible to transfer weights from a classical network to a quantum one.

연구 동기 및 목표

• 이중우물 퍼텐셜 내의 양자 입자를 인공 뉴런으로 사용하는 양자 신경망 모델을 개발하는 것.
• 흥분성 및 억제성 상호작용을 갖는 양자 뉴런과 그 상호작용을 통해 기본 논리 요소(AND, OR, NOT)의 구현을 보여주는 것.
• 특히 수직선 탐지를 위한 패턴 인식을 수행할 수 있는 단순 컨볼루션 네트워크를 구성하는 것.
• 고전적 MNIST 모델에서 훈련된 가중치를 사용하여 수작업된 숫자 인식에 양자 네트워크를 적용하는 것.
• 훈련된 고전적 네트워크 가중치가 양자 신경망 아키텍처로 이전 가능한지 평가하는 것.

제안 방법

• 양자 뉴런을 $ V_0(\varphi) = \frac{\Lambda}{4}(\varphi^2 - 1)^2 $ 형태의 W자형 퍼텐셜 내의 입자로 모델링하여 진공 상태와 흥분 상태를 표현한다.
• 유럽 시간 경로 $ \varphi_i(\tau) $ 와 작용 $ S = \int_0^T d\tau \left[ \sum_i \left( \frac{1}{2}\dot{\varphi}_i^2 + V_0(\varphi_i) \right) + \sum_{i>j} V_{\text{int}}(\varphi_i, \varphi_j) \right] $ 를 포함하는 경로 적분 몬테카를로 형식을 사용해 시스템의 양자 역학적 동역학을 시뮬레이션한다.
• 흥분성 및 억제성 상호작용을 상호작용 퍼텐셜 $ V_{\text{int}} $ 를 통해 도입하며, 연결 강도 $ \varepsilon_{ij} $ 는 사전 훈련된 고전적 네트워크 가중치에서 유도한다.
• 운동 에너지 항, 자기 퍼텐셜 항, 그리고 상호작용 항 $ \hat{\varepsilon}_{ij} \varphi_j^2 (\hat{\psi}_i^2 - 1)^2 $ 을 포함하는 라그랑지안 $ \mathcal{L} $ 을 구성한다. 여기서 $ \hat{\psi}_i $ 는 픽셀 밝기를 인코딩한다.
• 회색조 픽셀 값 $ b_i \in [0,1] $ 을 입력 뉴런 경로로 매핑하기 위해 $ \hat{\psi}_i = \sqrt{ \sqrt{b_i} \psi^2 - \sqrt{b_i} + 1 } $ 를 사용하여 연속적인 입력 표현을 가능하게 한다.
• 고전적 네트워크 가중치 $ W \in \mathbb{R}^{M \times 10} $ 를 $ \hat{\varepsilon}_{ij} \in [0,1] $ 으로 정규화하여 양자 모델에서 사용하기 위해 $ \hat{\varepsilon}_{ij} = \frac{W_{ij} - \min(W)}{\max(W) - \min(W)} $ 를 적용한다.

실험 결과

연구 질문

• RQ1 이중봉 퍼텐셜 내의 양자 입자는 스파이크 유사 솔리톤 진동을 생성할 수 있는 인공 뉴런으로 기능할 수 있는가?
• RQ2 흥분성 및 억제성 상호작용을 갖는 양자 뉴런을 사용해 고전적 논리 게이트(AND, OR, NOT)를 구현하는 것이 가능한가?
• RQ3 수직선 탐지와 같은 단순한 패턴 인식 작업을 수행할 수 있는 양자 신경망 아키텍처를 구성할 수 있는가?
• RQ4 훈련된 고전적 신경망 가중치를 성공적으로 양자 신경망에 이전할 수 있는가?
• RQ5 전달된 가중치를 사용할 때, 양자 네트워크의 성능은 고전적 네트워크와 비교해 어떻게 되는가?

주요 결과

• 흥분성 및 억제성 상호작용을 제어하는 이중우물 퍼텐셜 내의 양자 입자를 사용한 양자 신경망은 기본 논리 요소(AND, OR, NOT)를 성공적으로 구현하였다.
• 양자 뉴런 프레임워크를 기반으로 한 단순한 컨볼루션 네트워크가 수직선을 정확히 식별하는 데 성공하였다.
• 전이된 고전적 완전 연결 네트워크 가중치를 사용할 경우, 양자 네트워크는 MNIST 테스트 세트에서 약 91%의 숫자 인식 정확도를 달성하였다.
• 고전적 네트워크 가중치가 양자 모델로의 이전이 가능하고 효과적이며, 이는 네트워크가 출력에서 정답 숫자에 대해 더 높은 점수를 할당하는 것으로 확인되었다.
• 몬테카를로 시뮬레이션은 확률적 성격을 지니며, 고전적 네트워크보다 略적으로 낮은 성능를 초래하지만, 전체적인 인식 패턴은 일관되고 의미 있는 유지되었다.