[논문 리뷰] Quantum Gauged Neural Network: U(1) Gauge Theory

Y. Fujita, Tetsuo Matsui|arXiv (Cornell University)|2002. 06. 30.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 고전적 Z(2) 게이지 신경망을 양자적 형태로 확장하여 이산 스핀 및 결합 변수를 연속적인 U(1) 위상 변수로 대체함으로써 U(1) 격자 게이지 이론을 구성한다. 이는 깅부르크-란다우 초전도체 이론과 유사하다. 평균장 이론을 사용하여 쿨롱, 힉스, 비산 단계를 식별하고, 양자 양자역학적 변동이 고전적 Z(2) 모델에 비해 학습 및 회상 능력을 약화시킨다는 것을 발견하였다.

ABSTRACT

A quantum model of neural network is introduced and its phase structure is examined. The model is an extension of the classical Z(2) gauged neural network of learning and recalling to a quantum model by replacing the Z(2) variables, $S_i = \pm1$ of neurons and $J_{ij} =\pm1$ of synaptic connections, to the U(1) phase variables, $S_i = \exp(iϕ_i)$ and $J_{ij} = \exp(iθ_{ij}) $. These U(1) variables describe the phase parts of the wave functions (local order parameters) of neurons and synaptic connections. The model takes the form similar to the U(1) Higgs lattice gauge theory, the continuum limit of which is the well known Ginzburg-Landau theory of superconductivity. Its current may describe the flow of electric voltage along axons and chemical materials transfered via synaptic connections. The phase structure of the model at finite temperatures is examined by the mean-field theory, and Coulomb, Higgs and confinement phases are obtained. By comparing with the result of the Z(2) model, the quantum effects is shown to weaken the ability of learning and recalling.

연구 동기 및 목표

• 고전적 및 양자 신경망 간의 차이를 탐구하기 위해 Z(2) 게이지 신경망을 U(1) 게이지 이론적 프레임워크로 확장한다.
• 연속적인 U(1) 변수에서 기인하는 양자 양자역학적 변동이 학습 및 기억 회상 능력에 어떻게 영향을 미치는지 조사한다.
• 격자 게이지 이론과 초전도체의 일부 특성을 반영하는 현상학적 양자 모델을 제안한다.
• 양자 모델에서 보존 전류의 존재를 조사하고, 이들이 신경 시스템 내 신호 전파 모델링에 어떻게 기여할 수 있는지 탐색한다.

제안 방법

• 이산 스핀 및 결합 변수 $S_i = \pm 1$ 와 $J_{ij} = \pm 1$ 를 연속적인 U(1) 위상 변수 $S_i = e^{i\varphi_i}$ 와 $J_{ij} = e^{i\theta_{ij}}$ 로 대체하여 U(1) 격자 게이지 이론을 구성한다.
• 지역 U(1) 게이지 변환에 대해 불변인 에너지 함수를 구성함으로써, 게이지 장 이론과 유사한 국소 역학을 보장한다.
• 유한 온도에서 모델의 계면 구조를 분석하기 위해 평균장 이론을 적용하고, 쿨롱, 힉스, 비산 단계와 같은 구분 가능한 단계를 식별한다.
• 노이터 정리에 따라 게이지 불변 전류 $j_{x\mu}$ 를 정의함으로써, 축색 및 시냅스 연결을 따라 신호 전송을 연구할 수 있다.
• U(1) 모델과 고전적 Z(2) 모델 간의 계면 경계 및 임계 온도를 비교하여 양자 효과를 분리한다.
• 에너지 함수에서 유도된 시간 진화 규칙을 사용하여 양자 모델에서의 학습 및 회상 과정을 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 이산 Z(2) 변수를 연속적인 U(1) 위상 변수로 대체할 경우, 게이지 신경망 모델의 계면 구조는 어떻게 변화하는가?
• RQ2 양자 양자역학적 변동은 고전적 Z(2) 모델에 비해 임계 온도와 계면 경계를 어떻게 수정하는가?
• RQ3 양자 U(1) 모델에서 보존 전류를 정의할 수 있는가? 이는 신경 신호 전파에 대해 어떤 물리적 해석을 가진다?
• RQ4 양자 효과는 고전적 버전에 비해 네트워크의 패턴 학습 및 회상 능력을 얼마나 약화시키는가?
• RQ5 U(1) 게이지 구조는 학습 과정 중 시냅스 가중치의 안정성과 역학에 어떻게 영향을 미치는가?

주요 결과

• U(1) 양자 모델은 고전적 Z(2) 모델보다 더 풍부한 계면 구조를 보이며, 명확히 구분되는 쿨롱, 힉스, 비산 단계를 포함한다.
• U(1) 모델의 계면 전이 임계 온도는 Z(2) 모델보다 높으며, 이는 양자 양자역학적 변동이 시스템의 계면 전이에 대해 안정성을 제공한다는 것을 시사한다.
• U(1) 모델에서 비산 단계의 영역은 Z(2) 모델보다 더 넓으며, 이는 양자 효과로 인해 신경 활동이 더 강하게 국소화됨을 시사한다.
• 양자 양자역학적 변동은 네트워크의 패턴 학습 및 회상 능력을 떨어뜨리며, 더 넓은 비산 단계와 높은 임계 온도로 인해 이를 뒷받침한다.
• 연속적인 U(1) 대칭성으로 인해 U(1) 모델에서 보존 게이지 불변 전류 $j_{x\mu}$ 가 도출되며, 이는 신경망 내에서의 신호 전송을 체계적으로 연구할 수 있게 한다.
• 모델는 리노멀화 군 이론의 관점에서 보편적이며, U(1) 게이지 대칭성을 가진 광범위한 기본 양자 이론의 클래스에 적용 가능하다.