[논문 리뷰] Critically excited states with enhanced memory and pattern recognition capacities in quantum brain networks: Lesson from black holes

Gia Dvali|arXiv (Cornell University)|2017. 11. 24.

Quantum Mechanics and Applications참고 문헌 12인용 수 6

한 줄 요약

이 논문은 약한 활성화 시냅스 연결을 가진 임계적으로 자극된 양자 신경망이 시냅스 가소성 없이도 기하급수적으로 큰 기억 및 패턴 인식 용량을 달성할 수 있다고 제안한다. 일부 뉴런에서 높은 자극 수준을 활용함으로써 시스템은 효과적으로 갭이 없는 상태를 만들어내며, 임의로 낮은 에너지 입력으로도 기하급수적으로 많은 패턴을 저장하고 완벽하게 복원할 수 있게 된다. 이는 기저 상태가 기억 용량을 최대화한다는 전통적 관점에 도전한다.

ABSTRACT

We implement a mechanism - originally proposed as a model for the large memory storage capacity of black holes - in quantum neural networks and show that an exponentially increased capacity of pattern storage and recognition is achieved in certain critically excited states, without involvement of synaptic plasticity. We consider a simple network of N interconnected quantum neurons with weak excitatory synaptic connections. We show that for frozen synaptic weights there exist the critical states of enhanced memory storage capacity. These states are achieved thanks to the high excitation levels of some of the neurons, which - despite of feeble synaptic connections - dramatically lower the response threshold of the remaining weaker-excited neurons. As a results, the latter neurons acquire a capacity to store an exponentially large number of patterns within a narrow energy gap. The stored patterns can be recognized and retrieved with perfect response under the influence of arbitrarily soft input stimuli. In sharp contrast, under the same stimuli the recall is absent in the ground-state of the system. The lesson is that the state with the highest micro-state entropy and memory storage capacity is not necessarily a local minimum of energy, but rather an excited critical state. The considered phenomenon has a smooth classical limit and can serve for achieving an enhanced memory storage capacity in classical brain networks.

연구 동기 및 목표

• 블랙홀 기반의 정보 저장 메커니즘이 양자 신경망으로 이행될 수 있는지 탐색하기 위해.
• 기저 상태가 아니라 고도로 자극된 상태가 신경 시스템에서 기하급수적으로 향상된 기억 및 패턴 인식을 가능하게 하는지 조사하기 위해.
• 약한 시냅스 연결이 고도로 자극된 상태와 결합될 경우, 시냅스 가소성 없이도 기억 용량을 극적으로 증가시킬 수 있음을 보여주기 위해.
• 제안된 메커니즘에 대한 고전적 한계를 설정하여, 이 메커니즘이 고전적 뇌 네트워크에 적용될 잠재적 가능성을 보여주기 위해.
• 에너지 비용 효율적인 패턴 저장 및 인식이 양자 및 고전적 신경 시스템에서 가능해지는 조건을 규명하기 위해.

제안 방법

• 약한 활성화 시냅스 연결을 가진 N개의 양자 뉴런 네트워크를 하미르토니안 형식으로 모델링하기 위해.
• 일부 뉴런이 고도로 자극된 상태에서 임계 상태를 식별함으로써, 다른 뉴런의 자극 임계값을 크게 낮추는 현상을 분석하기 위해.
• 강한 결합으로 인해 고도로 자극된 뉴런으로 인해 효과적인 에너지 갭이 붕괴되어 낮은 에너지 상태의 수를 크게 증가시키는 개념을 활용하기 위해.
• 메커니즘에 필요한 고도의 자극 수준을 가능하게 하기 위해 이중 상태(큐비트가 아닌)의 개념을 도입하기 위해.
• g가 시냅스 강도의 역수일 때, 엔트로피 스케일링이 ∼1/√g로 유도되며, 이는 가용 미크로상태의 기하급수적 증가를 보여주기 위해.
• 임계 상태에서 외부 자극이 매우 약할 경우에도 패턴 복원이 완벽한 정밀도로 이루어지며, 이는 기저 상태에서는 관찰되지 않는 특성임을 보여주기 위해.

실험 결과

연구 질문

• RQ1 블랙홀 기반의 임계적으로 자극된 상태를 통한 최대 정보 밀도 저장 메커니즘이 양자 신경망에서 실현될 수 있는가?
• RQ2 약한 시냅스 연결과 고도의 자극 수준이 결합될 경우, 양자 네트워크에서 기억 용량이 기하급수적으로 증가하는가?
• RQ3 시냅스 가소성이 없더라도, 임계적으로 자극된 상태에서 최소한의 에너지 입력으로 고정밀도 패턴 인식이 가능할 수 있는가?
• RQ4 이 메커니즘은 매끄러운 고전적 극한을 통해 고전적 신경망으로 확장될 수 있는가?
• RQ5 시스템의 최대 엔트로피 상태가 기저 상태가 아니라 임계적으로 자극된 상태인가? 이는 신경망 설계에 대한 전통적 통념에 도전한다.

주요 결과

• 임계 상태에서 가용 패턴의 수는 exp(1/√g)로 증가하며, 이는 g가 시냅스 결합 강도임을 고려할 때 기하급수적으로 증가한다.
• 임계 상태의 엔트로피는 ∼1/√g로 스케일링되며, 이는 패턴 저장에 사용 가능한 미크로상태의 수가 극적으로 증가함을 나타낸다.
• 임계 상태에서는 외부 자극이 매우 약할 경우에도 패턴 복원이 완벽한 정밀도로 이루어지며, 이는 기저 상태에서는 관찰되지 않는다.
• 이 메커니즘은 시냅스 가소성 없이도 작동하며, 일부 뉴런의 고도의 자극 수준이 상호작용하는 집단 효과에 의존한다.
• 기저 상태가 기억 용량을 최대화하는 데 최적이라는 전통적 가정에 반해, 임계 상태는 에너지 최소화가 아니라 고도의 자극과 임계성 덕분에 최대 기억 용량을 달성한다.
• 현상은 매끄러운 고전적 극한을 가지며, 이는 고전적 뇌 네트워크에서 향상된 기억 및 인식 효율성에 잠재적 응용 가능성을 시사한다.