[논문 리뷰] A discrete time neural network model with spiking neurons. Rigorous results on the spontaneous dynamics

Bruno Cessac|ArXiv.org|2007. 06. 01.

Neural dynamics and brain function참고 문헌 17인용 수 15

한 줄 요약

이 논문은 스파iking 뉴런을 갖춘 이산시간 신경망 모델(BMS 모델)을 제시하며, 기호 역학을 사용하여 막전위 동역학과 스파이크 트레인 시퀀스 사이의 일대일 대응을 엄밀히 확립한다. 일반적으로 주기적인 행동을 보이지만, 날카운 임계값으로 인해 초깃값에 대한 약한 민감도를 보이며, 이로 인해 수치적으로 구분 불가능한 혼돈 동역학을 보이며, 에르고딕 이론과 열역학 체계를 적용하여 스파이크 패턴을 분석할 수 있다.

ABSTRACT

We derive rigorous results describing the asymptotic dynamics of a discrete time model of spiking neurons introduced in \cite{BMS}. Using symbolic dynamic techniques we show how the dynamics of membrane potential has a one to one correspondence with sequences of spikes patterns (``raster plots''). Moreover, though the dynamics is generically periodic, it has a weak form of initial conditions sensitivity due to the presence of a sharp threshold in the model definition. As a consequence, the model exhibits a dynamical regime indistinguishable from chaos in numerical experiments.

연구 동기 및 목표

• 막전위 동역학과 스파이크 시퀀스 사이의 명시적 대응을 갖는 이산시간 스파이킹 신경망 모델(BMS 모델)에 대한 엄밀한 수학적 프레임워크를 수립하기.
• 모델의 점근적 동역학을 분석하며, 특히 날카운 임계값이 초깃값 민감도와 주기성에 미치는 영향을 조사하기.
• 모델의 동역학이 일반적으로 주기적이지만, 특이 집합으로 인해 수치 시뮬레이션에서 혼돈 유사 행동으로 보일 수 있음을 입증하기.
• 스파이크 시퀀스의 정보 인코딩을 연구하기 위해 동역학계 이론, 에르고딕 이론, 통계역학 도구를 적용할 수 있는 기반 마련하기.
• 이 모델이 신경 인코딩, 시냅스 가소성, 노이즈 및 네트워크 크기의 영향을 이해하는 데 미치는 함의 탐색하기.

제안 방법

• 스파iking 패턴을 기호 시퀀스(레이저 플롯)로 인코딩하기 위해 기호 역학과 위상적 동역학의 활용.
• BMS 모델을 정의하는 조각적 애프린 맵의 점근적 행동을 분석하기 위해 동역학계 이론의 엄밀한 기법 적용.
• 날카운 임계값으로 인해 초깃값에 대한 점적 민감도를 보이는 특이 집합(Lebesgue 측도가 0인 집합) 식별.
• 시스템의 동역학을 기호적으로 코딩할 수 있도록 마르코프 분할 구축하여 열역학 체계의 적용 가능하게 하기.
• 네트워크 행동 전이의 수치적 조사: 시냅스 가중치 분산이 증가함에 따라 침묵 상태(신경 사멸)에서 장기 임시 혼돈 유사 동역학으로의 급격한 전이 관측.
• 상태 압력의 변분 원리에 기반한 구리스 측도와 변분 원리를 사용하여 스파이크 시퀀스의 통계적 성질 모델링하고, STDP 및 헤비안 가소성 학습 규칙과 연결하기.

실험 결과

연구 질문

• RQ1 이산시간 스파이킹 신경망에서 막전위 동역학을 스파이크 패턴 시퀀스(레이저 플롯)로 엄밀히 매핑할 수 있는 방법은 무엇인가?
• RQ2 날카운 임계값을 갖는 스파이킹 신경망에서의 초깃값 민감도의 성격은 무엇이며, 전통적 혼돈과 어떻게 다를까?
• RQ3 특이 집합에 가까워질수록 주기 궤도 수와 임시 길이가 어떻게 척도가 변하는가?
• RQ4 BMS 모델이 구리스 측도와 열역학 체계를 사용하여 스파이크 시퀀스의 통계역학적 기술을 지원할 수 있는가?
• RQ5 시냅스 가중치 분산의 증가는 네트워크에서 혼돈 유사 동역학의 발생에 어떤 영향을 미치는가?

주요 결과

• 막전위 동역학과 스파이크 패턴 시퀀스(레이저 플롯) 사이에 일대일 대응이 존재하여 연속된 전위에서 이산적 스파이킹으로의 전환 과정에서 정보 손실이 발생하지 않음.
• 모델의 동역학은 일반적으로 주기적이지만, 특이 집합 존재로 인해 초깃값에 대한 약한 민감도를 보이며, 이 집합과의 교차 시 궤도가 점적으로 발산함.
• 특이 집합과 안정집합 사이의 거리가 0으로 갈수록 주기 궤도 수와 임시 길이가 지수적으로 증가하여 수치적으로 구분 불가능한 혼돈 행동을 유도함.
• 수치 시뮬레이션에서 급격한 전이 관측: 시냅스 가중치 분산 증가에 따라 네트워크가 침묵 상태(신경 사멸)에서 장기 임시 혼돈 유사 동역학으로 전이되며, 추가 증가 시 저주기 동역학으로 복귀함.
• 모델는 마르코프 분할을 지원하여 기호 역학의 적용과 에르고딕 이론, 열역학 체계를 통한 스파이크 시퀀스 통계 분석이 가능함.
• 구리스 측도가 자연스럽게 모델에 나타나며, 최대 엔트로피 원리와 상태 압력의 변분 원리를 통해 STDP 및 헤비안 가소성 학습 규칙과 연결되는 통계적 프레임워크 제공함.