[논문 리뷰] A Fokker-Planck approach to graded information propagation in pulse-gated feedforward neuronal networks

Cong Wang, Zhuo-Cheng Xiao외 3명|arXiv (Cornell University)|2015. 12. 01.

Neural dynamics and brain function참고 문헌 30인용 수 5

한 줄 요약

이 논문은 펄스 게이팅 피드포워드 신경망에서 등급 정보 전파를 분석하기 위해 Fokker-Planck 접근법을 적용하며, 막전위 확률밀도함수의 약한 선형 임베디드 구조로 인해 시간 이동 불변성(spiking probabilities)이 나타남을 보여준다. 이 방법은 시냅스 결합, 게이팅 전류 강도, 初기 확률밀도함수가 함께 작용함으로써 층 간에 강건하고 정확한 등급 전달을 가능하게 함을 드러낸다.

ABSTRACT

Information transmission is a key element for information processing in the brain. A number of mechanisms have been proposed for transferring volleys of spikes between layers of a feedforward neural circuit. Many of these mechanisms use synchronous activity to provide windows in time when spikes may be transferred more easily from layer to layer. Recently, we have demonstrated that a pulse-gating mechanism can transfer graded information between layers in a feedforward neuronal network. Our transfer mechanism resulted in a time-translationally invariant firing rate and synaptic current waveforms of arbitrary amplitude, thus providing exact, graded information transfer between layers. In this paper, we apply a Fokker-Planck approach to understand how this translational invariance manifests itself in a high-dimensional, non-linear feedforward integrate-and-fire network. We show that there is good correspondence in spiking probabilities between the Fokker-Planck solutions and our previous mean-field solutions. We identify an approximate line attractor in state space as the essential structure underlying the time-translational invariance of our solutions. This approach has enabled us to better understand the role played by the synaptic coupling, gating pulse and the membrane potential probability density function in information transfer.

연구 동기 및 목표

• 펄스 게이팅 피드포워드 신경망에서 시간 이동 불변성 스파iking 확률의 기계적 메커니즘을 이해하기 위해.
• 평균장 화성율 모델과 등급 전달에서의 확률적 적분-화성(I&F) 네트워크 간의 대응 관계를 조사하기 위해.
• 고차원 상태공간에서 강건하고 등급 전달을 가능하게 하는 역학적 구조—특히 약한 선형 임베디드 구조—를 규명하기 위해.
• 시냅스 결합, 게이팅 전류, 초기 막전위 확률밀도함수가 안정적인 정보 전달을 가능하게 하는 데서 수행하는 역할를 명확히 하기 위해.

제안 방법

• 전류 기반 시냅스를 갖는 펄스 게이팅 피드포워드 I&F 네트워크에서 막전위 확률밀도함수(PDF)에 대한 Fokker-Planck 방정식을 수립한다.
• 사각형 펄스 에너지와 백색 노이즈를 갖는 확률적 과정을 사용하여 시냅스 전류 역학을 모델링하며, 시냅스 결합 강도 $ S $, 게이팅 전류 $ I_j^g $, 평균 시냅스 확률 $ p $ 를 포함한다.
• 수치 시뮬레이션을 통해 PDF의 층 간 진화를 분석하여 이동 불변성과 안정 다각형으로의 수렴을 평가한다.
• 연속적인 층 간 평균 PDF의 상태공간에서 약한 선형 임베디드 구조를 식별하며, 이는 저차원의 불변 구조를 나타낸다.
• Fokker-Planck 해를 이전의 평균장 모델 결과와 비교하여 대응 관계를 검증하고 차이점을 규명한다.
• PDF 평균의 상태공간 분석을 통해 대각선으로의 빠른 수렴을 보여주며, 선형 임베디드 구조의 존재를 입증한다.

실험 결과

연구 질문

• RQ1 Fokker-Planck 접근법은 펄스 게이팅 I&F 네트워크에서 시간 이동 불변성 스파킹 확률이 어떻게 나타나는지를 어떻게 설명하는가?
• RQ2 고차원 비선형 신경망에서 등급 전달의 강건성을 뒷받침하는 역학적 구조는 무엇인가?
• RQ3 시냅스 결합 강도 $ S $, 게이팅 전류 강도 $ \bar{I}^g $, 초기 PDF $ \rho_j(V, jT) $ 가 함께 작용할 때 등급 전달의 안정성과 정확도에 어떤 영향을 미치는가?
• RQ4 Fokker-Planck 해가 PDF를 평균장 화성율 모델과 얼마나 잘 대응하여 등급 전달을 묘사하는가?
• RQ5 막전위 PDF의 이동 불변성이 네트워크 층 간 정확하고 등급 전달을 가능하게 하는 데서 수행하는 역할는 무엇인가?

주요 결과

• Fokker-Planck 해와 평균장 모델 간에 스파킹 확률 예측에서 강력한 대응 관계가 존재하며, 이는 이 시스템에서 평균장 근사의 타당성을 검증한다.
• PDF 평균의 상태공간에서 약한 선형 임베디드 구조가 나타나며, 이는 스파킹 확률의 시간 이동 불변성 행동을 설명한다.
• 등급 전달은 정확한 값 $ S_{\text{exact}} = \frac{\tau}{T} e^{T/\tau} $ 근처의 시냅스 결합 강도 $ S $ 범위에서 강건하게 유지되며, $ \bar{I}^g $ 와 初기 PDF 도 필수적인 역할을 한다.
• $ \bar{I}^g > \bar{I}^g_{\text{graded}} $ 일 경우, PDF 평균은 시간이 지남에 따라 증가하여 안정적 전달을 나타내며, $ \bar{I}^g < \bar{I}^g_{\text{graded}} $ 일 경우 평균은 감소하여 등급 전달 실패를 시사한다.
• Fokker-Planck 분석은 초기 일시적 상태 이후 확률밀도함수가 이산적인 이동 불변성을 보임을 드러내며, 안정적인 정보 전달를 뒷받침한다.
• 시스템은 PDF 평균의 상태공간에서 대각선으로 매우 빠르게 수렴하며, 이는 강건하고 등급 전달을 가능하게 하는 저차원 안정 다각형의 존재를 확인한다.