[논문 리뷰] Delayed feedback causes non-Markovian behavior of neuronal firing statistics

Kseniya Kravchuk, A. K. Vidybida|arXiv (Cornell University)|2010. 12. 29.

Neural dynamics and brain function참고 문헌 16인용 수 6

한 줄 요약

이 논문은 단일 뉴런에 피드백이 지연되는 바인딩 뉴런 모델에서 간격 간의 자발적 반응 간격(ISI) 통계가 비마르코프 성질을 띠게 되며, 이는 조건부 확률 $ P(t_{n+1} \to t_n, \dots, t_0) $ 가 어떤 유한한 순서로도 $ P(t_{n+1} \to t_n, \dots, t_1) $ 로 단순화될 수 없음을 분석적으로 입증함으로써 입증된다. 이 결과는 축삭 전도에 의한 기억 효과로 인해 지연이 있는 순환 네트워크에서 뉴런의 자발적 반응 순서는 어떤 유한한 순서의 마르코프 체인으로 모델링될 수 없다는 것을 시사한다.

ABSTRACT

The instantaneous state of a neural network consists of both the degree of excitation of each neuron, the network is composed of, and positions of impulses in communication lines between neurons. In neurophysiological experiments, the neuronal firing moments are registered, but not the state of communication lines. But future spiking moments depend essentially on the past positions of impulses in the lines. This suggests, that the sequence of intervals between firing moments (interspike intervals, ISIs) in the network could be non-Markovian. In this paper, we address this question for a simplest possible neural "net", namely, a single neuron with delayed feedback. The neuron receives excitatory input both from the driving Poisson stream and from its own output through the feedback line. We obtain analytical expressions for conditional probability density $P(t_{n+1} | t_n,...,t_1,t_0)$, which gives the probability to get an output ISI of duration $t_{n+1}$ provided the previous $(n+1)$ output ISIs had durations $t_n,...,t_1,t_0$. It is proven exactly, that $P(t_{n+1} | t_n,...,t_1,t_0)$ does not reduce to $P(t_{n+1} | t_n,...,t_1)$ for any $n \geq 0$. This means that the output ISIs stream cannot be represented as Markov chain of any finite order.

연구 동기 및 목표

• 지연 피드백이 단일 뉴런 시스템에서 뉴런의 자발적 반응 통계에 기억 효과를 유도하는지 조사하기 위해.
• 이러한 시스템에서 간격 간의 자발적 반응 간격(ISI) 순서가 어떤 유한한 순서의 마르코프 과정으로 모델링될 수 있는지 판단하기 위해.
• 지연 피드백가 있는 바인딩 뉴런에서 조건부 확률 분포 $ P(t_{n+1} \mid t_n, \dots, t_0) $ 를 분석하기 위해.
• ISI 스트림이 어떤 유한한 순서의 마르코프 체인으로도 표현될 수 없음을 확립하기 위해, 심지어 가장 단순한 순환 네트워크에서도 마찬가지임을 보여주기 위해.
• 지연 피드백에 의해 발생하는 비마르코프 행동에 대한 분석적 및 수치적 증거를 제공하기 위해.

제안 방법

• 입력이 포아송 분포를 따르며, $ N_0 $개의 자극이 시간 창 $ \tau $ 내에 축적되면 뉴런이 발화하는 바인딩 뉴런(BN) 모델을 사용하여 지연 피드백가 있는 단일 뉴런을 모델링하기 위해.
• 고정된 지연 $ \Delta $ 를 갖는 피드백 라인을 통합하여, 출력 스파이크가 지연된 후 뉴런에 재투입되도록 하기 위해.
• 재생 이론과 자극 전파 역학을 사용하여 조건부 확률 밀도 $ P(t_{n+1} \mid t_n, \dots, t_0) $ 의 정확한 해석적 표현을 유도하기 위해, 특히 $ P(t_2 \mid t_1, t_0) $ 에 중점을 두기 위해.
• 피드백로 인해 발생하는 결정론적 시간 관계를 기록하기 위해 델타 함수 표현을 사용하기 위해, 특히 $ t_0 + t_1 = \Delta $ 또는 $ t_0 + t_1 + t_2 = \Delta $ 인 경우에 중점을 두기 위해.
• C++ 구현을 사용하여 몬테카를로 방법을 활용한 수치 시뮬레이션을 수행하여 스파이크 트레인을 시뮬레이션하고 분석 결과를 검증하기 위해.
• 수치적 추정치인 $ P(t_1 \mid t_0) $ 와 $ P(t_2 \mid t_1, t_0) $ 를 분석적 예측과 비교하여, $ t_0 $ 에 의존하는 델타 함수 성분의 존재를 확인하기 위해.

실험 결과

연구 질문

• RQ1 지연 피드백이 단일 뉴런 모델에서 간격 간의 자발적 반응 간격(ISI) 순서에 기억 효과를 유도하는가?
• RQ2 지연 피드백가 있는 뉴런에서 ISI 순서는 어떤 유한한 순서의 마르코프 체인으로 표현될 수 있는가?
• RQ3 조건부 확률 $ P(t_{n+1} \mid t_n, \dots, t_0) $ 의 기능적 형태는 무엇이며, 과거의 ISI에 어떻게 의존하는가?
• RQ4 연속적인 ISI 간의 상관관계는 결정론적 피드백 타이밍에 기인하는가, 그리고 이는 낮은 순서의 마르코프 과정으로 단순화되는 것을 방지하는가?
• RQ5 바인딩 뉴런 모델에서 임계값 $ N_0 > 2 $ 인 경우에도 비마르코프 행동이 유지되는가?

주요 결과

• 조건부 확률 $ P(t_2 \mid t_1, t_0) $ 가 명백히 $ t_0 $ 에 의존함을 입증하여, ISI 순서가 일계 마르코프 과정으로 단순화될 수 없음을 보여줌.
• $ P(t_2 \mid t_1, t_0) $ 에서 $ t_0 $ 에 의존하는 델타 함수 성분의 존재는, 심지어 $ n=1 $ 인 경우에도 비마르코프 행동을 확인함.
• 수치 시뮬레이션에서 $ N_0 = 2 $ 와 $ N_0 = 4 $ 인 경우 분석 예측을 확인하여 동일한 델타 함수 위치와 질량을 보임.
• ISI 스트림은 어떤 유한한 순서에서도 비마르코프 성질을 유지하며, $ P(t_{n+1} \mid t_n, \dots, t_0) $ 가 어떤 $ n \geq 0 $ 에 대해서도 $ P(t_{n+1} \mid t_n, \dots, t_1) $ 로 단순화되지 않음.
• 비마르코프 행동은 오직 지연 피드백에 의해 발생하며, 포아송 입력이나 바인딩 뉴런 메커니즘 자체만으로는 발생하지 않음.
• 결과적으로 축삭 지연이 있는 순환 신경망에서의 스파이크 트레인은 어떤 유한한 순서의 마르코프 과정으로도 모델링될 수 없다는 시사.