[논문 리뷰] Modeling networks of spiking neurons as interacting processes with memory of variable length

Antonio Galves, Eva Löcherbach|arXiv (Cornell University)|2015. 02. 23.

Neural dynamics and brain function참고 문헌 39인용 수 35

한 줄 요약

이 논문은 각 뉴런의 발 firing 확률이 이전에 마지막으로 발火한 이래로 전체 시스템의 역사를 기반으로 하는 비마르코프(stochastic) 과정의 새로운 클래스를 소개한다—즉, 가변 길이의 기억을 포착한다. 주요 기여는 가변 길이 기억을 가진 무한한 상호작용 점과정의 엄밀한 수학적 프레임워크를 제공하는 것으로, 존재성, 정확한 시뮬레이션, 그리고 확산의 붕괴 결과를 가능하게 하며, 특히 평균장 및 유한한 시스템에서 상호작용 간격이 상호 상관 없이 분리된 경우에 적용된다.

ABSTRACT

We consider a new class of non Markovian processes with a countable number of interacting components, both in discrete and continuous time. Each component is represented by a point process indicating if it has a spike or not at a given time. The system evolves as follows. For each component, the rate (in continuous time) or the probability (in discrete time) of having a spike depends on the entire time evolution of the system since the last spike time of the component. In discrete time this class of systems extends in a non trivial way both Spitzer's interacting particle systems, which are Markovian, and Rissanen's stochastic chains with memory of variable length which have finite state space. In continuous time they can be seen as a kind of Rissanen's variable length memory version of the class of self-exciting point processes which are also called "Hawkes processes", however with infinitely many components. These features make this class a good candidate to describe the time evolution of networks of spiking neurons. In this article we present a critical reader's guide to recent papers dealing with this class of models, both in discrete and in continuous time. We briefly sketch results concerning perfect simulation and existence issues, de-correlation between successive interspike intervals, the longtime behavior of finite non-excited systems and propagation of chaos in mean field systems.

연구 동기 및 목표

• 대규모 스파iking 뉴런 네트워크를 비마르코프 상호작용 과정으로 모델링하여 과거 활동의 가변 길이 기억을 포착한다.
• 하크스 과정과 가변 기억을 가진 체인과 같은 고전적 모델을 무한한 성분을 가진 무한 시스템으로 확장한다.
• 이러한 과정에 대해 이산 및 연속 시간 모두에서 존재성과 정확한 시뮬레이션을 확립한다.
• 유한 시스템의 장기적 행동과 평균장 영역에서의 유체역학적 극한을 분석한다.
• 제한된 신경 데이터로부터 시냅스 상호작용 그래프를 추론하기 위한 통계적 모델 선택 과제를 탐색한다.

제안 방법

• 각 뉴런의 마지막 발화 이후의 전체 역사를 기반으로 스파이크 강도가 결정되는 연속 시간 상호작용 점과정의 클래스를 체계화한다.
• 시냅스 가중치에 대한 균일한 합계 조건을 사용: sup_i ∑_j |W_{j→i}| < ∞ — 이는 안정성과 수렴성을 보장한다.
• 섹션 4에서 관련된 마르코프 상호작용 입자 시스템을 통해 무한 시스템을 표현함으로써 마르코프 과정 이론의 적용을 가능하게 한다.
• 정확한 시뮬레이션 기법을 적용하여 초기화 오차 없이 샘플 경로를 구성함으로써 불변 분포에서 정확한 샘플링을 보장한다.
• 커플링 방법과 커플링 시간 분석을 사용하여 유한 시스템에서 연속된 스파이크 간격의 상호 상관성이 사라지는 것을 증명한다.
• 평균장 시스템에서의 확산의 붕괴를 분석하여 적절한 스케일링 하에 개인 뉴런의 행동이 극한에서 독립적임을 보여준다.

실험 결과

연구 질문

• RQ1 무한한 스파이크 뉴런 시스템이 과거 활동의 가변 길이 기억을 가진 비마르코프 과정으로 엄밀히 모델링될 수 있는가?
• RQ2 어떤 조건에서 이러한 무한 시스템에 대해 유일한 불변 분포가 존재하며, 이를 정확하게 시뮬레이션할 수 있는가?
• RQ3 유한 시스템에서 시스템 크기가 증가함에 따라 연속된 스파이크 간격 간의 상관관계는 어떻게 행동하는가?
• RQ4 평균장 스케일링 하에서 유한 시스템의 유체역학적 극한은 무엇이며, 확산의 붕괴와 어떻게 관련되는가?
• RQ5 제한된 신경 기록으로부터 기저의 시냅스 상호작용 그래프를 복원하기 위한 통계적 추론 방법을 개발할 수 있는가?

주요 결과

• 이 모델 클래스는 리사넨의 가변 기억을 가진 체인과 하크스 과정을 모두 무한한 성분을 가진 무한 시스템으로 확장한다.
• 적절한 조건 하에서 정확한 시뮬레이션이 가능하여 초기화 오차 없이 불변 분포에서 정확한 샘플링이 가능하다.
• 약간 초임의 에르되시-레니 그래프를 가진 유한 시스템에서, 시스템 크기가 무한히 증가함에 따라 연속된 스파이크 간격은 渐近적으로 상호 상관 없어진다.
• 평균장 시스템의 유체역학적 극한은 결정론적 과정으로 이어지며, 확산의 붕괴가 성립하여 극한에서 개별 뉴런의 행동이 독립적이 된다.
• 이러한 모델에 대한 통계적 모델 선택은 높은 계산 복잡성과 희박한 관측으로부터 전반적인 연결성을 추론하는 데 어려움이 있어 여전히 도전 과제로 남아 있다.