[논문 리뷰] Phase transitions and self-organized criticality in networks of stochastic spiking neurons

Ludmila Brochini, Ariadne de Andrade Costa외 4명|arXiv (Cornell University)|2016. 06. 21.

Neural dynamics and brain function참고 문헌 50인용 수 12

한 줄 요약

이 논문은 전기적 자극을 받는 뉴런 네트워크에서 동적 뉴런 이득(dynamic neuronal gains)을 사용하여 자기조직화 임계성(self-organized criticality, SOC)을 구현하는 새로운 메커니즘을 제안한다. 이 이론은 전통적인 시냅스 기반 역학 대신 축삭 초기부에서의 단기 가소성(short-term plasticity)을 모의한 동적 뉴런 이득을 사용하며, 네트워크를 약간 초임계 상태(slightly supercritical state, SOSC)로 이끌어 전기적 폭풍 분포가 등급 법칙 통계를 보이며, 계산 효율성이 뛰어난 시냅스 가소성 모델의 대안이 될 수 있다. 이는 생물학적 뇌의 임계성과 신경계 질환 이해에 잠재적인 영향을 미칠 수 있다.

ABSTRACT

Phase transitions and critical behavior are crucial issues both in theoretical and experimental neuroscience. We report analytic and computational results about phase transitions and self-organized criticality (SOC) in networks with general stochastic neurons. The stochastic neuron has a firing probability given by a smooth monotonic function $Φ(V)$ of the membrane potential $V$, rather than a sharp firing threshold. We find that such networks can operate in several dynamic regimes (phases) depending on the average synaptic weight and the shape of the firing function $Φ$. In particular, we encounter both continuous and discontinuous phase transitions to absorbing states. At the continuous transition critical boundary, neuronal avalanches occur whose distributions of size and duration are given by power laws, as observed in biological neural networks. We also propose and test a new mechanism to produce SOC: the use of dynamic neuronal gains -- a form of short-term plasticity probably in the axon initial segment (AIS) -- instead of depressing synapses at the dendrites (as previously studied in the literature). The new self-organization mechanism produces a slightly supercritical state, that we called SOSC, in accord to some intuitions of Alan Turing.

연구 동기 및 목표

• 스토케스틱 스파이크 뉴런 네트워크에서 부드러운 발화 함수를 사용하여 임계 행동과 계단형 전이를 연구하는 것.
• 생물학적 네트워크가 이러한 상태에 도달하는 방식을 설명할 수 있는 메커니즘을 탐색하는 것.
• 시냅스 억제 대신 동적 뉴런 이득 기반의 새로운 자가조직화 메커니즘을 제안하고 검증하는 것.
• 약간 초임계 동역학(SOSC)이 전기적 폭풍 통계와 부분 측정 문제(subsampling paradox)에 미치는 영향을 분석하는 것.
• 기존 시냅스 가소성 모델 대비 O(N²)에서 O(N)으로 동적 방정식 수를 줄여 계산 효율성을 향상시키는 것.

제안 방법

• 스파iking 확률이 막막 전위 V의 부드럽고 단조 증가 함수 Φ(V)로 표현되는 Galves-Löcherbach (GL) 스토케스틱 뉴런 모델을 사용하며, 날카로운 임계값을 대체함.
• 각 스파이크 이후 감소하고 시간이 지남에 따라 회복되는 동적 뉴런 이득 Γi[t]를 도입하여 축삭 초기부의 단기 가소성을 모의함.
• 모든 뉴런 간에 상호 연결되어 있고, 시냅스 가중치 Wij = W로 동일한 유한한 네트워크(N 뉴런)를 MATLAB, Fortran90, C++11을 사용해 수치적 통합으로 시뮬레이션함.
• 폭풍을 단일 활성화 뉴런에서 시작하여 총 막막 전위가 10⁻²⁰ 이하로 떨어질 때까지의 발화 시퀀스로 정의하며, 지연된 발화를 고려해 지속 시간에 +5 시간 단위를 추가함.
• 유한한 크기 척도 분석을 통해 폭풍 크기 및 지속 시간 분포를 분석하고 등급 법칙 행동 여부를 테스트함.
• 정적 시냅스 가중치 모델과 비교하여 임계 지수와 유한한 크기 효과를 분석함.

실험 결과

연구 질문

• RQ1 스토케스틱 스파이크 뉴런 네트워크에서 흡수 상태로의 연속적 및 비연속적 전이가 발생할 수 있는가?
• RQ2 시냅스 억제 대신 동적 이득 메커니즘이 신경망에서 자기조직화 임계성(SOC)을 가능하게 하는가?
• RQ3 동적 이득으로 구동된 네트워크에서 전기적 폭풍의 통계적 특성은 무엇이며, 등급 법칙을 따르는가?
• RQ4 기존 시냅스 가소성 모델 대비 확장성 측면에서 이 새로운 메커니즘의 계산적 성능는 어떠한가?
• RQ5 약간 초임계 동역학(SOSC)이 실험적 전기적 폭풍 측정에서 관찰되는 부분 측정 문제를 설명할 수 있는가?

주요 결과

• 평균 시냅스 가중치와 발화 함수 Φ(V)의 형태에 따라 네트워크는 연속적 및 비연속적 전이를 모두 나타냄.
• 임계 경계에서 전기적 폭풍의 크기 및 지속 시간 분포는 실험적으로 관찰된 생물학적 신경망과 일치하는 등급 법칙을 따름.
• 동적 이득 메커니즘은 Γ* / ΓC ∈ [1.001, 1.01] 범위 내에서 자가조직화 초임계 상태(SOSC)를 생성하며, 이는 알란 튜링의 최적 뇌 기능 이론과 일치함.
• SOSC 상태는 폭풍 크기 분포에 대해 유한한 크기 지수 cS = 2/3를 보이며, Pruessner–Jensen SOC 모델의 결과와 일치하여 공통된 기본 장 이론이 존재할 가능성을 시사함.
• 계산 비용은 크게 감소함: 이득에 대해 O(N)의 동적 방정식만 필요로 하며, 시냅스 가중치에 대해선 O(N²)이므로 더 큰 규모의 시뮬레이션 가능.
• 이 모델은 부분 전극 측정에서 나타나는 등급 법칙 행동을 설명할 수 있을 가능성이 있음. 완전한 네트워크가 초임계일지라도 SOSC 동역학은 부분 측정에서 유사한 등급 법칙 행동을 유도할 수 있음.