[논문 리뷰] Theory of coupled neuronal-synaptic dynamics

David G. Clark, L. F. Abbott|arXiv (Cornell University)|2023. 02. 17.

Neural dynamics and brain function인용 수 8

한 줄 요약

논문은 Hebbian/anti-Hebbian 시냅스 가소성 아래 신경 활동과 시냅스 결합이 공진적으로 함께 진화하는 순환 네트워크 모델을 개발·분석하고, 다이나믹스 평균장 이론(DMFT)을 사용하여 풍부한 위상 다이어그램을 매핑하며 자유화 가능한 혼돈과 시냅스 지배의 느린 모드 같은 메커니즘을 밝힙니다.

ABSTRACT

In neural circuits, synaptic strengths influence neuronal activity by shaping network dynamics, and neuronal activity influences synaptic strengths through activity-dependent plasticity. Motivated by this fact, we study a recurrent-network model in which neuronal units and synaptic couplings are interacting dynamic variables, with couplings subject to Hebbian modification with decay around quenched random strengths. Rather than assigning a specific role to the plasticity, we use dynamical mean-field theory and other techniques to systematically characterize the neuronal-synaptic dynamics, revealing a rich phase diagram. Adding Hebbian plasticity slows activity in chaotic networks and can induce chaos in otherwise quiescent networks. Anti-Hebbian plasticity quickens activity and produces an oscillatory component. Analysis of the Jacobian shows that Hebbian and anti-Hebbian plasticity push locally unstable modes toward the real and imaginary axes, explaining these behaviors. Both random-matrix and Lyapunov analysis show that strong Hebbian plasticity segregates network timescales into two bands with a slow, synapse-dominated band driving the dynamics, suggesting a flipped view of the network as synapses connected by neurons. For increasing strength, Hebbian plasticity initially raises the complexity of the dynamics, measured by the maximum Lyapunov exponent and attractor dimension, but then decreases these metrics, likely due to the proliferation of stable fixed points. We compute the marginally stable spectra of such fixed points as well as their number, showing exponential growth with network size. In chaotic states with strong Hebbian plasticity, a stable fixed point of neuronal dynamics is destabilized by synaptic dynamics, allowing any neuronal state to be stored as a stable fixed point by halting the plasticity. This phase of freezable chaos offers a new mechanism for working memory.

연구 동기 및 목표

• Coupled neuronal-synaptic dynamics를 더 정확한 계산 프레임워크로 연구하는 동기를 부여합니다.
• Hebbian/anti-Hebbian 가소성을 포함하는 동적 시냅스를 갖춘 순환 네트워크 모델을 소개합니다.
• 다이나믹스 평균장 이론(DMFT)을 사용하여 결과적인 동역학 및 위상 다이어그램을 특성화합니다.
• 가소성이 혼돈, 고정점 및 네트워크의 기억 저장에 미치는 영향을 밝힙니다.

제안 방법

• 전 activations x_i를 가진 N개의 뉴런 네트워크를 정의하고 활성화 φ_i = tanh(x_i)로 둡니다.
• 뉴런을 time-dependent W_ij(t) = J_ij + A_ij(t)로 연결하며 J_ij는 N(0, g^2/N)에서 뽑습니다.
• 가소성 규칙(1+p dA/dt = (k/N) sum_j φ_i φ_j)을 사용하여 p의 감쇠와 함께 A_ij(t)를 구동합니다.
• N → ∞ 극한에서 자기 일관적 자기공분산 C(τ)를 얻는 DMFT를 도출합니다.
• 야코비 행렬과 Lyapunov 스펙트럼을 분석하여 고차원 동역학과 위상 전이를 매핑합니다.
• 혼돈, 정지(quiescent), 고정점 다발이 풍부한 상태, 그리고 자유화 가능한 혼돈과 같은 위상을 식별합니다.

실험 결과

연구 질문

• RQ1 결합된 신경-시냅스 동역학이 순환 네트워크의 위상 다이어그램에 어떤 변화를 가져오는가?
• RQ2 Hebbian(k>0) 가소성과 anti-Hebbian(k<0) 가소성이 네트워크 혼돈, 시간 스케일, 진동에 어떤 영향을 미치는가?
• RQ3 강한 가소성이 안정한 고정점의 확산을 유도할 수 있는가, 그리고 이것이 기억 저장과 어떤 관계가 있는가?
• RQ4 이 가소성 네트워크에서 야코비안과 Lyapunov 스펙트럼의 구조는 어떠하며 시냅스- 대 뇌 뉴런 지배 동역학을 어떻게 드러내는가?
• RQ5 언제 자유화 가능한 혼돈이 발생하고 그것이 단기 기억을 어떻게 지원할 수 있는가?

주요 결과

• Hebbian 가소성은 혼돈 활성을 느리게 만들고 비활성 상태에서 혼돈을 유도할 수도 있다.
• Anti-Hebbian 가소성은 활성을 빠르게 하고 진동 성분을 도입한다.
• 강한 Hebbian 가소성은 느리고 시냅스 지배적인 시간尺度와 두 대역의 야코비안 스펙트럼을 만든다.
• 네트워크 크기 N에 따라 안정적 고정점의 수가 지수적으로 증가한다.
• 강한 Hebbian 가소성이 있는 혼돈 상태에서 시냅스를 멈추면 안정적인 신경 고정점을 드러내어 기억 저장을 가능하게 하는(자유화 가능한 혼돈) 현상이 나타난다.
• 한계적으로 안정한 고정점과 그 수는 N에 대해 지수적으로 스케일한다.