[논문 리뷰] Self-organization using synaptic plasticity

Vicençc Gómez, Andreas Kaltenbrunner외 2명|ArXiv.org|2008. 08. 22.

Neural dynamics and brain function참고 문헌 15인용 수 4

한 줄 요약

이 논문은 시냅스 가소성 규칙을 제안하여, 뉴런의 자연적 발 firing 주파수에 비해 시냅스 후 입력을 조정함으로써, 스파iking 신경망이 자기조직화되어 임계 상태에 도달하도록 한다—이를 통해 동적 범위와 정보 처리 능력이 최대화된다. 이 메커니즘은 순수히 국소적인 시냅스 조절을 통해 전역적 홈오스테시스를 달성하며, η = 1에서 임계성이 발생한다. 이때 간격 간 간격 범위가 최대화된다.

ABSTRACT

Large networks of spiking neurons show abrupt changes in their collective dynamics resembling phase transitions studied in statistical physics. An example of this phenomenon is the transition from irregular, noise-driven dynamics to regular, self-sustained behavior observed in networks of integrate-and-fire neurons as the interaction strength between the neurons increases. In this work we show how a network of spiking neurons is able to self-organize towards a critical state for which the range of possible inter-spike-intervals (dynamic range) is maximized. Self-organization occurs via synaptic dynamics that we analytically derive. The resulting plasticity rule is defined locally so that global homeostasis near the critical state is achieved by local regulation of individual synapses.

연구 동기 및 목표

• 외부 조정 없이도 생물학적으로 타당한 시냅스 가소성 메커니즘을 개발하여 신경망이 임계 상태로 자기조직화되도록 하는 것.
• 국소적인 시냅스 역학이 어떻게 임계점 근처에서 전역적 홈오스테시스를 달성할 수 있는지 밝혀내는 것—이때 네트워크의 민감도와 동적 범위가 최대화된다.
• 목표 발화 주파수에서 입력의 편차에 기반한 단순한 국소 규칙이 스파이킹 네트워크에서 임계 행동을 유도하고 유지할 수 있음을 보여주는 것.

제안 방법

• 지연된 결합을 가진 비누스통적 적분-및-화염 스파이킹 뉴런을 사용하며, 뉴런의 활성도는 임계값 L로 향하는 확률적 과정을 통해 변화한다.
• 상전이가 η = 1에서 발생하며, 이는 η = (L−1)/((N−1)⟨ε⟩)로 정의되며, 이는 하위임계(η > 1), 임계(η = 1), 초임계(η < 1) 영역으로 나뉜다.
• 자발적 진동의 소산된 에너지에 기반한 국소 가소성 규칙을 유도하며, 이를 통해 시냅스 가중치를 조정하여 입력을 목표 발화 주파수와 균형 잡히게 한다.
• 시냅스 후 입력이 목표 수준 이하일 경우 강화되고, 초과할 경우 약화되어 최적의 입력 수준으로 향하는 홈오스테시스 조절이 보장된다.
• 이론적 분석에 따르면, 이 규칙은 η = 1로 시스템을 이끄는 데 성공하며, 이때 동적 범위 Δτ = τ_max − τ_min 가 최대화된다.
• 수치 시뮬레이션은 임계 상태로의 수렴을 확인하였으며, 수렴 시간과 스파이크 수에 대한 이론적 근사치가 실증 결과와 잘 일치한다.

실험 결과

연구 질문

• RQ1 순수하게 국소적인 시냅스 가소성 규칙이 외부 조정 없이도 스파이킹 뉴런 네트워크가 임계 상태로 자기조직화할 수 있는가?
• RQ2 다양한 상호작용 강도에서 간격 간 간격의 동적 범위는 어떻게 변화하며, 어디서 최대가 되는가?
• RQ3 지수 분포 σ와 시스템 파라미터 η 사이의 관계는 무엇이며, 이는 어떻게 임계성과 연결되는가?
• RQ4 국소적인 시냅스 조절이 임계점 근처에서 전역적 홈오스테시스를 달성할 수 있으며, 초기 조건에 대해 얼마나 강건한가?
• RQ5 히스테리시스는 초임계 영역(η < 1)에서 네트워크 역학에 어떤 역할을 하는가, 그리고 수렴에 어떤 영향을 미치는가?

주요 결과

• 간격 간 간격의 동적 범위(Δτ = τ_max − τ_min)는 η = 1에서 최대화되며, 이는 비평형 상전이의 임계점에 해당한다.
• 자발적 진동의 소산에 기반한 제안된 시냅스 가소성 규칙은 순수하게 국소적인 시냅스 조정을 통해 네트워크가 η = 1로 향하도록 이끈다.
• 하위임계(η₀ > 1) 초기 조건에서 시작할 경우 초임계(η₀ < 1) 초기 조건보다 더 빠르게 임계 상태로 수렴하지만, 후자의 경우 히스테리시스로 인해 더 많은 스파이크가 필요하다.
• 초임계 초기 조건(η₀ < 1)에서는 더 짧은 ISIs로 인해 수렴에 소요되는 시간 단계 수가 더 적지만, 스파이크 수는 더 많다.
• 수렴 시간과 스파이크 수에 대한 이론적 근사치(식 (3)에서 유도된 τ_app(ηₜ))는 다양한 η₀ 값에 걸쳐 실증 시뮬레이션 결과와 잘 일치한다.
• 초기 결과에 따르면, 임계 상태(η = 1)에서 인위적 외란이 발생할 경우, 무거운 尾 분포를 가진 크기와 지속 시간 분포를 가진 뉴런 폭발이 유도되며, 자가조직 임계성과 일치한다.