[논문 리뷰] Optimal Spike-Timing Dependent Plasticity for Precise Action Potential Firing

Jean-Pascal Pfister, Taro Toyoizumi외 2명|ArXiv.org|2005. 02. 24.

Advanced Memory and Neural Computing참고 문헌 46인용 수 15

한 줄 요약

이 논문은 정확한 목표 시점에 시냅스 후 작동전위가 발생할 가능성을 최대화하기 위해 지도학습을 사용하여 최적의 스파ike-타이밍 의존성 가소성(STDP) 규칙을 유도한다. 가능도 함수에 대한 기울기 상승을 통해 시냅스 가중치를 최적화함으로써, 최적의 학습 윈도우가 이중형임을 보여주며, 이는 전조신경전위가 목표 시점의 시냅스 후 신경전위보다 앞서면 강화되고, 그 반대의 경우는 감소하는 것을 의미한다. 이 형태는 시간적 국소성 또는 발화율 제어와 같은 제약 조건에 따라 달라진다.

ABSTRACT

In timing-based neural codes, neurons have to emit action potentials at precise moments in time. We use a supervised learning paradigm to derive a synaptic update rule that optimizes via gradient ascent the likelihood of postsynaptic firing at one or several desired firing times. We find that the optimal strategy of up- and downregulating synaptic efficacies can be described by a two-phase learning window similar to that of Spike-Timing Dependent Plasticity (STDP). If the presynaptic spike arrives before the desired postsynaptic spike timing, our optimal learning rule predicts that the synapse should become potentiated. The dependence of the potentiation on spike timing directly reflects the time course of an excitatory postsynaptic potential. The presence and amplitude of depression of synaptic efficacies for reversed spike timing depends on how constraints are implemented in the optimization problem. Two different constraints, i.e., control of postsynaptic rates or control of temporal locality,are discussed.

연구 동기 및 목표

• 시냅스 후 뉴런이 높은 시간 정밀도로 작동전위를 발생시킬 수 있도록 하는 최적의 시냅스 가소성 규칙을 결정하는 것.
• 스파이크-타이밍 의존성 가소성(STDP)이 신경 시스템에서 시간 코드화를 위한 최적의 학습 규칙으로 유도될 수 있는지 조사하는 것.
• 시간적 국소성 또는 시냅스 후 발화율 제어와 같은 다양한 제약 조건이 최적의 STDP 윈도우 형태에 미치는 영향을 탐색하는 것.
• 지도학습 원리와 스파iking 신경망 내의 비지도 시냅스 가소성 메커니즘을 연결하는 것.
• 기울기 상승을 통한 가능도 목표 함수 최적화를 통해 생물학적으로 타당한 STDP 함수를 제1원리에서 도출하는 것.

제안 방법

• 목표로 하는 한 개 이상의 스파이크 시점에서의 시냅스 후 발화 가능도를 최대화하는 것이 목표인 지도학습 프레임워크를 사용한다.
• 시냅스 후 세포막 전위를 전조신경전위의 합과 목표 시점에 가까이 발화하도록 유도하는 '가르침' 입력 전류의 합으로 모델링한다.
• 스파이크 타이밍의 로그 가능도에 대한 기울기 상승을 통해 최적의 시냅스 가중치 갱신을 유도하며, 역사에 의존하는 발화율을 갖는 확률적 뉴런 모델을 사용한다.
• 불안정한 역문제를 해결하기 위해 모어-펜로즈 역행렬을 사용하여, 최적의 가중치 변화에서 기저의 STDP 함수를 복원하기 위해 탈컨볼루션 기법을 적용한다.
• 비국소적 가중치 변화에 대한 제곱형 페널티를 통해 시간적 국소성 제약 조건을 최적화 과정에 통합함으로써 정규화된 해를 도출한다.
• 몬테카를로 샘플링과 반분석적 추정을 사용하여 기대 발화율을 계산함으로써, 효율적이고 정확한 가능도 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 정확한 목표 시점에 시냅스 후 뉴런이 작동전위를 발생시킬 수 있도록 하는 최적의 시냅스 가소성 형태는 무엇인가?
• RQ2 최적화 과정에서 시간적 국소성 또는 발화율 제어와 같은 제약 조건이 최적의 STDP 윈도우에 미치는 영향은 무엇인가?
• RQ3 원칙적인 스파이크 타이밍 정밀도 최적화 과정에서 이중형 STDP 유사 학습 규칙이 자연스럽게 유도될 수 있는가?
• RQ4 최적 학습 규칙에서 STDP 윈도우의 형태와 EPSP의 시간적 과정 간의 관계는 무엇인가?
• RQ5 정규화(예: 시간적 국소성)의 포함이 유도된 STDP 함수의 구조에 어떤 영향을 미치는가?

주요 결과

• 최적의 학습 규칙은 이중형 STDP 유사 윈도우를 생성한다: 전조신경전위가 목표 시점의 시냅스 후 신경전위보다 앞서면 강화되며, 그 크기는 EPSP의 시간 과정에 따라 달라진다.
• 역행 시계열에서의 시냅스 감소는 최적화 과정에서 제약 조건이 도입되었을 때만 발생한다; 이러한 제약 조건이 없으면 감소가 필요하지 않다.
• 비국소적 가중치 변화에 대한 제곱형 페널티를 통해 시간적 국소성을 강제하면, 유도된 STDP 함수는 국소화되고 생물학적으로 타당한 형태가 된다.
• 최적의 STDP 윈도우는 수학적으로 시간 도함수 필터와 동일하며, 전조신경전위와 시냅스 후 신경전위의 타이밍에 대한 민감도를 반영한다.
• 반분석적 추정은 특히 저노이즈 환경에서 경험적 PSTH 기반 방법보다 더 빠르고 정확하게 수렴한다.
• 모어-펜로즈 역행렬을 사용한 가중치 변화의 탈컨볼루션을 통해 유도된 STDP 규칙을 복원할 수 있으며, 최적화와 유도된 가소성 규칙 간의 일관성을 확인할 수 있다.