[논문 리뷰] A new stochastic STDP Rule in a neural Network Model

Pascal Helson|arXiv (Cornell University)|2017. 06. 01.

Advanced Memory and Neural Computing참고 문헌 4인용 수 3

한 줄 요약

이 논문은 윌슨-코언 신경망 모델 내에서 이산 시냅스 가중치를 갖는 새로운 스토케스틱 스파이크 타이밍 의존성 가소성(STDP) 규칙을 제안하며, 느린-빠른 시간 스케일 분리 기법을 활용하여 가중치 동역학에 대한 결정론적 방정식을 유도한다. 주요 기여는 인위적 제약 조건(예: 경계 또는 메타가소성) 없이도 가중치 과정의 에르고딕성을 보장하는 간단하고 해석 가능한 조건을 제공하는 것으로, 학습 윈도우의 적분이 음수임에도 불구하고 가중치가 발산하는 등 직관에 어긋나는 결과를 드러낸다.

ABSTRACT

Thought to be responsible for memory, synaptic plasticity has been widely studied in the past few decades. One example of plasticity models is the popular Spike Timing Dependent Plasticity (STDP). The huge litterature of STDP models are mainly based deterministic rules whereas the biological mechanisms involved are mainly stochastic ones. Moreover, there exist only few mathematical studies on plasticity taking into account the precise spikes timings. In this article, we aim at proposing a new stochastic STDP rule with discrete synaptic weights which allows a mathematical analysis of the full network dynamics under the hypothesis of separation of timescales. This model attempts to answer the need for understanding the interplay between the weights dynamics and the neurons ones.

연구 동기 및 목표

• 수학적으로 다룰 수 있는 스토케스틱 STDP 모델을 개발하고, 이산 시냅스 가중치를 갖는다. 이를 통해 가소성 동역학을 분석할 수 있도록 한다.
• 신속한 신경 세포의 스파이크와 느린 시냅스 가소성 사이의 시간 스케일 격차를 느린-빠른 분석 프레임워크를 통해 메우고자 한다.
• 신경 활동의 정적 분포를 평균화하여 가중치 동역학에 대한 축소된 방정식을 유도하고자 한다.
• 인위적인 제약 조건(예: 경계 또는 메타가소성) 없이도 가중치 과정의 에르고딕성을 보장하는 충분조건을 규명하고자 한다.
• 엄밀한 확률적 분석을 통해, 학습 윈도우 적분이 음수임에도 불구하고 발산하는 등 비직관적인 역학적 행동을 드러내고자 한다.

제안 방법

• 신경망을 스토케스틱 윌슨-코언 프레임워크로 모델링하며, 시냅스 가중치는 조각별 결정론적 마코프 과정으로 진화한다.
• 느린-빠른 시간 스케일 분리를 적용하며, 가소성이 신경 세포 스파이크 동역학에 비해 무한히 느리게 진화한다고 가정한다.
• 빠른 신경 과정을 그들의 불변 측도로 대체하여 효과적인 가중치 동역학을 유도한다. 이 불변 측도는 르아플라스 부등식과 라플라스 변환을 통해 도출된다.
• 행렬의 역행과 대각 우세성 논증을 사용하여, 공동 뉴런-가중치 과정의 불변 측도의 유일성을 증명한다.
• 불변 측도의 라플라스 변환을 활용하여 가중치 과정의 장기적 행동을 특성화한다.
• 모델에서 유도된 전이 비율 행렬의 스펙트럼 성질을 사용하여 가중치 과정의 재귀성과 비재귀성을 분석한다.

실험 결과

연구 질문

• RQ1 인위적 경계나 메타가소성을 도입하지 않은 상황에서 시냅스 가중치 과정이 에르고딕성을 유지하는 조건은 무엇인가?
• RQ2 이산 가중치 업데이트를 갖는 스토케스틱 STDP 규칙이 안정적이고 해석 가능한 가중치 동역학을 이끌 수 있는가?
• RQ3 STDP 학습 윈도우의 적분이 음수임에도 불구하고 가중치 과정이 왜 발산하는가?
• RQ4 확률적 방법을 사용하여 빠른 신경 세포 스파이크 동역학으로부터 시냅스 가중치의 느린 동역학을 엄밀하게 유도할 수 있는가?
• RQ5 내재된 노이즈가 STDP 규칙에서 수행하는 역할은 무엇이며, 장기적 안정성과 에르고딕성에 어떤 영향을 미치는가?

주요 결과

• 모델 매개변수들이 전이 비율 행렬의 스펙트럼 성질로부터 유도된 단순한 조건을 만족할 경우, 가중치 과정은 양의 재귀적이며 에르고딕적이다.
• 직관에 어긋나게도, STDP 학습 윈도우의 적분이 음수임에도 불구하고, 스토케스틱성과 이산 가중치 업데이트의 상호작용으로 인해 가중치 과정이 발산할 수 있다.
• 공동 뉴런-가중치 과정의 불변 측도는 라플라스 변환과 관련 행렬의 대각 우세성에 의해 유일성이 증명된다.
• 시냅스 가중치의 느린 동역학은 신경 활동의 정적 분포로 대체함으로써 도출된 효과적 방정식에 의해 지배되며, 이는 해석적 접근의 가능성을 보장한다.
• 테일러 전개나 푸리에 전개를 사용하는 대신 확률적 도구를 활용함으로써, 교차상관 행렬의 수치적 추정이 필요 없어진다.
• 분석 결과, STDP 규칙의 내재된 노이즈가 모델 매개변수에 대한 단순하고 명시적인 조건을 만족할 경우 안정적인 장기적 행동을 유도할 수 있음을 확인하였다.