[논문 리뷰] Probabilistic Synapses

Laurence Aitchison, Alex Pouget외 1명|arXiv (Cornell University)|2014. 10. 04.

Neural dynamics and brain function참고 문헌 4인용 수 6

한 줄 요약

논문은 시냅스가 시냅스 가중치에 대한 확률 분포를 유지하여 확률적 추론을 수행한다고 제안한다. 이는 평균 값뿐 아니라 불확실성(오차 범위)까지 저장함으로써, 불확실성에 따라 학습률을 조절하고 전달성의 변동성으로 이를 전파함으로써, 잡음이 많은 환경에서 빠르고 강건한 학습을 가능하게 하는 범용적이고 생물학적으로 타당한 프레임워크를 제공한다.

ABSTRACT

Learning, especially rapid learning, is critical for survival. However, learning is hard: a large number of synaptic weights must be set based on noisy, often ambiguous, sensory information. In such a high-noise regime, keeping track of probability distributions over weights - not just point estimates - is the optimal strategy. Here we hypothesize that synapses take that optimal strategy: they do not store just the mean weight; they also store their degree of uncertainty - in essence, they put error bars on the weights. They then use that uncertainty to adjust their learning rates, with higher uncertainty resulting in higher learning rates. We also make a second, independent, hypothesis: synapses communicate their uncertainty by linking it to variability, with more uncertainty leading to more variability. More concretely, the value of a synaptic weight at a given time is a sample from its probability distribution. These two hypotheses cast synaptic plasticity as a problem of Bayesian inference, and thus provide a normative view of learning. They are consistent with known learning rules, offer an explanation for the large variability in the size of post-synaptic potentials, and make several falsifiable experimental predictions.

연구 동기 및 목표

• 감각 자극이 모호하고 신뢰할 수 없을 때 빠른 학습을 달성하는 데 도전하는 문제를 해결하기 위해.
• 시냅스가 가중치의 점추정치뿐 아니라 그 불확실성까지 저장하여, 불확실성 하에서 최적의 학습을 가능하게 한다는 것을 제안하기 위해.
• 시냅스 후막 전압의 관측된 변동성을 시냅스의 불확실성과 가중치 분포에서의 표본 추출의 직접적 결과로 설명하기 위해.
• 기존의 시냅스 가소성 규칙들을 베이지안 추론 프레임워크 아래 통합하여, 학습에 대한 범용 이론을 제공하기 위해.

제안 방법

• 시냅스를 단일 점추정치가 아니라 가중치에 대한 확률 분포를 유지한다고 모델링하기 위해.
• 불확실성이 높을수록 학습률이 높아지도록 학습률 조절을 구현하기 위해.
• 시냅스 전달성의 변동성과 가중치 분포의 불확실성을 직접 연결하여, 관측된 변동성이 가중치에 대한 신뢰도를 반영하도록 하기 위해.
• 어느 시점에서나 시냅스의 실제 값이 그 기저의 확률 분포에서 확률적 표본으로 간주되도록 하기 위해.
• 시냅스 가소성을 노이즈가 있는 입력에 기반한 가중치에 대한 사후 분포 갱신으로 간주하여, 베이지안 추론으로서의 학습을 프레임워크화하기 위해.
• 이 프레임워크를 사용하여 시냅스 역학과 변동성에 대한 검증 가능한 예측을 도출하기 위해.

실험 결과

연구 질문

• RQ1 시냅스는 잡음이 많고 모호한 감각 자극 환경에서 어떻게 최적의 학습을 달성할 수 있는가?
• RQ2 시냅스 전달성의 변동성은 기능적으로 어떤 역할을 하는가? 그리고 이는 가중치의 불확실성을 인코딩할 수 있는가?
• RQ3 시냅스 가소성 규칙은 범용적 베이지안 추론 관점에서 유도될 수 있는가?
• RQ4 가중치의 불확실성이 학습률과 적응 속도에 어떻게 영향을 미치는가?
• RQ5 이 확률적 시냅스 모델을 고전적 점추정 모델과 구별할 수 있는 실험적 서명은 무엇인가?

주요 결과

• 가중치에 대한 확률 분포를 저장하고 표본을 추출하는 시냅스는 높은 잡음 환경에서 최적의 학습을 달성할 수 있다.
• 불확실성이 높을수록 학습률이 증가하여, 가중치 추정치가 신뢰할 수 없을 때 더 빠른 적응이 가능하다.
• 시냅스 후막 전압의 변동성은 불확실한 가중치 분포에서 표본을 추출함으로써 자연스럽게 발생하며, 이는 생물학적 변동성을 설명한다.
• 이 모델은 스파ike-타이밍 의존적 가소성 등의 기존 시냅스 가소성 규칙에 대한 범용적 설명을 제공한다.
• 이 프레임워크는 검증 가능한 예측을 도출한다. 예를 들어, 다양한 시냅스 간에 시냅스 변동성과 학습률 사이의 상관관계를 예측한다.
• 이 모델은 시냅스 전달의 명백한 무작위성과 정보 이론적 원칙에 기반한 학습의 체계적인 역할을 통합한다.