[논문 리뷰] Bayesian synaptic plasticity makes predictions about plasticity experiments in vivo

Laurence Aitchison, Peter E. Latham|arXiv (Cornell University)|2014. 10. 04.

Neural dynamics and brain function인용 수 6

한 줄 요약

이 논문은 신경망에서 학습 효율성을 극대화하기 위해 베이지안 추론을 사용하여 최적의 시냅스 가소성 규칙을 유도한다. 국소적으로 이용 가능한 정보를 활용함으로써 제안된 규칙들은 전시냅스 활동이 낮을 때 학습 속도가 증가하고, 전시냅스 작동 빈도에 따라 시냅스 간으로 변화하는 것을 예측한다—이러한 규칙들은 생물학적으로 타당하고 유연한 프레임워크를 제공하여 이론과 복잡한 신경 동역학을 연결한다.

ABSTRACT

Humans and other animals learn by updating synaptic weights in the brain. Rapid learning allows animals to adapt quickly to changes in their environment, giving them a large selective advantage. As brains have been evolving for several hundred million years, we might expect biological learning rules to be close to optimal, by exploiting all locally available in-formation in order to learn as rapidly as possible. However, no previously proposed learning rules are optimal in this sense. We therefore use Bayes theorem to derive optimal learning rules for supervised, unsupervised and reinforcement learning. As expected, these rules prove to be significantly more effective than the best classical learning rules. Our learning rules make two predictions about the results of plasticity experiments in active networks. First, we predict that learning rates should vary across time, increasing when fewer inputs are active. Second, we predict that learning rates should vary across synapses, being higher for synapses whose presy-naptic cells have a lower average firing rate. Finally, our methods are extremely flexible, allowing the derivation of optimal learning rules based solely on the information that is assumed, or known, to be available to the synapse. This flexibility should allow for the derivation of optimal learning rules for progressively more complex and realistic synaptic and neural models — allowing us to connect theory with complex biological reality. 1

연구 동기 및 목표

• 지역적으로 이용 가능한 정보만을 사용하여 학습 속도를 극대화하는 의미에서 최적의 학습 규칙을 개발하기 위해.
• 진화가 생물학적 학습 메커니즘을 최적화했을 가능성이 있음에도 불구하고, 기존 학습 규칙이 최적이 아니라는 격차를 메우기 위해.
• 점차 복잡해지는 시냅스 및 신경 모델에 적용 가능한 민첩하고 생물학적으로 타당한 학습 규칙을 도출하기 위해.
• 활성 신경망에서의 시냅스 가소성에 대한 검증 가능한 예측을 생성하기 위해.
• 이론적 학습 규칙과 실험 신경과학을 연결하기 위해, 측정 가능한 생물학적 변수에 기반한 규칙을 마련하기 위해.

제안 방법

• 신경 시스템에서 지도학습, 비지도학습, 강화학습의 최적 학습 규칙을 도출하기 위해 베이즈 정리 적용.
• 학습 중 시냅스가 전시냅스 및 후시냅스 활동과 같은 국소 정보만 액세스할 수 있다고 가정.
• 전시냅스 활동 수준과 작동 빈도에 따라 학습 속도를 동적으로 조정하는 학습 규칙 유도.
• 확률적 추론을 사용하여 시냅스 가중치 갱신을 시냅스 가중치에 대한 사후 분포로 모델링.
• 유도된 규칙이 생물학적 제약과 가용한 실험 데이터와 일관성을 유지하도록 보장.
• 점차 더 복잡하고 현실적인 신경 및 시냅스 모델에 적응할 수 있도록 프레임워크 확장.

실험 결과

연구 질문

• RQ1 지역적으로 이용 가능한 정보만을 사용하여 학습 속도 측면에서 최적화된 시냅스 가소성 규칙을 어떻게 도출할 수 있는가?
• RQ2 최적의 베이지안 가소성 규칙은 활성 신경망에서 학습 속도 역학에 대해 어떤 구체적 예측을 하는가?
• RQ3 최적의 학습 조건 하에서 학습 속도는 시간에 따라, 그리고 시냅스 간에 어떻게 변할 것인가?
• RQ4 유도된 규칙은 점차 복잡한 생물학적 신경 구조에 어떻게 민첩하게 적응시킬 수 있는가?
• RQ5 학습 효율성 측면에서 이들 베이지안 규칙은 고전적 학습 규칙보다 얼마나 효과적인가?

주요 결과

• 유도된 베이지안 가소성 규칙은 학습 효율성 측면에서 고전적 학습 규칙을 크게 능가한다.
• 적은 수의 전시냅스 입력이 활성화될 때 학습 속도가 증가할 것으로 예측되며, 이는 높은 불확실성과 더 큰 학습 잠재력 반영.
• 낮은 평균 전시냅스 작동 빈도를 가진 시냅스에서 학습 속도가 더 높을 것으로 예측되며, 이는 희박한 활동에서 더 큰 정보량 때문.
• 개별 시냅스가 가정하는 정보만을 기반으로 최적의 학습 규칙을 도출할 수 있도록 하는 프레임워크.
• 점차 더 복잡하고 생물학적으로 현실적인 신경 회로에 대한 학습 규칙을 도출하는 데에 민감하고 확장 가능한 접근 제공.
• 이론은 살아있는 생체 내에서의 시냅스 가소성에 대해 검증 가능한, 실험적으로 검증 가능한 예측을 생성하며, 특히 학습 속도의 시간적 및 시냅스적 이질성에 대해.