[논문 리뷰] Bayesian Inference with Spiking Neurons

Michael G. Paulin, André van Schaik|arXiv (Cornell University)|2014. 06. 19.

Neural dynamics and brain function참고 문헌 42인용 수 9

한 줄 요약

이 논문은 스파iking 뉴런을 사용하여 실시간 베이지안 추론을 구현하는 생물학적으로 타당한 신경 메커니즘을 제안한다. 단일 뉴런의 전하위막 전위가 포아송 분포를 따르는 감각 자극에 대해 베이즈의 정리의 분자 부분을 계산할 수 있음을 보여주며, 이러한 뉴런들의 네트워크가 연속 시간 동안 매개변수의 전체 사후 분포를 정확하게 표현할 수 있음을 입증한다.

ABSTRACT

Humans and other animals behave as if we perform fast Bayesian inference underlying decisions and movement control given uncertain sense data. Here we show that a biophysically realistic model of the subthreshold membrane potential of a single neuron can exactly compute the numerator in Bayes rule for inferring the Poisson parameter of a sensory spike train. A simple network of spiking neurons can construct and represent the Bayesian posterior density of a parameter of an external cause that affects the Poisson parameter, accurately and in real time.

연구 동기 및 목표

• 신경적 잡음과 불확실성에도 불구하고 생물학적 신경 시스템이 빠르고 실시간으로 베이지안 추론을 수행할 수 있는 방식을 설명하는 것.
• 추상적인 베이지안 인지 모델과 생물학적으로 타당한 신경 회로 사이의 격차를 메우는 것.
• 스파킹 뉴런 네트워크가 감각 자극의 매개변수에 대한 사후 분포를 계산하고 표현할 수 있음을 보여주는 것.
• 단일 뉴런의 하위막 전위가 베이즈의 정리의 核심 계산을 수행할 수 있음을 보여주는 것.
• 스파크 트레인 데이터로부터 포아송 과정의 강도 매개변수를 추론할 때 모델의 정확성과 실시간 성능을 검증하는 것.

제안 방법

• 베이즈의 정리에서 우도의 분자를 계산하는 연속 시간 확률 과정으로 단일 뉴런의 하위막 전위를 모델링한다.
• 시간에 따라 변화하는 감각 스파이크를 통합하기 위해 도전성 기반 시냅스를 갖춘 누설 적분-화염(LIF) 뉴런 모델을 사용한다.
• 각 뉴런이 포아송 강도 매개변수에 대한 사후 밀도의 이산 근사치를 인코딩하는 스파킹 뉴런 네트워크를 구성한다.
• 각 뉴런의 발화 빈도가 사후 확률의 점 추정치에 해당하는 확률적 인코딩 체계를 적용한다.
• 네트워크 전반에 걸쳐 정규화 메커니즘을 적용하여 사후 분포 표현의 정확성을 유지한다.
• 시간에 따라 변화하는 감각 입력을 시뮬레이션하여 실시간 추론과 진짜 사후 분포로의 수렴을 입증한다.

실험 결과

연구 질문

• RQ1 생물학적으로 현실적인 단일 뉴런이 포아송 분포를 따르는 입력에 대해 베이즈 정리의 분자 부분을 정확히 계산할 수 있는가?
• RQ2 스파킹 뉴런 네트워크가 매개변수에 대한 전체 사후 분포를 실시간으로 표현할 수 있는가?
• RQ3 다양한 입력 조건에서 이러한 네트워크가 포아송 스파크 트레인의 강도 매개변수를 얼마나 정확하게 추론할 수 있는가?
• RQ4 하위막 전위의 동역학이 베이지안 추론을 구현하는 데 어떤 역할을 하는가?
• RQ5 이 모델이 불확실한 감각 증거가 존재하는 상황에서 빠르고 강건한 의사결정을 설명할 수 있는가?

주요 결과

• 포아송 분포를 따르는 감각 자극에 대해 단일 뉴런의 하위막 전위가 정확히 베이즈 정리의 우도 분자 부분을 계산한다.
• 스파킹 뉴런 네트워크가 포아송 강도 매개변수에 대한 전체 사후 분포를 높은 정확도로 표현할 수 있다.
• 모델은 실시간 추론을 수행하며, 새로운 감각 스파이크가 도착할수록 사후 분포를 업데이트한다.
• 내재된 동역학과 연결성 덕분에 네트워크가 사후 분포의 정규화를 유지한다.
• 스파이크 시계열의 노이즈와 변동성에도 불구하고 생물학적 신경 처리와 일치하는 강건성을 보인다.
• 해석적 해와 일치하는 직접적인 신경적 구현을 제공하여 베이지안 추론을 실현한다.