[논문 리뷰] A probabilistic model for learning in cortical microcircuit motifs with data-based divisive inhibition

Robert Legenstein, Zeno Jonke외 2명|arXiv (Cornell University)|2017. 07. 17.

Neural dynamics and brain functionNeuroscience참고 문헌 28인용 수 20

한 줄 요약

이 논문은 층 2/3의皮質 미세회로 모티프에 대한 확률적 생성 모델을 제안하며, 기존의 승자독점(Winner-Take-All, WTA) 프레임워크를 데이터 기반의 나눗셈 억제에 기반한 노이즈-OR 유사 모델로 대체한다. 이를 통해 스파ike-타이밍 의존성 가소성(STDP)이 온라인 기대값 최대화(EM)를 근사함으로써, 중첩된 입력의 모듈러 표현을 학습함으로써 빈도 없는 소스 분리가 가능하다는 것을 보여준다.

ABSTRACT

Previous theoretical studies on the interaction of excitatory and inhibitory neurons proposed to model this cortical microcircuit motif as a so-called Winner-Take-All (WTA) circuit. A recent modeling study however found that the WTA model is not adequate for data-based softer forms of divisive inhibition as found in a microcircuit motif in cortical layer 2/3. We investigate here through theoretical analysis the role of such softer divisive inhibition for the emergence of computational operations and neural codes under spike-timing dependent plasticity (STDP). We show that in contrast to WTA models - where the network activity has been interpreted as probabilistic inference in a generative mixture distribution - this network dynamics approximates inference in a noisy-OR-like generative model that explains the network input based on multiple hidden causes. Furthermore, we show that STDP optimizes the parameters of this model by approximating online the expectation maximization (EM) algorithm. This theoretical analysis corroborates a preceding modelling study which suggested that the learning dynamics of this layer 2/3 microcircuit motif extracts a specific modular representation of the input and thus performs blind source separation on the input statistics.

연구 동기 및 목표

• 승자독점(WTA) 모델의 한계를 해결하기 위해 더 부드럽고 데이터 기반의 나눗셈 억제를 통해 층 2/3의皮질 미세회로 동역학을 설명하는 데 목적이 있다.
• PV+ 수상세포에 의해 매개되는 억제를 고려한 확률적 생성 모델을 개발하여 층 2/3 미세회로의 계산 기능을 더 잘 반영하고자 한다.
• 이 모델에서 STDP가 생성 모델의 파라미터 학습을 위한 온라인 기대값 최대화(EM)를 근사함을 보여주고자 한다.
• 이러한 미세회로가 STDP를 통해 입력 통계의 모듈러 표현을 어떻게 추출하는지에 대한 이론적 기반을 확립하고자 한다.

제안 방법

• 활성 운동성 뉴런에 대한 가우시안 사전확률과 노이즈-OR 유사 우도 항을 포함한 생성 모델을 수립하여 입력 패턴을 설명한다.
• 신경 샘플링 이론을 적용하여, 이 미세회로 모티프가 제안된 생성 모델에서 확률적 추론을 근사함을 보여준다.
• 생성 모델 학습을 위한 온라인 기대값 최대화(EM)를 근사함으로써 모델 파라미터를 최적화하는 가소성 규칙을 유도한다.
• 이 가소성 규칙이 생물학적으로 타당한 STDP 유사 학습 규칙으로 근사 가능함을 보여준다.
• 64차원 바 패턴을 사용한 시뮬레이션을 통해, 이 모델이 중첩된 입력을 재구성하는 능력을 검증한다.
• 진짜 후행확률과 근사 후행확률을 비교하기 위해 KL 발산 지표를 사용하여 학습 중 추론 정확도를 평가한다.

실험 결과

연구 질문

• RQ1 층 2/3의皮질 미세회로에서 더 부드럽고 데이터 기반의 나눗셈 억제는 기존의 WTA 모델과 비교해 계산 작동의 출현에 어떤 영향을 미치는가?
• RQ2 확률적 생성 모델이 이 미세회로 모티프에서 관찰된 빈도 없는 소스 분리를 설명할 수 있는가?
• RQ3 이 네트워크에서 STDP는 생성 모델 파라미터 학습을 위한 온라인 기대값 최대화(EM)를 근사하는가?
• RQ4 정규화 또는 홈오스테이틱 메커니즘은 이 모델에서 효과적인 소스 분리에 어떤 역할을 하는가?
• RQ5 학습 중에 네트워크는 생성 모델의 후행확률 추론을 얼마나 잘 근사하는가?

주요 결과

• 나눗셈 억제를 통한 네트워크 동역학은 WTA 회로에서처럼 혼합 모델이 아니라, 노이즈-OR 유사 생성 모델에서의 확률적 추론을 근사한다.
• STDP는 효과적으로 온라인 기대값 최대화(EM)를 근사함으로써, 네트워크가 비지도 학습 방식으로 생성 모델의 파라미터를 학습할 수 있게 한다.
• 모델은 성공적으로 빈도 없는 소스 분리를 수행하여, 중첩된 입력 패턴을 독립된 성분들로 분리한다.
• 진짜 후행확률과 근사 후행확률 간의 KL 발산은 시간이 지남에 따라 감소하며, 학습 중 추론 정확도 향상을 나타낸다.
• 사전 파라미터를 조정하더라도 모델이 안정적으로 유지됨을 보여주어, 다양한 가정 하에서도 학습의 안정성을 시사한다.
• 최대 사후도 숨겨진 상태를 사용한 입력 패턴 재구성은 높은 정밀도를 보이며, 효과적인 표현 학습을 확인한다.