[논문 리뷰] Sampling-based probabilistic inference emerges from learning in neural circuits with a cost on reliability

Laurence Aitchison, Guillaume Hennequin외 1명|arXiv (Cornell University)|2018. 07. 24.

Neural dynamics and brain function참고 문헌 38인용 수 6

한 줄 요약

이 논문은 신경망이 정확한 발화의 대사 비용을 반영하는 생물학적으로 타당한 비용 함수로 훈련될 때, 자연스럽게 표본 기반의 확률적 추론을 발현함을 보여준다. 재구성 정확도와 에너지 비용을 균형 잡는 방식으로, 학습 과제가 비확률적임에도 불구하고 네트워크는 베이지안 사후 분포에서 표본을 추출하는 방식의 반응 변동성을 갖게 된다. 이러한 잠재적 행동은 감각 피질에서 관찰된 신경 동역학과 유사하며, 자동에코더에서 변분 추론과 분석적으로 연결된다.

ABSTRACT

Neural responses in the cortex change over time both systematically, due to ongoing plasticity and learning, and seemingly randomly, due to various sources of noise and variability. Most previous work considered each of these processes, learning and variability, in isolation -- here we study neural networks exhibiting both and show that their interaction leads to the emergence of powerful computational properties. We trained neural networks on classical unsupervised learning tasks, in which the objective was to represent their inputs in an efficient, easily decodable form, with an additional cost for neural reliability which we derived from basic biophysical considerations. This cost on reliability introduced a tradeoff between energetically cheap but inaccurate representations and energetically costly but accurate ones. Despite the learning tasks being non-probabilistic, the networks solved this tradeoff by developing a probabilistic representation: neural variability represented samples from statistically appropriate posterior distributions that would result from performing probabilistic inference over their inputs. We provide an analytical understanding of this result by revealing a connection between the cost of reliability, and the objective for a state-of-the-art Bayesian inference strategy: variational autoencoders. We show that the same cost leads to the emergence of increasingly accurate probabilistic representations as networks become more complex, from single-layer feed-forward, through multi-layer feed-forward, to recurrent architectures. Our results provide insights into why neural responses in sensory areas show signatures of sampling-based probabilistic representations, and may inform future deep learning algorithms and their implementation in stochastic low-precision computing systems.

연구 동기 및 목표

• 신경 변동성이 성능에 부정적 영향을 미치는 바늘, 지속적인 시냅스 가소성의 맥락에서 이와 같은 변동성이 왜 유지되는지 이해하기 위해.
• 학습 시스템에서 신경 신뢰성(높은 대사 비용)과 성능 정확도 사이의 상충 관계를 조사하기 위해.
• 신뢰성에 대한 생물학적으로 타당한 비용이 신경 회로에서 확률적 계산의 잠재적 발현을 이끌 수 있는지 확인하기 위해.
• 비확률적 학습 과제에서도 이러한 비용이 통계적으로 적절한 사후 분포에서 표본을 추출하도록 유도하는지 탐색하기 위해.
• 이 생물학적으로 기반을 둔 목표와 현대 기계학습에서 사용되는 변분 자유 에너지 원리 사이의 형식적 연결을 수립하기 위해.

제안 방법

• 희소 코드화, 자동에코딩 등의 비지도 학습 과제에서, 높은 신뢰성(낮은 노이즈)을 방지하는 추가 비용 항을 포함하여 신경망을 훈련한다.
• 신경 변동성을 노이즈 강도(σi)가 노드별로 다를 수 있는 스토하스틱 동역학으로 모델링하며, 이는 대사 비용을 반영하는 매개변수에 의해 스케일링된다.
• 특히 정밀한 낮은 노이즈의 스파iking 반응을 유지하는 데 필요한 에너지를 기반으로 신뢰성 비용을 유도한다.
• 드라이프(Π) 및 노이즈(Q) 행렬을 사용한 동역학 시스템 설정을 통해 신경 집단의 동역학을 모델링하며, Π는 대칭성(Q) 및 반대칭성(S) 성분을 포함한다.
• 반대칭 성분 S의 발산을 방지하기 위해, 동역학 행렬(Π)과 정적 공분산(Σ)의 곱 ΠΣ에 프로베니우스 노름을 정규화자로 도입한다.
• 시간에 따른 경험 평균 추정치의 공분산을 사용하여 표본 추출 속도를 분석하며, 평균 제곱 오차의 대체 지표로 Σ⁻¹/²Cov[µ]Σ⁻¹/²의 트레이스를 사용한다.

실험 결과

연구 질문

• RQ1 생물학적으로 타당한 신뢰성 비용이 신경망에서 확률적 추론의 발현을 이끌 수 있는가?
• RQ2 훈련된 네트워크의 신경 변동성이 숨겨진 원인에 대한 베이지안 사후 분포에서의 표본과 대응하는가?
• RQ3 에너지 비용과 표현 정확도 사이의 상충 관계가 신경 반응 변동성의 구조를 어떻게 형성하는가?
• RQ4 유도된 신뢰성 비용과 변분 자율 에너지 목표함수 사이에 형식적 연결이 존재하는가?
• RQ5 이 메커니즘은 딥 및 순환 네트워크를 포함한 다양한 네트워크 아키텍처로 일반화 가능한가?

주요 결과

• 신뢰성 비용이 적용된 신경망은 학습 과제가 비확률적임에도 불구하고, 입력에 대한 내부 확률 모델의 사후 분포에서 표본을 추출하는 반응 변동성을 자연스럽게 발현한다.
• 정확도와 신뢰성 간 최적의 균형은, 근사 베이지안 추론을 통한 표본 추출 방식과 통계적으로 동일한 분포를 갖는 반응 분포를 생성한다.
• 유도된 목표 함수는 변분 자유 에너지의 상한선을 형성하며, 이를 최소화함으로써 네트워크 반응과 진짜 사후 분포 간의 유사도를 증가시킨다.
• 딥 및 순환 아키텍처에서는 동일한 메커니즘이 피드포워드 네트워크가 표현할 수 없는 복잡하고 상관관계가 있는 사후 분포에서 표본 추출을 가능하게 한다.
• 표본 추출 속도는 동역학 행렬의 구조와 정량적으로 연결되며, 반대칭 성분 S가 노이즈와 상관관계를 균형 있게 조정할 때 최적의 표본 추출이 달성된다.
• 이 방법은 순환 네트워크에서 시간에 따른 상관관계가 존재하는 경우에도 강건하며, 추론 정확도나 자동에코더 성능을 저하시키지 않고 빠른 수렴을 유도할 수 있다.