[논문 리뷰] A probabilistic population code based on neural samples

Sabyasachi Shivkumar, Richard D. Lange외 2명|arXiv (Cornell University)|2018. 11. 24.

Neural dynamics and brain function인용 수 7

한 줄 요약

이 논문은 V1에서의 시각 처리에 대한 신경 샘플링 기반 모델이 동시에 여러 해석을 가능하게 함을 보여준다: 신경 반응은 사후 분포에서의 표본으로 볼 수 있을 뿐 아니라 확률적 인구 코드(PPC)의 매개변수로도 간주될 수 있다. 핵심 결과는 동일한 시스템이 샘플링과 매개변수 기반 코드화 모두와 호환될 수 있으며, 발화 빈도가 작업에 관련된 변수들(예: 방향성)의 확률과 로그-확률 모두에 비례한다는 것이다.

ABSTRACT

Sensory processing is often characterized as implementing probabilistic inference: networks of neurons compute posterior beliefs over unobserved causes given the sensory inputs. How these beliefs are computed and represented by neural responses is much-debated (Fiser et al. 2010, Pouget et al. 2013). A central debate concerns the question of whether neural responses represent samples of latent variables (Hoyer & Hyvarinnen 2003) or parameters of their distributions (Ma et al. 2006) with efforts being made to distinguish between them (Grabska-Barwinska et al. 2013). A separate debate addresses the question of whether neural responses are proportionally related to the encoded probabilities (Barlow 1969), or proportional to the logarithm of those probabilities (Jazayeri & Movshon 2006, Ma et al. 2006, Beck et al. 2012). Here, we show that these alternatives - contrary to common assumptions - are not mutually exclusive and that the very same system can be compatible with all of them. As a central analytical result, we show that modeling neural responses in area V1 as samples from a posterior distribution over latents in a linear Gaussian model of the image implies that those neural responses form a linear Probabilistic Population Code (PPC, Ma et al. 2006). In particular, the posterior distribution over some experimenter-defined variable like "orientation" is part of the exponential family with sufficient statistics that are linear in the neural sampling-based firing rates.

연구 동기 및 목표

• 신경 코드가 확률 분포의 표본인지 매개변수인지에 대한 오랫동안 지속된 논쟁을 해결하기 위해.
• 신경 반응이 동시에 샘플링 기반 해석과 매개변수 기반(PPC) 해석을 둘 다 지원할 수 있는지 조사하기 위해.
• 샘플링 기반 추론과 확률적 인구 코드(PPC)의 구조 사이의 분석적 연결을 유도하기 위해.
• 신경 반응이 생성 모델에서의 잠재 변수의 확률과 로그-확률과 어떻게 관련되어 있는지 조사하기 위해.
• 이 이중 코드화의 잠재적 영향을 조기 시각皮질 내 신경 계산을 이해하는 데에 적용하기 위해.

제안 방법

• 자연 이미지의 선형 가우시안 생성 모델을 수학적으로 정의하며, 잠재 변수는 이미지 특징을 나타낸다.
• V1의 신경 반응을 이 잠재 변수들에 대한 사후 분포에서의 표본으로 간주하고, 지브스 샘플링을 사용하여 모델링한다.
• 실험자가 정의한 변수들(예: 방향성)에 대한 사후 분포를 지수족으로 유도하며, 선형 충분통계량을 갖는다.
• 유도된 지수족에서의 PPC 커널(h(s))은 생성 모델의 기저 함수들이 암묵적 변수 공간에 투영된 결과로 결정된다.
• 이중 잠재 변수의 특수 케이스를 분석하여, 발화 빈도가 잠재 변수의 주변 확률과 암묵적 변수(예: 방향성)의 로그-확률 모두에 비례함을 보여준다.
• 분석적 유도를 통해 동일한 신경 샘플링 과정이 선형 충분통계량을 갖는 PPC를 생성함을 보여준다.

실험 결과

연구 질문

• RQ1 단일 신경 샘플링 모델이 동시에 샘플링 기반 해석과 매개변수 기반(PPC) 해석을 모두 지원할 수 있는가?
• RQ2 확률적 인구 코드(PPC)의 커널은 기저 생성 모델의 구조와 어떻게 관련되어 있는가?
• RQ3 신경 발화 빈도가 잠재 변수의 확률과 로그-확률 모두에 비례하는 조건은 무엇인가?
• RQ4 신경 샘플링과 V1에서의 암묵적 변수(예: 방향성) 표현 간의 관계는 무엇인가?
• RQ5 잡음 변수가 존재할 경우, 신경 샘플링으로부터 PPC가 어떻게 형성되는가?

주요 결과

• 선형 가우시안 모델에서 사후 분포에서 샘플링을 통해 생성된 신경 반응은 선형 확률적 인구 코드(PPC)를 형성한다.
• PPC 커널은 생성 모델의 기저 함수들이 실험자가 정의한 변수 공간(예: 방향성)에 투영된 결과로 분석적으로 유도된다.
• 이중 잠재 변수의 경우, 신경 발화 빈도는 잠재 변수의 주변 확률과 암묵적 변수(예: 방향성)의 로그-확률 모두에 비례한다.
• 동일한 신경 시스템은 샘플링 기반 추론 엔진과 매개변수 기반 PPC로 동시에 해석될 수 있으며, 이는 오랫동안 지속된 신경 코드화 방식에 대한 논쟁을 해결한다.
• 이 모델에서 유도된 PPC는 대비 불변성이 없으므로, 선형 가우시안 모델이 V1 반응을 설명하는 데에 한계를 가짐을 시사한다.
• 이러한 발견은 샘플링, 확률, 로그-확률 등의 다양한 코드화 방식이 관심 변수에 따라 한 신경 시스템 내에서 공존할 수 있음을 암시한다.