[논문 리뷰] Deep Learning Models of the Retinal Response to Natural Scenes

Lane McIntosh, Niru Maheswaranathan외 3명|arXiv (Cornell University)|2017. 02. 06.

Retinal Imaging and Analysis인용 수 164

한 줄 요약

CNNs(Convolutional neural networks)는 자연 장면에 대한 망막 신경절 세포 반응을 정확히 예측하고, LN/GLMs보다 성능이 우수하며, 자극 분포 간에 일반화되고, 망막 내부 기전들을 드러낸다.

ABSTRACT

A central challenge in neuroscience is to understand neural computations and circuit mechanisms that underlie the encoding of ethologically relevant, natural stimuli. In multilayered neural circuits, nonlinear processes such as synaptic transmission and spiking dynamics present a significant obstacle to the creation of accurate computational models of responses to natural stimuli. Here we demonstrate that deep convolutional neural networks (CNNs) capture retinal responses to natural scenes nearly to within the variability of a cell's response, and are markedly more accurate than linear-nonlinear (LN) models and Generalized Linear Models (GLMs). Moreover, we find two additional surprising properties of CNNs: they are less susceptible to overfitting than their LN counterparts when trained on small amounts of data, and generalize better when tested on stimuli drawn from a different distribution (e.g. between natural scenes and white noise). Examination of trained CNNs reveals several properties. First, a richer set of feature maps is necessary for predicting the responses to natural scenes compared to white noise. Second, temporally precise responses to slowly varying inputs originate from feedforward inhibition, similar to known retinal mechanisms. Third, the injection of latent noise sources in intermediate layers enables our model to capture the sub-Poisson spiking variability observed in retinal ganglion cells. Fourth, augmenting our CNNs with recurrent lateral connections enables them to capture contrast adaptation as an emergent property of accurately describing retinal responses to natural scenes. These methods can be readily generalized to other sensory modalities and stimulus ensembles. Overall, this work demonstrates that CNNs not only accurately capture sensory circuit responses to natural scenes, but also yield information about the circuit's internal structure and function.

연구 동기 및 목표

• 망막 신경절 세포가 자연 장면 자극을 어떻게 인코딩하는지 이해한다.
• 자연 장면에 대한 망막 반응을 예측하는 모델로서 CNN을 LN 및 GLM 기초 모델과 비교한다.
• 자연 장면 vs 화이트 노이즈 등 자극 분포 전반에 대한 일반화를 조사한다.
• CNN 표현에 의해 드러나는 망막 내부 기전(억제, 적응성, 변동성)을 식별한다.
• 장시간 스케일 동적 특성을 모델링하기 위한 순환 연결 등 구조적 보강을 탐구한다.

제안 방법

• 자연 장면 시퀀스 및 화이트-노이즈 자극으로부터 신경절 세포의 스파이크를 예측하기 위해 딥 CNN을 학습시킨다.
• CNN을 선형-비선형(LN) 및 일반화 선형(GLM) 모델과 비교한다.
• ADAM을 사용한 포아송 음의 로그 우도 손실로 최적화하고 L2 및 L1 정규화를 적용한다.
• 네트워크 깊이, 필터 크기(>15x15), 계층 유형을 변화시키고 보류 데이터에서 평가한다.
• 학습된 1층 및 2층 수용영역(receptive fields)을 시각화하여 특징을 해석한다.
• 더 긴 시간 척도 적응을 포착하기 위해 CNN에 순환 계층으로 보강하는 것을 선택적으로 고려한다.

실험 결과

연구 질문

• RQ1 CNN이 자연 장면에 대한 망막 반응 예측에서 LN/GLM 모델보다 우수할 수 있는가?
• RQ2 CNN이 자극 분포 전반에서 더 잘 일반화되는가(자연 장면 vs 화이트 노이즈)?
• RQ3 CNN 표현에서 드러나는 망막의 내부 기전(예: 피드포워드 억제, 적응성, 서브-포아송 변동성)은 무엇인가?
• RQ4 순환 연결이 장시간의 적응 동역학 모델링을 개선하는가?
• RQ5 자연 장면 학습 데이터와 화이트 노이즈 학습 데이터 간 학습 특징은 어떻게 다른가?

주요 결과

• CNN은 자연 장면과 화이트 노이즈 모두에 대해 LN 모델 및 GLM보다 망막 반응 예측에서 상당히 우수하다.
• CNN은 망막에 근접한 신뢰성을 달성하고, 더 단순한 모델보다 자극 분포 간 일반화가 더 잘 된다.
• 주입된 잠재 노이즈로 학습하면 망막 스파이크에서 관찰되는 서브-포아송 변동성을 포착할 수 있다.
• CNN은 피드포워드 억제를 통해 시간적으로 정확한 발화를 드러내고, 자연 장면에 대해 2층 특징이 더 넓고 다양하게 나타난다.
• CNN에 순환 횡적 연결을 보강하면 정확한 반응 기술의 특성으로서 대조 적응이 나타나게 된다.
• 한 자극 클래스에서 학습한 CNN은 GLM이나 LN 모델보다 다른 자극 클래스에 대해 더 잘 일반화한다.