[논문 리뷰] Revealing Fine Structures of the Retinal Receptive Field by Deep Learning Networks

Qi Yan, Yajing Zheng외 7명|arXiv (Cornell University)|2018. 11. 06.

Neural dynamics and brain function참고 문헌 54인용 수 8

한 줄 요약

이 논문은 흰색 잡음 자극으로 훈련된 딥 컨volution 신경망(DCNN)이 생물학적 망막 회로 요소와 유사한 필터를 학습함으로써 망막 수용체 필드의 미세 구조적 구성 요소를 드러낼 수 있음을 보여준다. 연구는 DCNN이 세포 특이적 표현을 학습하고, 흰색 잡음에서 자연 이미지로의 입력 유형 간에 효과적으로 일반화됨을 보여주며, 생물학적으로 타당한 방식으로 단일 망막 간상세포의 계산적 본질을 모델링함을 시사한다.

ABSTRACT

Deep convolutional neural networks (CNNs) have demonstrated impressive performance on many visual tasks. Recently, they became useful models for the visual system in neuroscience. However, it is still not clear what are learned by CNNs in terms of neuronal circuits. When a deep CNN with many layers is used for the visual system, it is not easy to compare the structure components of CNNs with possible neuroscience underpinnings due to highly complex circuits from the retina to higher visual cortex. Here we address this issue by focusing on single retinal ganglion cells with biophysical models and recording data from animals. By training CNNs with white noise images to predict neuronal responses, we found that fine structures of the retinal receptive field can be revealed. Specifically, convolutional filters learned are resembling biological components of the retinal circuit. This suggests that a CNN learning from one single retinal cell reveals a minimal neural network carried out in this cell. Furthermore, when CNNs learned from different cells are transferred between cells, there is a diversity of transfer learning performance, which indicates that CNNs are cell-specific. Moreover, when CNNs are transferred between different types of input images, here white noise v.s. natural images, transfer learning shows a good performance, which implies that CNNs indeed capture the full computational ability of a single retinal cell for different inputs. Taken together, these results suggest that CNNs could be used to reveal structure components of neuronal circuits, and provide a powerful model for neural system identification.

연구 동기 및 목표

• 딥 컨volution 신경망(DCNN)이 신경세포 반응에서 학습함으로써 망막 수용체 필드의 미세 구조적 구성 요소를 드러낼 수 있는지 조사하기.
• 단일 망막 간상세포(RGC)로 훈련된 DCNN이 생물학적으로 타당한 신경 회로 아키텍처를 반영하는지 확인하기.
• 다른 RGC들과 입력 자극(흰색 잡음 대 자연 이미지) 간에 DCNN 모델의 이식 가능성 평가하기.
• CNN이 다양한 시각 자극에 대해 개별 망막 세포의 전체 계산 능력을 포괄적으로 포착할 수 있는지 평가하기.
• 초기 시각 처리에서 신경 회로 구성 요소를 식별하고 검증하기 위한 해석 가능한 모델로 DCNN을 확립하기.

제안 방법

• 단일 망막 간상세포(RGC)의 스파iking 반응을 예측하기 위해 흰색 잡음 영상 자극을 사용해 딥 컨volution 신경망을 훈련시키기.
• 학습된 컨volution 필터가 서브유닛 선형 필터 및 비선형성과 같은 알려진 망막 회로의 생물물리적 구성 요소와 비교하기.
• 동일한 자극 분포를 가진 서로 다른 RGC 간에 전이 학습을 수행해 학습된 표현의 세포 특이성 평가하기.
• 흰색 잡음 자극에서 자연 이미지로의 전이 학습 성능을 테스트해 학습된 계산의 일반화 능력 평가하기.
• 파rameter 프루닝과 네트워크 분석을 사용해 학습된 필터의 기능적 중요성 검증하기.
• 훈련 및 검증에 실험적 RGC 반응 데이터와 생물물리 모델에 의해 생성된 반응을 모두 활용하기.

실험 결과

연구 질문

• RQ1 흰색 잡음 자극으로 훈련된 딥 컨volution 신경망이 알려진 생물학적 회로 요소에 해당하는 망막 수용체 필드의 미세 구조적 구성 요소를 드러낼 수 있는가?
• RQ2 전이 학습 성능를 통해, 학습된 필터가 개별 망막 간상세포에 대해 얼마나 특이적인가?
• RQ3 흰색 잡음으로 훈련된 CNN이 자연 이미지 입력으로 일반화되는 정도는 어떠한가? 이는 실제 망막 처리에 대한 계산 정밀도를 나타내는가?
• RQ4 학습된 CNN 구성 요소(예: 필터)가 망막 회로의 생물물리적 구조와 의미적으로 일치하는가?
• RQ5 CNN이 초기 시각 시스템에서 신경 회로의 功能적 구성 요소를 식별하고 검증하기 위한 해석 가능한 모델로 사용될 수 있는가?

주요 결과

• RGC 반응에 대해 훈련된 CNN의 학습된 컨볼루션 필터는 생물물리적 망막 회로 모델의 서브유닛 선형 필터 및 비선형성과 매우 유사하다.
• 다른 RGC 간의 전이 학습 성능가 변동성이 있음을 확인해, CNN이 일반적인 특징이 아닌 세포 특이적 표현을 학습하고 있음을 시사한다.
• 흰색 잡음에서 자연 이미지로의 전이 학습 성능이 높게 유지되어, CNN이 다양한 입력 유형에서 단일 RGC의 전체 계산 능력을 포괄적으로 포착하고 있음을 나타낸다.
• CNN 아키텍처는 개별 망막 간상세포의 수용체 필드 구조를 높은 정밀도로 모델링하여, 각 세포에 내재된 최소한의 신경 계산을 반영하고 있음을 시사한다.
• 파라미터 프루닝 분석을 통해 학습된 필터가 기능적으로 중요하고 중복되지 않음을 확인해, 생물학적 해석 가능성에 기여한다.
• 결과적으로, 단일 RGC 반응에 대해 훈련된 CNN이 초기 시각에서 신경 시스템 식별을 위한 해석 가능하고 생물학적으로 기반을 둔 모델이 될 수 있음을 입증한다.