[논문 리뷰] Revealing structure components of the retina by deep learning networks

Qi Yan, Zhaofei Yu외 2명|arXiv (Cornell University)|2017. 11. 08.

Neural dynamics and brain function참고 문헌 13인용 수 6

한 줄 요약

이 연구는 백색 노이즈 영상에 대한 단일 시신경절세포(RGC) 반응을 예측하도록 훈련된 딥 컨volution 신경망(CNN)이 망막 회로의 생물학적 서브유닛과 직접적으로 대응하는 필터를 학습함을 보여준다. CNN은 국소화된 기능적 구성요소를 드러내며, 복합세포 수상돌기 수용체 필드와 유사한 구조적 필터를 통해 RGC 수용체 필드를 타일링하고 높은 예측 정확도(r = 0.75)를 달성한다. 이는 CNN이 입력-출력 데이터만으로도 해석 가능한 신경 회로 구성요소를 밝혀낼 수 있음을 시사한다.

ABSTRACT

Deep convolutional neural networks (CNNs) have demonstrated impressive performance on visual object classification tasks. In addition, it is a useful model for predication of neuronal responses recorded in visual system. However, there is still no clear understanding of what CNNs learn in terms of visual neuronal circuits. Visualizing CNN's features to obtain possible connections to neuronscience underpinnings is not easy due to highly complex circuits from the retina to higher visual cortex. Here we address this issue by focusing on single retinal ganglion cells with a simple model and electrophysiological recordings from salamanders. By training CNNs with white noise images to predicate neural responses, we found that convolutional filters learned in the end are resembling to biological components of the retinal circuit. Features represented by these filters tile the space of conventional receptive field of retinal ganglion cells. These results suggest that CNN could be used to reveal structure components of neuronal circuits.

연구 동기 및 목표

• 딥 러닝 모델이 단일 망막 신경절세포(RGC)의 모델링을 통해 신경 회로의 해석 가능한 구조적 구성요소를 밝혀낼 수 있는지 조사하기 위해.
• 훈련된 CNN 내 컨volution 필터가 망막 경로의 알려진 생물학적 서브유닛과 대응하는지 확인하기 위해.
• CNN이 자극-반응 데이터만으로도 RGC의 수용체 필드 구조와 기능적 조직을 복원할 수 있는지 평가하기 위해.
• CNN 파rameter가 임의적이거나 중복적인 것이 아니라, 기저의 신경 회로 구조를 얼마나 잘 반영하는지 탐색하기 위해.

제안 방법

• 백색 노이즈 영상 자극을 사용해 이중 컨볼루션 레이어 CNN을 훈련하여, 다섯 개의 서브유닛을 가진 생물학적으로 유사한 RGC 모델의 이진 맥동 신호를 예측하도록 하였다.
• 첫 번째 컨볼루션 레이어에서 15×15 필터 크기를 사용하였으며, 훈련 데이터로는 600,000장의 백색 노이즈 영상과 해당하는 시뮬레이션된 RGC 맥동 반응을 사용하였다.
• 학습된 필터와 그에 해당하는 활성화 특징을 입력 공간에서 시각화하여 그 공간적 구조와 기능적 관련성을 평가하였다.
• 동일한 CNN 프레임워크를 고슴도치 RGC의 전기생리학적 기록에 적용하였으며, 동일한 백색 노이즈 자극과 맥동 신호 데이터를 사용하였다.
• 예측된 RGC 맥동 반응과 실제 반응 간 피어슨 상관계수(CC)를 사용해 모델 성능을 정량화하였다.
• 학습된 필터를 망막의 알려진 해부학적 및 기능적 구성요소, 특히 복합세포 수상돌기 수용체 필드와 비교하였다.

실험 결과

연구 질문

• RQ1 백색 노이즈 영상 자극에 대한 단일 RGC 반응을 훈련시킨 CNN이 망막 회로의 기저 구조적 구성요소를 복원할 수 있는가?
• RQ2 CNN 내 학습된 컨볼루션 필터가 복합세포의 것과 같은 알려진 생물학적 서브유닛과 대응하는가?
• RQ3 CNN 필터가 표현하는 특징들이 RGC의 수용체 필드에 생물학적으로 의미 있는 방식으로 타일링되는가?
• RQ4 학습된 필터의 구조적 및 기능적 특성은 고슴도치 준비물의 실제 망막 뉴런과 어떻게 비교되는가?

주요 결과

• CNN은 시뮬레이션된 RGC 모델의 다섯 개 서브유닛과 정확히 일치하는 컨볼루션 필터를 학습하였으며, 15×15 필터 크기에도 불구하고 효과적인 필터는 6×6 픽셀의 국소화된 구조로 수렴하였다.
• 고슴도치 생물학적 RGC 데이터로부터 학습된 필터는 복합세포 수상돌기 수용체 필드와 유사하게 국소화된 공간 프로파일을 보였으며, 약 100 μm 크기였다.
• 학습된 필터가 표현하는 특징들은 공간적으로 국소화되어 있었으며, OFF 피크 반응(해당 OFF 복합세포 수상돌기와 대응) 및 일부 ON 피크 특징을 보였으며, 이는 억제적 역할을 시사하였다.
• 생물학적 데이터에서 예측된 RGC 맥동 반응과 실제 반응 간 피어슨 상관계수는 0.75를 기록하여 강력한 예측 성능을 보였다.
• 필터의 상당 부분은 희박하고 비구조적이었으며(거의 0에 가까움), 이는 네트워크 내에서 높은 파라미터 중복성을 의미했고, 생물학적으로 의미 있는 정보를 담고 있는 필터는 일부에 국한되었다.
• 수용체 필드 전역에 걸쳐 기능적 특징의 타일링이 관찰되었으며, 이는 OFF 우선 특징이 지배적이었고, 일부 복잡한 혼합 피크 특징은 덜 국소화된 필터에서 유래하였다.