[논문 리뷰] Emergence of grid-like representations by training recurrent neural networks to perform spatial localization

Christopher J. Cueva, Xue-Xin Wei|arXiv (Cornell University)|2018. 03. 21.

Memory and Neural Mechanisms참고 문헌 55인용 수 194

한 줄 요약

저자들은 속도 입력으로부터 2D 공간 위치를 추정하는 100-유닛 순환 신경망(RNN)을 학습시키고, 격자 모양의 경계 모양의 공간 표현 및 띠 형태의 공간 표현이 나타나며, 적절한 정규화가 주어질 때 EC 유사 코딩이 태스크 주도형 순환 네트워크에서 자연스럽게 발생할 수 있음을 시사합니다.

ABSTRACT

Decades of research on the neural code underlying spatial navigation have revealed a diverse set of neural response properties. The Entorhinal Cortex (EC) of the mammalian brain contains a rich set of spatial correlates, including grid cells which encode space using tessellating patterns. However, the mechanisms and functional significance of these spatial representations remain largely mysterious. As a new way to understand these neural representations, we trained recurrent neural networks (RNNs) to perform navigation tasks in 2D arenas based on velocity inputs. Surprisingly, we find that grid-like spatial response patterns emerge in trained networks, along with units that exhibit other spatial correlates, including border cells and band-like cells. All these different functional types of neurons have been observed experimentally. The order of the emergence of grid-like and border cells is also consistent with observations from developmental studies. Together, our results suggest that grid cells, border cells and others as observed in EC may be a natural solution for representing space efficiently given the predominant recurrent connections in the neural circuits.

연구 동기 및 목표

• 자기 위치 추정 과제에서 RNN을 학습시켜 공간 탐색 코드를 이해하려고 한다.
• 학습된 네트워크에서 격자 모양, 경계(border), 띠(band) 형태의 세포의 나타남을 입증한다.
• 정규화 및 노이즈가 공간 표현의 발달에 미치는 영향을 평가한다.
• 학습 중 각 공간 표현의 발달 시점을 탐구한다.

제안 방법

• N=100 유닛의 연속 시간형 RNN을 사용하고, 순환 및 입력 연결과 x, y 위치를 위한 두 개의 선형 리드아웃을 가진다.
• 입력으로 속도와 방향 heading을 사용하며, 네트워크에서의 선형 리드아웃을 통해 동물의 2D 위치를 추정한다.
• 정사각형, 육각형, 삼각형 경기장에서 제곱 로케이션 오차와 정규화 항을 최소화하도록 네트워크를 학습시킨다.
• 정규화에는 입력/출력 가중치 패널티와 유닛 발화율에 대한 대사 비용 항이 포함되며, 유닛 활동에 소음을 더한다.
• 미니배치에서 해시스(Hessian-free) 학습으로 매개변수를 최적화하고, 학습 후 뉴런 반응을 분석한다.

실험 결과

연구 질문

• RQ1 2D 내비게이션 태스크에서 학습된 순환 네트워크가 엔터로핀이 있는 격자 세포와 유사한 격자 모양 공간 표현을 개발할 수 있는가?
• RQ2 생물학적으로 영감을 받은 제약 아래에서 경계(border) 및 띠 형태의 공간 반응이 자연스럽게 이러한 네트워크에서 나타나는가?
• RQ3 정규화와 노이즈가 공간 조정 특성의 발현 및 발달에 어떤 영향을 미치는가?
• RQ4 훈련 중 다양한 공간 표현의 발달 경로는 어떠한가?
• RQ5 경계 상호작용이 학습된 자기 위치 추정에서 오차 보정에 기여하는가?

주요 결과

• 학습된 RNN 유닛에서 격자 모양의 응답이 나타나며, 경기장의 형태에 따라 규칙적인 격자 패턴을 형성한다.
• 경계 세포와 띠 형태의 세포도 나타나며, 실험적으로 관찰되는 EC 뉴런 다양성을 반영한다.
• 방향(Direction) 및 속도 튜닝이 모든 유닛에 존재하며, 격자 세포의 경우 방향 튜닝과 속도 민감도가 다양하게 나타난다.
• 정규화(노이즈 및 대사 비용)가 격자 모양 표현 발달에 결정적이다.
• 경계 상호작용은 오차 보정에 기여하여 학습 기간 이후에도 안정적인 로케이션 추정치를 가능하게 한다.
• 발달적으로 경계 유사 반응은 조기에 나타나고, 격자 모양의 조정은 나중에 성숙하며, 이는 동물 발달 데이터와 일치한다.