[論文レビュー] Emergence of grid-like representations by training recurrent neural networks to perform spatial localization

Christopher J. Cueva, Xue-Xin Wei|arXiv (Cornell University)|Mar 21, 2018

Memory and Neural Mechanisms参考文献 55被引用数 194

ひとこと要約

著者らは velocity inputs から 2D 空間定位を行う 100 単位の再帰的ニューラルネットワークを訓練し、グリッド状、境界、帯状の空間表現が出現することを示しており、ECのような符号化が適切な正則化を伴うタスク駆動型再帰ネットワークから自然に生じ得ることを示唆している。

ABSTRACT

Decades of research on the neural code underlying spatial navigation have revealed a diverse set of neural response properties. The Entorhinal Cortex (EC) of the mammalian brain contains a rich set of spatial correlates, including grid cells which encode space using tessellating patterns. However, the mechanisms and functional significance of these spatial representations remain largely mysterious. As a new way to understand these neural representations, we trained recurrent neural networks (RNNs) to perform navigation tasks in 2D arenas based on velocity inputs. Surprisingly, we find that grid-like spatial response patterns emerge in trained networks, along with units that exhibit other spatial correlates, including border cells and band-like cells. All these different functional types of neurons have been observed experimentally. The order of the emergence of grid-like and border cells is also consistent with observations from developmental studies. Together, our results suggest that grid cells, border cells and others as observed in EC may be a natural solution for representing space efficiently given the predominant recurrent connections in the neural circuits.

研究の動機と目的

• 自己定位タスクでRNNを訓練することによって空間ナビゲーションの符号化の理解を促進する。
• 訓練済みネットワークにおける grid-like、border、および band-like 細胞の出現を実証する。
• 正則化とノイズが空間表現の発現に与える影響を評価する。
• 訓練中の発現する空間特性の発達時期を探る。

提案手法

• N=100 ユニットの連続時間RNNを用い、再帰および入力結合と、x および y の位置を表す2つの線形読み出しを持つ。
• 入力は速度と進行方向で、出力はネットワークからの線形読み出しを介して動物の2D位置を推定する。
• 正方形、六角形、三角形のアリーナで訓練し、二乗定位誤差と正則化項を最小化する。
• 正則化には入力/出力重みペナルティと単位発火率に対する代謝コスト項が含まれ、ユニット活性にはノイズが加えられる。
• ミニバッチでHessian-free学習を用いてパラメータを最適化し、訓練後の神経応答を解析する。

実験結果

リサーチクエスチョン

• RQ1 2Dナビゲーションタスクで訓練された再帰ネットワークは、entorhinal grid cellsに類似したgrid-likeな空間表現を発達させうるか？
• RQ2 生物学的にインスパイアされた制約の下で、境界細胞や帯状様空間応答が自然に出現するか？
• RQ3 正則化とノイズが空間チューニング特性の出現と発達にどのように影響するか？
• RQ4 訓練中の異なる空間表現の発達過程はどのようなものか？
• RQ5 境界相互作用は学習された自己定位の誤差訂正に寄与するか？

主な発見

• 訓練済みRNN単位にgrid-like応答が出現し、アリーナの形状に依存する規則的な格子パターンを形成する。
• 境界細胞と帯状様細胞も現れ、実験的に観察されるECニューロンの多様性をなぞる。
• 方向と速度のチューニングは全ユニットにわたって存在し、grid cellsは時に異なる方向チューニングと速度感度を示す。
• 正則化（ノイズと代謝コスト）はgrid-like表現の発展にとって重要である。
• 境界相互作用は誤差訂正に寄与し、訓練期間を超えた安定した定位を可能にする。
• 発生学的には、border-like応答は初期に現れ、grid-likeチューニングは後に成熟し、動物の発達データと整合する。