[论文解读] Emergence of grid-like representations by training recurrent neural networks to perform spatial localization

Christopher J. Cueva, Xue-Xin Wei|arXiv (Cornell University)|Mar 21, 2018

Memory and Neural Mechanisms参考文献 55被引用 194

一句话总结

作者训练一个100单元的循环神经网络来利用速度输入执行二维空间定位，并显示格状、边界和带状空间表征自然出现，表明在具有适当正则化的任务驱动递归网络中可能自然产生EC样编码。

ABSTRACT

Decades of research on the neural code underlying spatial navigation have revealed a diverse set of neural response properties. The Entorhinal Cortex (EC) of the mammalian brain contains a rich set of spatial correlates, including grid cells which encode space using tessellating patterns. However, the mechanisms and functional significance of these spatial representations remain largely mysterious. As a new way to understand these neural representations, we trained recurrent neural networks (RNNs) to perform navigation tasks in 2D arenas based on velocity inputs. Surprisingly, we find that grid-like spatial response patterns emerge in trained networks, along with units that exhibit other spatial correlates, including border cells and band-like cells. All these different functional types of neurons have been observed experimentally. The order of the emergence of grid-like and border cells is also consistent with observations from developmental studies. Together, our results suggest that grid cells, border cells and others as observed in EC may be a natural solution for representing space efficiently given the predominant recurrent connections in the neural circuits.

研究动机与目标

• 通过在自定位任务上训练RNN，激发对空间导航编码的理解。
• 证明训练后的网络中会出现网格状、边界和带状细胞。
• 评估正则化和噪声如何影响空间表征的发展。
• 探究训练过程中新兴空间特性发展的时序。

提出的方法

• 使用一个连续时间RNN，N=100个单元，具有递归连接和输入连接，以及两个线性读出用于x和y位置。
• 输入为速度和航向方向；输出通过网络的线性读出估计动物的二维位置。
• 在方形、六角形和三角形场景中训练网络，以最小化平方定位误差及正则化项。
• 正则化包含输入/输出权重惩罚以及单位发放率的代谢成本项；对单位活动加入噪声。
• 使用 Hessian-free 学习在小批量数据上优化参数，训练后分析神经响应。

实验结果

研究问题

• RQ1 在二维导航任务上训练的递归网络是否会发展出类似于内嗅皮质网格细胞的网格状空间表征？
• RQ2 在生物学启发的约束下，这样的网络是否自然出现边界和带状的空间反应？
• RQ3 正则化和噪声如何影响空间调优特性的出现与发展？
• RQ4 在训练过程中，不同空间表征的发展轨迹是怎样的？
• RQ5 边界交互是否有助于学习自定位时的错误修正？

主要发现

• 网格状响应在训练后的RNN单元中出现，形成依场景形状而定的规则晶格模式。
• 边界细胞和带状细胞也出现，映射EC神经元的实验观测多样性。
• 方向和速度调谐在各单元中存在，网格细胞有时呈现不同的方向调谐和速度敏感性。
• 正则化（噪声和代谢成本）对网格状表征的发展至关重要。
• 边界交互有助于错误校正，使定位在训练长度之外也保持稳定。
• 在发育过程中，边界样反应早期出现，而网格样调谐晚期成熟，与动物发育数据一致。