[论文解读] Conformal Isometry of Lie Group Representation in Recurrent Network of Grid Cells

Dehong Xu, Ruiqi Gao+3 more|arXiv (Cornell University)|Oct 6, 2022

Topological and Geometric Data Analysis被引用 9

一句话总结

本文提出一种用于网格细胞的非线性循环神经网络模型，通过在自运动的李群表示中强制实现共形等距，实现了精确的路径积分和六边形放电图样的出现。该模型在最小误差下实现了稳健的长距离路径积分，表明共形等距对于在循环网络中生成生物上合理的网格编码至关重要。

ABSTRACT

The activity of the grid cell population in the medial entorhinal cortex (MEC) of the mammalian brain forms a vector representation of the self-position of the animal. Recurrent neural networks have been proposed to explain the properties of the grid cells by updating the neural activity vector based on the velocity input of the animal. In doing so, the grid cell system effectively performs path integration. In this paper, we investigate the algebraic, geometric, and topological properties of grid cells using recurrent network models. Algebraically, we study the Lie group and Lie algebra of the recurrent transformation as a representation of self-motion. Geometrically, we study the conformal isometry of the Lie group representation where the local displacement of the activity vector in the neural space is proportional to the local displacement of the agent in the 2D physical space. Topologically, the compact abelian Lie group representation automatically leads to the torus topology commonly assumed and observed in neuroscience. We then focus on a simple non-linear recurrent model that underlies the continuous attractor neural networks of grid cells. Our numerical experiments show that conformal isometry leads to hexagon periodic patterns in the grid cell responses and our model is capable of accurate path integration. Code is available at \url{https://github.com/DehongXu/grid-cell-rnn}.

研究动机与目标

• 研究用于网格细胞的循环神经网络模型的代数、几何和拓扑性质。
• 探讨神经活动变换中的共形等距如何与六边形网格图样的出现相关。
• 评估非线性循环网络在共形等距条件下是否能够支持精确的路径积分。
• 将先前的线性模型推广到更符合生物现实的非线性架构，如标准RNN和LSTM。
• 评估重编码在纠正长距离路径积分过程中误差累积中的作用。

提出的方法

• 将网格细胞系统建模为基于速度输入更新神经活动的循环神经网络，以形成自运动的表征。
• 通过确保神经空间变换保持与物理空间位移成比例的局部几何结构，强制实现共形等距。
• 采用非线性循环架构，输入速度部分为线性变换，随后应用逐元素ReLU非线性（标准RNN）或LSTM单元。
• 使用损失函数进行训练，以鼓励产生类似实验中网格细胞图样的结构化、周期性响应。
• 每隔若干步应用一次重编码，以纠正长路径积分任务中的误差累积。
• 通过1000条轨迹的网格度评分、解码误差和轨迹重建精度来评估性能。

实验结果

研究问题

• RQ1 在非线性循环网络中，循环变换中的共形等距是否会导致六边形网格图样的出现？
• RQ2 具有共形等距的非线性循环模型能否实现精确的长距离路径积分？
• RQ3 重编码在路径积分过程中对神经表征中的误差累积有何影响？
• RQ4 共形等距与位置细胞模型中观察到的频域约束之间存在何种关系？
• RQ5 与简单的RNN相比，LSTM等非线性模型在在多大程度上保持了网格编码的几何结构？

主要发现

• 在共形等距条件下，该模型成功在网格细胞响应图中生成了六边形网格图样。
• 每20步进行一次重编码时，500步内的平均路径积分误差为0.017，最终步骤的误差为0.028。
• 未使用重编码时，500步内的平均误差为0.03，最终误差上升至0.08，表明存在误差累积。
• 基于LSTM的模型获得了0.73的网格度评分，68.8%的神经元被分类为网格细胞。
• 在500步内使用重编码的LSTM模型，平均解码误差为0.027，第500步的误差仍保持在较低水平0.037。
• 在定点测试中，该模型实现了接近零的解码误差（<0.005），证实了物理空间与神经空间之间编码与解码的精确性。