[论文解读] Attractor and integrator networks in the brain

Mikail Khona, Ila Fiete|arXiv (Cornell University)|Dec 7, 2021

Neural dynamics and brain function被引用 10

一句话总结

本综述综合了证据，表明大脑利用吸引子和积分器神经网络来维持工作记忆、错误校正以及对噪声输入的整合中的持续活动。研究证明，低维连续吸引子动力学不仅在理论上是合理的，而且已在特定脑系统中得到严格识别，通过神经回路的模块化复用，实现了鲁棒性、高容量和灵活的计算。

ABSTRACT

In this review, we describe the singular success of attractor neural network models in describing how the brain maintains persistent activity states for working memory, error-corrects, and integrates noisy cues. We consider the mechanisms by which simple and forgetful units can organize to collectively generate dynamics on the long time-scales required for such computations. We discuss the myriad potential uses of attractor dynamics for computation in the brain, and showcase notable examples of brain systems in which inherently low-dimensional continuous attractor dynamics have been concretely and rigorously identified. Thus, it is now possible to conclusively state that the brain constructs and uses such systems for computation. Finally, we look ahead by highlighting recent theoretical advances in understanding how the fundamental tradeoffs between robustness and capacity and between structure and flexibility can be overcome by reusing and recombining the same set of modular attractors for multiple functions, so they together produce representations that are structurally constrained and robust but exhibit high capacity and are flexible.

研究动机与目标

• 综合当前对吸引子和积分器网络如何在大脑中支持持续神经活动的理解。
• 解释简单、易遗忘的神经元如何通过集体作用产生对认知功能至关重要的长时标动力学。
• 识别并验证特定脑系统中连续吸引子动力学的存在，具备实证和理论上的严谨性。
• 探讨吸引子的模块化复用如何在神经计算中实现鲁棒性、容量与灵活性之间的平衡。
• 突出近期在克服神经网络中结构、鲁棒性与适应性之间基本权衡方面的理论进展。

提出的方法

• 回顾吸引子神经网络的理论模型及其在产生持续活动方面的生物学合理性。
• 分析来自脑系统（如内嗅皮层、前额叶皮层）的实验数据，以识别连续吸引子动力学。
• 应用动力系统理论，表征支持持续表征的低维神经活动流形。
• 使用数学框架建模吸引子网络中鲁棒性与容量之间的权衡。
• 提出一种模块化架构，其中共享的吸引子回路被重新用于多种认知功能。
• 整合计算神经科学与系统生物学的洞见，统一神经计算的基本原理。

实验结果

研究问题

• RQ1 大脑中的吸引子网络如何维持工作记忆所必需的持续活动状态？
• RQ2 何种机制使简单、短期的神经元能够集体产生长时标动力学？
• RQ3 在哪些脑区中已通过实证和严谨方法识别出连续吸引子动力学？
• RQ4 吸引子网络如何在保持高计算容量和功能灵活性的同时实现鲁棒性？
• RQ5 何种理论原则使得同一套吸引子模块可被用于多种认知任务？

主要发现

• 连续吸引子动力学已在特定脑系统（如内侧内嗅皮层和前额叶皮层）中得到明确识别，为它们在神经计算中的作用提供了强有力证据。
• 吸引子网络通过将神经活动稳定在低维流形上，实现错误校正和对噪声感官输入的整合。
• 理论模型表明，通过模块化设计，吸引子网络可在保持对噪声和扰动鲁棒性的同时实现高容量。
• 在不同任务中复用同一组吸引子回路，可在不牺牲功能灵活性的前提下实现结构约束和计算效率。
• 大脑可能通过共享一组吸引子动力学来支持多种认知功能，提示其存在一种基本的计算原理。
• 近期进展通过重新配置模块化吸引子网络以支持多种表征，解决了鲁棒性、容量与适应性之间关键的权衡问题。