[论文解读] Complementary Structure-Learning Neural Networks for Relational Reasoning

Jacob Russin, Maryam Zolfaghar+3 more|arXiv (Cornell University)|May 19, 2021

Memory and Neural Mechanisms参考文献 19被引用 7

一句话总结

本文提出了一种受互补学习系统（CLS）理论启发的双神经网络框架，其中快速学习的情景网络在新环境中支持快速的传递性推理，而缓慢学习的新皮层网络则在熟悉环境中实现结构化、可泛化的推理。该模型成功复现了在关系推理任务中fMRI观测到的关键行为，包括传递性推理表现和海马体基于相似性的检索，表明双机制可在不同学习时间尺度上支持灵活的关系推理。

ABSTRACT

The neural mechanisms supporting flexible relational inferences, especially in novel situations, are a major focus of current research. In the complementary learning systems framework, pattern separation in the hippocampus allows rapid learning in novel environments, while slower learning in neocortex accumulates small weight changes to extract systematic structure from well-learned environments. In this work, we adapt this framework to a task from a recent fMRI experiment where novel transitive inferences must be made according to implicit relational structure. We show that computational models capturing the basic cognitive properties of these two systems can explain relational transitive inferences in both familiar and novel environments, and reproduce key phenomena observed in the fMRI experiment.

研究动机与目标

• 探究双神经系统——快速情景学习与缓慢新皮层学习——如何在新环境和熟悉环境中支持灵活的关系推理。
• 解释近期一项fMRI研究中观察到的跨多日隐式关系结构学习的传递性推理行为。
• 开发一个计算模型，捕捉互补学习系统框架在非空间关系推理任务中的认知与神经动力学特征。
• 证明快速情景检索与渐进式结构学习之间的相互作用能够复现类人推理表现与神经模式。

提出的方法

• 该模型实现两个独立的神经网络：一个类海马体的情景网络，采用基于槽位的记忆系统，实现对个体经验的快速、模式分离学习。
• 一个类新皮层的网络通过标准反向传播实现缓慢、渐进式学习，从重复暴露中提取并表示抽象关系结构。
• 通过动态相似性计算检索并链接存储的情景记忆，生成传递性推理，模拟海马体检索机制。
• 情景网络采用基于相似性的检索机制，将不同组别（如能力与受欢迎度轴）的项目关联起来，实现在先前未连接项目之间的推理。
• 该模型整合元学习原则，使情景系统通过反复接触传递性推理问题，学会如何执行推理。
• 该框架在Park等人（2020）的非空间关系任务上进行评估，参与者需学习沿两个隐式轴线排列的面孔的相对排名。

实验结果

研究问题

• RQ1 能否基于互补学习系统框架构建的双神经网络系统，解释在新环境和熟悉关系环境中的传递性推理？
• RQ2 快速情景学习与缓慢新皮层学习如何协同作用，以支持超越即时经验的灵活关系推理？
• RQ3 该模型在多大程度上能复现fMRI观测到的神经动力学，包括海马体基于相似性的检索与新皮层图式化表征？
• RQ4 情景网络执行传递性推理的能力是否依赖于动态相似性计算？与关联链接策略相比有何差异？

主要发现

• 该模型在新环境和熟悉环境中均能成功执行传递性推理，复现了fMRI实验中观察到的人类表现模式。
• 情景网络复现了fMRI证据中海马体基于相似性的检索，尤其在涉及跨组项目链接的推理任务中表现显著。
• 该模型表明，动态相似性计算可有效检索连接不同关系组别的枢纽节点，支持传递性推理，而无需显式关联链接。
• 新皮层网络随时间发展出稳定、类地图的关系结构表征，与新皮层区域中认知地图的渐进形成一致。
• 该模型显示出随着学习进程推进，对情景系统依赖性的下降与对新皮层系统依赖性的上升，与人类从快速到更自动化的推理转变相吻合。
• 该框架解释了为何海马体在早期学习阶段至关重要，但随着新皮层表征变得稳健且可泛化，其参与度逐渐降低。