[论文解读] Learning Through Time in the Thalamocortical Loops

Randall C. O’Reilly, Dean Wyatte+1 more|arXiv (Cornell University)|Jul 13, 2014

Neural dynamics and brain function参考文献 90被引用 38

一句话总结

本文提出 LeabraTI，一种基于生物学机制的框架，通过丘脑皮层环路和10 Hz的α频段振荡，利用新皮层中的时间整合实现预测学习。通过利用第5b层内在爆发性神经元的节律性活动对时间进行离散化，该模型维持一种动态的时间上下文表征，支持基于误差的学习，从而在复杂视觉场景中准确预测物体轨迹。

ABSTRACT

We present a comprehensive, novel framework for understanding how the neocortex, including the thalamocortical loops through the deep layers, can support a temporal context representation in the service of predictive learning. Many have argued that predictive learning provides a compelling, powerful source of learning signals to drive the development of human intelligence: if we constantly predict what will happen next, and learn based on the discrepancies from our predictions (error-driven learning), then we can learn to improve our predictions by developing internal representations that capture the regularities of the environment (e.g., physical laws governing the time-evolution of object motions). Our version of this idea builds upon existing work with simple recurrent networks (SRN's), which have a discretely-updated temporal context representations that are a direct copy of the prior internal state representation. We argue that this discretization of temporal context updating has a number of important computational and functional advantages, and further show how the strong alpha-frequency (10hz, 100ms cycle time) oscillations in the posterior neocortex could reflect this temporal context updating. We examine a wide range of data from biology to behavior through the lens of this LeabraTI model, and find that it provides a unified account of a number of otherwise disconnected findings, all of which converge to support this new model of neocortical learning and processing. We describe an implemented model showing how predictive learning of tumbling object trajectories can facilitate object recognition with cluttered backgrounds.

研究动机与目标

• 开发一种在新皮层中支持预测学习的生物合理的时间整合机制。
• 解释后新皮层中10 Hz的α频段振荡如何在丘脑皮层环路中组织离散的时间窗口以实现预测学习。
• 在单一计算框架下统一多种神经生物学和行为学发现（如α节律调制和离散化感知），以支持预测学习。
• 展示该模型在复杂条件下解决真实世界视觉识别任务的计算能力。
• 在Leabra框架中扩展时间整合机制（LeabraTI），实现基于预测误差的误差驱动学习。

提出的方法

• 该模型采用离散时间框架，其中时间上下文在每个α周期（100 ms）更新一次，模拟预测与误差信号的‘加减’相位结构。
• 第5b层内在爆发性锥体神经元以α频率放电，触发第6层普通放电神经元的更新，后者投射至丘脑并经由丘脑皮层环路返回皮层。
• 丘脑皮层环路维持先前上下文的持续表征，使模型能够基于学习到的时间规律预测未来输入。
• 误差驱动学习通过Leabra框架实现，其中浅层中的预测误差引导深层的突触可塑性。
• 模型整合了微柱级别单元，其激活反映群体放电率，学习通过相位锁定信号在各层间协调。
• 模拟结果表明，该模型能够实现对复杂视觉显示中翻滚物体轨迹的预测学习，表现出更优的识别性能。

实验结果

研究问题

• RQ1 丘脑皮层环路如何支持新皮层中生物合理的时间上下文表征？
• RQ2 10 Hz的α频段振荡在组织用于预测学习的离散时间窗口中起什么作用？
• RQ3 所提出的LeabraTI框架如何统一神经生物学与行为学中看似无关的发现，如α节律调制与离散化感知？
• RQ4 基于节律性时间更新与误差驱动学习的模型是否能在复杂环境中实现高性能的视觉物体识别？
• RQ5 不同脑区节律（如前额叶皮层的β节律、海马体的θ节律）与预测学习中不同时间尺度的时间整合有何关联？

主要发现

• LeabraTI 模型成功学习在复杂视觉场景中预测翻滚物体的轨迹，即使在干扰物存在的情况下仍表现出稳健性能。
• 10 Hz的α频段振荡提供了一种自然的时间离散化机制，与感知采样中观察到的神经与行为数据一致。
• 通过丘脑皮层环路的反复连接，模型的时间上下文表征得以维持，第5b层爆发性神经元作为预测更新的时钟。
• 浅层计算出的预测误差驱动深层的突触可塑性，实现误差驱动学习，从而提高长期预测准确性。
• 该模型解释了如何通过相位锁定信号协调微柱活动在各层间的同步，支持皮层柱之间的协同学习。
• 该框架为多种发现提供统一解释，包括α节律调制、感知离散化和预测编码，所有均基于单一生物合理机制。