[论文解读] Symphony from Synapses: Neocortex as a Universal Dynamical Systems Modeller using Hierarchical Temporal Memory

Fergal Byrne|arXiv (Cornell University)|Dec 16, 2015

Neural dynamics and brain function参考文献 28被引用 3

一句话总结

本文提出，新皮质通过利用分层时间记忆（HTM）作为通用动力系统建模器，通过自组织的、相互连接的动力系统，内在地计算并表征外部和内部环境的动力学。通过将休斯的HTM模型扩展至涵盖新皮质全部六层，该框架能够通过基于信号的推理和预测异常，内在地建模动力系统，为反向传播驱动的深度学习提供一种生物上合理的替代方案。

ABSTRACT

Reverse engineering the brain is proving difficult, perhaps impossible. While many believe that this is just a matter of time and effort, a different approach might help. Here, we describe a very simple idea which explains the power of the brain as well as its structure, exploiting complex dynamics rather than abstracting it away. Just as a Turing Machine is a Universal Digital Computer operating in a world of symbols, we propose that the brain is a Universal Dynamical Systems Modeller, evolved bottom-up (itself using nested networks of interconnected, self-organised dynamical systems) to prosper in a world of dynamical systems. Recent progress in Applied Mathematics has produced startling evidence of what happens when abstract Dynamical Systems interact. Key latent information describing system A can be extracted by system B from very simple signals, and signals can be used by one system to control and manipulate others. Using these facts, we show how a region of the neocortex uses its dynamics to intrinsically "compute" about the external and internal world. Building on an existing "static" model of cortical computation (Hawkins' Hierarchical Temporal Memory - HTM), we describe how a region of neocortex can be viewed as a network of components which together form a Dynamical Systems modelling module, connected via sensory and motor pathways to the external world, and forming part of a larger dynamical network in the brain. Empirical modelling and simulations of Dynamical HTM are possible with simple extensions and combinations of currently existing open source software. We list a number of relevant projects.

研究动机与目标

• 将新皮质重新定义为并非符号处理器，而是通过复杂动力学而非抽象计算来实现对动力系统的通用建模。
• 将休斯的分层时间记忆（HTM）模型扩展至涵盖新皮质全部六层，超越静态空间快照，实现对时间动态的建模。
• 展示内在神经动力学如何通过信号相互作用提取潜在信息，并实现对复杂系统的控制，其灵感源自动力系统理论。
• 通过基于预测的、误差驱动的学习方式，利用表征-预测异常，为反向传播驱动的深度学习提供一种生物上合理的替代方案。
• 表明可通过基于向量的多层HTM框架高效建模输入的时间一致性与非平稳性，避免深度学习的常见缺陷。

提出的方法

• 将分层皮质学习算法（CLA）从HTM扩展至建模新皮质全部六层，实现对时间序列和系统状态的动态表征。
• 利用动力系统之间的基于信号的相互作用，从输入中提取潜在因果参数，借鉴动力系统理论的研究成果。
• 通过逐步编码表征-预测异常，实现层间与区域间的通信，以稳定内部动力学与行为。
• 采用基于向量的数学描述来形式化神经群如何编码和预测动力系统的行为。
• 利用Takens定理及混沌理论的研究成果，证明动力系统可从时间序列信号中重建，从而实现内在建模。
• 使用开源软件工具进行模拟与实证验证，避免依赖反向传播或批处理。

实验结果

研究问题

• RQ1 新皮质如何在不依赖符号或逻辑计算的前提下，对复杂、时变系统进行建模与预测？
• RQ2 预测误差与表征异常在稳定新皮质动力学并实现自适应行为中起什么作用？
• RQ3 如何将分层时间记忆扩展至全部六层新皮质，以实现对时间动态的建模，而非静态空间快照？
• RQ4 动力系统之间的信号相互作用在何种方式下使一个系统能够推断并控制另一个系统的行为？
• RQ5 基于内在动力学的生物上合理的学习机制是否能在建模时间一致性与非平稳性方面优于反向传播驱动的深度学习？

主要发现

• 新皮质可通过利用内在动力学与基于信号的推理，而非符号处理或反向传播，作为通用动力系统建模器发挥作用。
• 将HTM扩展至建模全部六层新皮质，使系统能够表征并预测时变动力系统的因果参数，包括其非平稳性。
• 跨层表征-预测异常编码可稳定内部动力学，实现一致行为，模拟生物系统中的自组织过程。
• 该框架通过依赖内在的连续动力学，避免了深度学习中常见的梯度消失、批处理及时间顺序随机化等问题。
• 使用现有开源工具可实现对动态HTM模型的实证建模与模拟，从而验证理论框架的可行性。
• 该模型通过耦合动力系统视角，为语言、运动控制与社会互动等认知现象提供了简洁的解释。