[论文解读] The importance of space and time in neuromorphic cognitive agents

Giacomo Indiveri, Yulia Sandamirskaya|arXiv (Cornell University)|Feb 26, 2019

Advanced Memory and Neural Computing参考文献 27被引用 12

一句话总结

本文提出了一种神经形态认知智能体，利用实时、连续时间动态特性以及基于模拟/数字混合电路的空间分布式内存计算，实现能效高效、自适应的行为。通过模拟生物神经处理机制，该方法使具身智能体能够以远低于传统人工智能系统的功耗，自主学习并与其环境互动。

ABSTRACT

Artificial neural networks and computational neuroscience models have made tremendous progress, allowing computers to achieve impressive results in artificial intelligence (AI) applications, such as image recognition, natural language processing, or autonomous driving. Despite this remarkable progress, biological neural systems consume orders of magnitude less energy than today's artificial neural networks and are much more agile and adaptive. This efficiency and adaptivity gap is partially explained by the computing substrate of biological neural processing systems that is fundamentally different from the way today's computers are built. Biological systems use in-memory computing elements operating in a massively parallel way rather than time-multiplexed computing units that are reused in a sequential fashion. Moreover, activity of biological neurons follows continuous-time dynamics in real, physical time, instead of operating on discrete temporal cycles abstracted away from real-time. Here, we present neuromorphic processing devices that emulate the biological style of processing by using parallel instances of mixed-signal analog/digital circuits that operate in real time. We argue that this approach brings significant advantages in efficiency of computation. We show examples of embodied neuromorphic agents that use such devices to interact with the environment and exhibit autonomous learning.

研究动机与目标

• 通过重新思考计算基础，弥合人工神经网络与生物大脑之间的能耗与适应性差距。
• 开发一种神经形态硬件，通过实时运行的并行内存内模拟/数字电路，模仿生物神经系统。
• 利用连续时间动态和空间分布式计算，使具身智能体能够实现自主学习和环境交互。
• 证明实时物理时间处理相较于传统离散时间、顺序计算，能提升认知智能体的效率与敏捷性。
• 通过强调空间与时间在计算中的作用，弥合人工智能与生物神经系统之间的差距。

提出的方法

• 设计并实现基于混合信号模拟/数字电路的神经形态硬件，用于实时、并行、内存内计算。
• 采用连续时间动态建模神经活动，避免对物理时间的抽象化。
• 将神经形态处理器集成到与动态环境交互的具身智能体中。
• 使用事件驱动、脉冲神经网络模型，实现实时时序物理运行。
• 应用与神经形态硬件兼容的学习规则，实现实时自主学习。
• 系统级架构将传感器输入、神经形态处理与运动输出整合为闭环实时控制系统。

实验结果

研究问题

• RQ1 基于实时物理时间运行的神经形态硬件在多大程度上能提升认知智能体的效率与适应性？
• RQ2 与传统数字架构相比，模拟/数字电路中并行内存内计算在多大程度上可降低能耗？
• RQ3 神经形态系统中的连续时间神经动态是否能够支持自主学习与稳健的环境交互？
• RQ4 在神经形态认知智能体中，计算的空间分布带来哪些优势？
• RQ5 实时处理如何使具身智能体实现更快、更敏捷的响应？

主要发现

• 采用实时连续时间动态的神经形态智能体，其能耗显著低于传统人工神经网络。
• 在并行模拟/数字电路中采用内存内计算，可实现高效低功耗计算，且与生物神经系统高度相似。
• 具备神经形态硬件的具身智能体通过实时交互，在动态环境中展现出自主学习与自适应行为。
• 神经形态处理中空间与时间的整合，相比离散时间顺序处理，可实现更快的响应速度与更高的敏捷性。
• 该方法实现了鲁棒的实时认知任务控制，无需依赖时分复用、重复使用的计算单元。
• 该系统表明，通过空间分布与连续时间动态实现的类生物计算，可在极低能耗下实现高性能。