[论文解读] Deep Learning and the Global Workspace Theory

Rufin VanRullen, Ryota Kanai|arXiv (Cornell University)|Dec 4, 2020

Neural dynamics and brain function参考文献 73被引用 4

一句话总结

本文通过在多个专用神经网络之间进行无监督神经翻译，构建了一个统一的、非模态的全局潜在工作空间（GLW），提出了一种深度学习实现全局工作空间理论（GWT）的方法。通过共享潜在空间实现跨模态信息共享，该框架支持更高级的认知、注意力和类意识整合，提供了一种具有可测试神经科学预测能力的类脑人工智能架构。

ABSTRACT

Recent advances in deep learning have allowed Artificial Intelligence (AI) to reach near human-level performance in many sensory, perceptual, linguistic or cognitive tasks. There is a growing need, however, for novel, brain-inspired cognitive architectures. The Global Workspace theory refers to a large-scale system integrating and distributing information among networks of specialized modules to create higher-level forms of cognition and awareness. We argue that the time is ripe to consider explicit implementations of this theory using deep learning techniques. We propose a roadmap based on unsupervised neural translation between multiple latent spaces (neural networks trained for distinct tasks, on distinct sensory inputs and/or modalities) to create a unique, amodal global latent workspace (GLW). Potential functional advantages of GLW are reviewed, along with neuroscientific implications.

研究动机与目标

• 基于全局工作空间理论（GWT）开发一种类脑认知架构，用于人工智能。
• 通过共享的非模态潜在空间，实现在多个专用神经网络之间进行跨模态信息整合。
• 提供一条实用且可实现的路线图，利用现有深度学习组件构建全局潜在工作空间（GLW）。
• 通过将人工智能机制与意识和注意力的神经科学原理对齐，弥合人工智能与神经科学之间的鸿沟。
• 为关于信息广播和神经点火的神经科学研究生成可测试的预测。

提出的方法

• 使用多个专用深度神经网络，每个网络分别针对不同的感官或认知任务进行训练（例如，视觉、自然语言处理、运动控制）。
• 采用这些专用模块潜在空间之间的无监督神经翻译，以实现跨模态信息交换。
• 构建一个全局潜在工作空间（GLW），作为共享的、非模态的表示空间，用于整合来自不同模态的信息。
• 利用循环一致性对抗网络、对偶学习和域自适应等技术，实现在非平行、非重叠潜在空间之间的翻译。
• 通过注意力机制选择并广播显著信息至GLW，模拟大脑中的自上而下和自下而上的注意力。
• 依赖长程循环连接和点火动力学，模拟类似全局神经工作空间（GNW）模型中所有或无的信息广播。

实验结果

研究问题

• RQ1 深度学习架构如何在人工系统中实现全局工作空间理论（GWT）的核心机制？
• RQ2 非模态的共享潜在空间在实现跨模态整合和更高级认知中的作用是什么？
• RQ3 在不同潜在空间之间进行无监督神经翻译，如何支持信息在专用模块之间的广播？
• RQ4 此类基于深度学习的GLW框架可以复制或预测哪些神经科学特征（例如，神经点火）？
• RQ5 该架构如何支持注意力、执行功能以及人工系统中的类意识觉知？

主要发现

• 所提出的全局潜在工作空间（GLW）通过其潜在空间之间的无监督翻译，实现了在多个专用神经网络之间的信息整合。
• 该框架通过实现跨模态的信息共享访问，支持更高级的认知功能，如问题解决和协调决策。
• 神经点火动力学——其特征为广泛脑样网络的全或无激活——可通过循环连接和基于注意力的广播在GLW中实现模拟。
• 该模型为神经科学提供了一个可测试的框架，预测全局信息广播与前额叶、顶枕叶和扣带皮层的持续广泛神经激活相关。
• 现有的深度学习组件（例如，Cycle-GAN、对偶学习、域自适应）足以实现GLW的核心机制，表明当前技术已具备可行性。
• 该方法为实现具有类意识特性的智能系统提供了路径，通过模拟大脑通过共享工作空间实现全局信息可及性的机制。