[论文解读] The Convergence of AI code and Cortical Functioning -- a Commentary

David Mumford|arXiv (Cornell University)|Oct 18, 2020

AI-based Problem Solving and Planning被引用 12

一句话总结

本文评论认为，现代深度学习架构——尤其是使用修正线性单元（ReLU）和注意力机制的深层神经网络——在结构和功能上正与哺乳动物大脑的新皮质计算趋同。结合神经科学与人工智能的洞见，本文主张通用人工智能的出现并非源于符号推理，而是来自分布式、分层化且具备反馈增强的深度学习系统，这些系统模仿新皮质组织，即使其运作对人类理解仍保持不透明。

ABSTRACT

Neural nets, one of the oldest architectures for AI programming, are loosely based on biological neurons and their properties. Recent work on language applications has made the AI code closer to biological reality in several ways. This commentary examines this convergence and, in light of what is known of neocortical structure, addresses the question of whether ``general AI'' looks attainable with these tools.

研究动机与目标

• 考察人工神经网络与生物新皮质计算之间日益增强的对齐。
• 评估现代深度学习架构是否能够实现通用人工智能。
• 探究分布式表征与离散标记在认知与人工智能中的作用。
• 探索反馈通路与记忆系统在实现人工智能人类级智能中的必要性。
• 评估当前人工智能系统（如Transformer）是否反映或仍偏离皮质原理。

提出的方法

• 使用ReLU激活函数将深层神经网络建模为分段线性函数，通过反向传播进行可学习权重的分层结构。
• 分析反向传播如何在参数量巨大的情况下实现泛化，从而抵抗过拟合。
• 将人工神经网络组件（如残差连接、Dropout、批量归一化）与已知的生物神经机制进行比较。
• 研究反馈在皮质处理中的作用，特别是其在检测变化和通过比较实现识别中的功能。
• 对比基于标记的表征（如word2vec、BERT）与分布式向量表征在建模认知中的差异。
• 提出意识可能源于对分布式神经活动的后验解释，类似于解码器将连续表征输出为离散标记。

实验结果

研究问题

• RQ1 现代深层神经网络在多大程度上镜像了哺乳动物新皮质的结构与功能组织？
• RQ2 仅通过端到端训练的深层网络与反向传播是否足以实现通用人工智能，还是需要额外机制如反馈与记忆？
• RQ3 惠威尔假说（即语言塑造思维）是否得到现代人工智能架构的支持，还是分布式表征更能反映人类认知？
• RQ4 为何基于梯度的深层网络在高容量下仍能表现出极佳泛化能力？这又对生物学习意味着什么？
• RQ5 大脑皮质中的反馈连接如何促进感知与识别？这种机制能否在人工系统中被有意义地模拟？

主要发现

• 现代深层神经网络，尤其是使用ReLU、残差连接、Dropout与批量归一化的网络，其生物合理性与性能持续提升，表明其正趋同于皮质计算。
• 尽管结构复杂，这些网络在未见数据上仍表现出良好泛化能力，这一现象尚未被理论完全解释，表明其鲁棒性与生物学习相似。
• BERT与Transformer等模型的成功表明，分布式表征——而非离散标记——更能捕捉思维与语言的潜在结构。
• 反馈机制（如用于检测输入与记忆之间差异的机制）在识别与理解中似乎至关重要，但在当前人工智能架构中仍被严重低估。
• 意识可能并非源于单个神经元或离散符号，而是源于高层解码器对分布式神经活动的解释，类似于BERT将连续表征解码为离散词汇。
• 未来的人工智能系统可能仍将是不透明且难以解释的，因为其由复杂、分布式表征驱动，难以用简单方式说明——这与人类认知的神秘性相一致。