[论文解读] Developmental Network Two, Its Optimality, and Emergent Turing Machines

Juyang Weng, Zejia Zheng+1 more|arXiv (Cornell University)|Aug 4, 2022

Advanced Memory and Neural Computing被引用 8

一句话总结

本文提出发育网络二号（DN-2），一种新型神经网络架构，通过内部放电模式的最大似然优化，实现增量式、任务无关且涌现的表征学习。通过摒弃其前身DN-1的精确输入-输出匹配，DN-2在音素识别错误率上实现76.9%的降低（从5.92%降至1.37%的平均值），并通过流体、自组织的层次结构形成，展现出涌现的图灵机能力。

ABSTRACT

Strong AI requires the learning engine to be task non-specific and to automatically construct a dynamic hierarchy of internal features. By hierarchy, we mean, e.g., short road edges and short bush edges amount to intermediate features of landmarks; but intermediate features from tree shadows are distractors that must be disregarded by the high-level landmark concept. By dynamic, we mean the automatic selection of features while disregarding distractors is not static, but instead based on dynamic statistics (e.g. because of the instability of shadows in the context of landmark). By internal features, we mean that they are not only sensory, but also motor, so that context from motor (state) integrates with sensory inputs to become a context-based logic machine. We present why strong AI is necessary for any practical AI systems that work reliably in the real world. We then present a new generation of Developmental Networks 2 (DN-2). With many new novelties beyond DN-1, the most important novelty of DN-2 is that the inhibition area of each internal neuron is neuron-specific and dynamic. This enables DN-2 to automatically construct an internal hierarchy that is fluid, whose number of areas is not static as in DN-1. To optimally use the limited resource available, we establish that DN-2 is optimal in terms of maximum likelihood, under the condition of limited learning experience and limited resources. We also present how DN-2 can learn an emergent Universal Turing Machine (UTM). Together with the optimality, we present the optimal UTM. Experiments for real-world vision-based navigation, maze planning, and audition used DN-2. They successfully showed that DN-2 is for general purposes using natural and synthetic inputs. Their automatically constructed internal representation focuses on important features while being invariant to distractors and other irrelevant context-concepts.

研究动机与目标

• 通过开发具备强人工智能式泛化能力的系统，克服弱人工智能在自然、非受控环境中的脆弱性。
• 仅使用感官和运动经验，无需任务特定损失函数，实现无灾难性遗忘的终身增量学习。
• 在颅骨封闭、资源受限的条件下，建立基于最大似然估计的理论基础明确、最优的学习机制。
• 通过内部表征的流体层次结构，实现涌现的通用计算，模仿人类的发育学习过程。
• 通过无监督、自底向上与自顶向下的神经动力学，以接地、容错且自组织的内部特征替代手工设计的符号化表征。

提出的方法

• DN-2采用颅骨封闭的增量学习框架，每个感官-运动输入对仅处理一次并被丢弃，避免批量重训练。
• 网络通过固定超参数下的概率公式，优化内部参数以最大化观测到的感官和运动放电模式的似然性。
• 采用两种类型的Y神经元（类型100和类型101），通过形成稳定的组合放电模式来表征复杂内部特征，降低对单个神经元的依赖。
• 自底向上与自顶向下的连接允许表征的动态优化，实现在无需人类定义概念的情况下涌现抽象。
• 网络根据学习经验随时间增长神经元，其空间分布以从中心向外围的形态演化，可视化于颅骨空间中。
• 理论分析证明每时间步具有线性时间复杂度，确保无论任务复杂度或网络规模如何，均能实现实时性能。

实验结果

研究问题

• RQ1 神经网络能否仅使用自然感官和运动输入，实现增量学习并避免灾难性遗忘？
• RQ2 涌现表征能否形成流体、分层的结构，支持泛化与通用计算，且无需符号手工设计？
• RQ3 在增量学习下，对内部放电模式进行最大似然优化，是否相比精确模式匹配能获得更优的泛化性能？
• RQ4 此类系统能否通过自组织的内部表征动态实现图灵完备性？
• RQ5 该架构是否适合实时嵌入式部署，且每步计算成本恒定？

主要发现

• DN-2将音素识别的平均错误率从DN-1的5.92%降低至1.37%，在重新代入和独立测试集上均实现76.9%的相对改进。
• 在最具挑战性的部分独立测试集中，错误率从DN-1的10.62%降至DN-2的1.53%，表明对未见数据具有强大的泛化能力。
• 可视化显示，类型100与类型101 Y神经元的组合放电在Y区形成了更稳定、更鲁棒的内部表征。
• DN-2中表示沉默的运动神经元（神经元45）所需类型101神经元更少，因类型100神经元贡献了基于体积的区分，减少了冗余。
• DN-2中的Y神经元从中心向外生长，形成不均匀但自适应的空间分布，反映学习历史与经验多样性。
• 网络的时间复杂度为每时间步线性，即使在大规模、持续增长的网络中也能实现实时性能，且随时间无性能退化。