[论文解读] Connectionism, Complexity, and Living Systems: a comparison of Artificial and Biological Neural Networks

Krishna Katyal, Jesse Parent+1 more|arXiv (Cornell University)|Mar 14, 2021

Neural Networks and Applications被引用 5

一句话总结

本文通过识别生物神经网络（BNNs）中的关键原则——表征复杂性、复杂网络结构/能量特性以及功能鲁棒性——来比较人工神经网络（ANNs）与生物神经网络（BNNs），并提出将这些生物原则整合到ANN中，以通过形态与感官整合提升其动态性、鲁棒性和类生命行为，从而推动更适应性、具身化的ANN发展。

ABSTRACT

While Artificial Neural Networks (ANNs) have yielded impressive results in the realm of simulated intelligent behavior, it is important to remember that they are but sparse approximations of Biological Neural Networks (BNNs). We go beyond comparison of ANNs and BNNs to introduce principles from BNNs that might guide the further development of ANNs as embodied neural models. These principles include representational complexity, complex network structure/energetics, and robust function. We then consider these principles in ways that might be implemented in the future development of ANNs. In conclusion, we consider the utility of this comparison, particularly in terms of building more robust and dynamic ANNs. This even includes constructing a morphology and sensory apparatus to create an embodied ANN, which when complemented with the organizational and functional advantages of BNNs unlocks the adaptive potential of lifelike networks.

研究动机与目标

• 识别当前人工神经网络（ANNs）中缺失的生物神经网络（BNNs）核心原则。
• 研究BNNs中的表征复杂性、网络结构/能量特性以及功能鲁棒性如何指导更具适应性的ANN设计。
• 提出一种将ANN嵌入具身系统（含形态与感官输入）的框架，受BNN组织方式启发。
• 通过生物启发，推动发展具备类生命适应性与动态行为的人工神经网络。

提出的方法

• 分析ANN与BNN在结构与功能上的差异，以提取指导性原则。
• 聚焦表征复杂性作为神经系统信息编码能力的衡量指标。
• 研究BNN中的网络级能量特性与非线性动力学，以指导更高效、更具鲁棒性的ANN架构设计。
• 提出将感官-运动反馈回路与物理形态整合进ANN模型，以实现具身性。
• 利用BNN原则指导设计对扰动与噪声更具鲁棒性的ANN。
• 倡导从纯计算模型向受生物系统启发的具身化、自适应神经系统转变。

实验结果

研究问题

• RQ1 生物神经网络的结构与功能特性与人工神经网络有何不同？
• RQ2 哪些来自生物神经网络的原则可被迁移以提升人工神经网络的鲁棒性与适应性？
• RQ3 生物系统中的表征复杂性在何种方式上可指导更强大的人工神经网络设计？
• RQ4 将人工神经网络嵌入具备感官输入的物理躯体中，如何提升其功能表现？
• RQ5 网络级能量特性与非线性动力学在实现生物神经网络功能鲁棒性中起什么作用？如何在人工系统中实现这种模拟？

主要发现

• 生物神经网络的表征复杂性高于人工网络，从而支持更丰富的信息处理。
• BNN中具有非线性动力学与能量高效信号传递的复杂网络结构，显著贡献于功能鲁棒性。
• BNN的功能鲁棒性源于分布式、自适应与自组织的网络特性，而这些特性在标准ANN中缺失。
• 将ANN嵌入具备感官反馈的物理形态中，可释放出类似生物系统中观察到的适应潜力。
• 将生物原则整合进ANN，为实现更具动态性、鲁棒性与类生命行为的人工智能系统提供了可行路径。