[论文解读] Limitations of Deep Neural Networks: a discussion of G. Marcus' critical appraisal of deep learning

Stefanos Tsimenidis|arXiv (Cornell University)|Dec 22, 2020

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

本文批判性地审视了加里·马库斯2018年对深度学习的批评，分析了其关于深度神经网络局限性的核心论点。文章讨论了数据效率低下、缺乏推理能力以及模型脆弱性等关键缺陷，同时主张重新聚焦于超越当前深度学习范式的更稳健、可解释的人工智能系统研究。

ABSTRACT

Deep neural networks have triggered a revolution in artificial intelligence, having been applied with great results in medical imaging, semi-autonomous vehicles, ecommerce, genetics research, speech recognition, particle physics, experimental art, economic forecasting, environmental science, industrial manufacturing, and a wide variety of applications in nearly every field. This sudden success, though, may have intoxicated the research community and blinded them to the potential pitfalls of assigning deep learning a higher status than warranted. Also, research directed at alleviating the weaknesses of deep learning may seem less attractive to scientists and engineers, who focus on the low-hanging fruit of finding more and more applications for deep learning models, thus letting short-term benefits hamper long-term scientific progress. Gary Marcus wrote a paper entitled Deep Learning: A Critical Appraisal, and here we discuss Marcus' core ideas, as well as attempt a general assessment of the subject. This study examines some of the limitations of deep neural networks, with the intention of pointing towards potential paths for future research, and of clearing up some metaphysical misconceptions, held by numerous researchers, that may misdirect them.

研究动机与目标

• 批判性评估加里·马库斯2018年论文《深度学习：一项批判性审视》及其关于深度学习缺陷的核心论点。
• 识别并讨论深度神经网络的关键局限性，包括数据效率低下、泛化能力不足，以及在分布外设置下的脆弱性。
• 挑战当前研究对深度学习增量应用的聚焦，认为这可能阻碍长期科学进步。
• 澄清人工智能社区中关于深度学习模型能力与现状的误解。
• 倡导对替代人工智能架构的重新研究，以解决当前深度学习方法的根本局限性。

提出的方法

• 系统性回顾并综合加里·马库斯对深度学习的核心反对论点，尤其聚焦于泛化能力、推理能力与数据效率。
• 分析深度学习在现实世界中的应用，以凸显其表面成功与底层模型缺陷之间的差距。
• 讨论人工智能研究中的形而上学误解，例如高估神经网络的认知能力。
• 比较深度学习在结构化任务与分布外任务中与人类水平推理和泛化能力的表现。
• 识别资金投入不足的研究方向，如神经符号融合与因果推理，作为未来发展的潜在路径。
• 使用来自不同领域（如医学影像、自动驾驶）的案例研究，说明模型的脆弱性与对数据的依赖性。

实验结果

研究问题

• RQ1 加里·马库斯在其2018年批评中指出了深度神经网络的哪些根本局限性？
• RQ2 为何研究界对深度学习应用的聚焦可能阻碍了对核心模型缺陷的改进？
• RQ3 关于深度学习模型认知能力的误解如何误导了科学研究方向？
• RQ4 哪些替代研究方向可能克服当前深度学习范式的局限性？
• RQ5 深度神经网络在何种方式下无法超越其训练数据分布进行泛化，这对现实世界部署有何影响？

主要发现

• 深度神经网络表现出显著的数据效率低下，其在人类仅凭少量样本即可泛化的任务上，仍需大量标注数据。
• 当前的深度学习模型缺乏稳健的推理能力，难以应对需要逻辑推理或因果理解的任务。
• 模型脆弱且容易在分布外输入上失效，即使差异微小或在感知上细微。
• 深度学习的广泛成功可能已造成研究偏向应用导向的工作，减少了对基础模型改进的投资。
• 目前普遍认为，当前的深度学习架构不足以实现人类水平或通用智能。
• 神经符号与混合方法将符号推理与神经学习相结合，虽研究不足，但可能是未来进展的关键。