[论文解读] Towards Data-and Knowledge-Driven Artificial Intelligence: A Survey on Neuro-Symbolic Computing

Wenguan Wang, Yi Yang+1 more|arXiv (Cornell University)|Oct 28, 2022

Neural Networks and Applications被引用 13

一句话总结

本综述全面概述了神经符号计算（NeSy），通过整合神经网络与符号人工智能，结合了学习效率与推理可解释性。它根据集成类型、知识表示、嵌入方式及功能对近期NeSy方法进行分类，对数学应用题和视觉解析等任务进行性能基准测试，并识别出实现人类水平推理与可扩展性的开放性挑战。

ABSTRACT

Neural-symbolic computing (NeSy), which pursues the integration of the symbolic and statistical paradigms of cognition, has been an active research area of Artificial Intelligence (AI) for many years. As NeSy shows promise of reconciling the advantages of reasoning and interpretability of symbolic representation and robust learning in neural networks, it may serve as a catalyst for the next generation of AI. In the present paper, we provide a systematic overview of the recent developments and important contributions of NeSy research. Firstly, we introduce study history of this area, covering early work and foundations. We further discuss background concepts and identify key driving factors behind the development of NeSy. Afterward, we categorize recent landmark approaches along several main characteristics that underline this research paradigm, including neural-symbolic integration, knowledge representation, knowledge embedding, and functionality. Next, we briefly discuss the successful application of modern NeSy approaches in several domains. Then, we benchmark several NeSy methods on three representative application tasks. Finally, we identify the open problems together with potential future research directions. This survey is expected to help new researchers enter this rapidly evolving field and accelerate the progress towards data-and knowledge-driven AI.

研究动机与目标

• 通过统一两者的优点，解决纯神经网络（数据驱动）与符号AI（知识驱动）的局限性。
• 克服深度学习模型在可解释性、数据效率和组合泛化能力方面的不透明性、数据效率低下及缺乏组合泛化能力等问题。
• 通过混合神经符号架构，实现稳健、可解释且可泛化的AI系统。
• 在真实世界任务上对NeSy方法进行基准测试，以评估性能并识别研究空白。
• 规划NeSy的未来方向，特别是在大基础模型时代，以实现人工通用智能。

提出的方法

• 从四个维度对NeSy系统进行分类：神经符号集成方式（端到端、模块化等）、知识表示方式（逻辑、知识图谱等）、知识嵌入方式（向量化的知识）以及功能能力（推理、规划等）。
• 综述NeSy领域的基础性与近期工作，包括早期符号系统、深度学习进展以及混合架构（如DeepMind的可微神经计算机和DeepProbLog）。
• 分析关键技术，如神经符号可微推理、可微逻辑编程以及用于符号操作的可微神经模块。
• 在三项任务上对NeSy模型进行基准测试：逆合成预测、视觉语义解析和数学应用题求解，使用准确率和F1等标准指标。
• 将大语言模型（LLMs）与符号推理结合，以增强知识检索并减少幻觉现象，探索紧密与松散集成模式的差异。
• 提出一种基于元认知能力（如组合性、系统性、因果推理）的NeSy系统评估框架，并以基因组学和机器人学等应用领域作为测试平台。

实验结果

研究问题

• RQ1 如何有效集成神经网络与符号推理，以同时实现数据效率与可解释性？
• RQ2 定义现代神经符号系统的关键方法论维度是什么？它们在设计与性能上存在哪些差异？
• RQ3 NeSy系统在推理密集型任务中，如何优于或补充纯神经网络或符号模型？
• RQ4 NeSy系统如何实现规模化并适应复杂认知功能，如因果推理与反事实推理？
• RQ5 大基础模型在增强符号知识表示并减少神经符号AI中的幻觉现象方面，发挥何种作用？

主要发现

• NeSy系统在数学应用题和视觉语义解析等推理任务中表现出更优性能，相比纯神经基线模型，准确率显著提升。
• 将可微神经模块与符号逻辑相结合的混合模型，相比端到端深度学习模型，展现出更强的组合泛化能力。
• 如DeepProbLog和DeepMind的可微神经计算机中所采用的知识嵌入技术，可在保持符号可解释性的同时实现端到端训练。
• 基准测试表明，NeSy方法在数据稀缺场景下优于标准神经网络，尤其在需要逻辑一致性与逐步推理的任务中表现更优。
• 将大语言模型与符号推理结合可减少幻觉并提升事实一致性，但松散集成模式仍是主要局限。
• 该领域正朝着人类水平的元认知能力发展，但在可扩展性、系统性以及医疗与机器人等现实领域的部署方面仍面临重大挑战。