[论文解读] Graph Neural Networks Meet Neural-Symbolic Computing: A Survey and Perspective

Luís C. Lamb, Artur d’Avila Garcez+4 more|arXiv (Cornell University)|Feb 29, 2020

Advanced Graph Neural Networks参考文献 52被引用 113

一句话总结

本文综述 Graph Neural Networks (GNNs) 与神经符号计算的交叉领域，概述分类体系、关系，以及面向整合推理与学习的有前景方向。

ABSTRACT

Neural-symbolic computing has now become the subject of interest of both academic and industry research laboratories. Graph Neural Networks (GNN) have been widely used in relational and symbolic domains, with widespread application of GNNs in combinatorial optimization, constraint satisfaction, relational reasoning and other scientific domains. The need for improved explainability, interpretability and trust of AI systems in general demands principled methodologies, as suggested by neural-symbolic computing. In this paper, we review the state-of-the-art on the use of GNNs as a model of neural-symbolic computing. This includes the application of GNNs in several domains as well as its relationship to current developments in neural-symbolic computing.

研究动机与目标

• 总结神经符号计算及其分类体系。
• 将 GNN 模型与神经符号计算方法联系起来。
• 综述用于关系型和符号学习的 GNN 架构。
• 识别将符号推理与神经学习整合的挑战与方向。

提出的方法

• 基于 Kautz 框架提出神经符号系统的分类体系。
• 描述 GNNs 与神经符号计算之间的历史联系。
• 解释图卷积和注意力机制如何实现关系与符号推理。
• 讨论 Logic Tensor Nets 和关系嵌入作为 NSC 工具。
• 解释 Pointer Networks 及其在基于集合的组合任务中的作用。
• 突出将 GNNs 与 NSC 融合以实现类型 6 符号推理的机会。

实验结果

研究问题

• RQ1 Graph Neural Networks 如何在不同系统类型中与 neural-symbolic computing 相关联？
• RQ2 哪些主要的 NSC 架构可以通过 GNNs 和相关的基于图的方法表达？
• RQ3 哪些方向或架构能够在神经引擎内部实现真正的符号推理？
• RQ4 将当前 NSC 方法应用于图结构数据时的局限性是什么？

主要发现

• 在 Kautz 的分类法中，GNNs 被视为一种自然类型的神经符号系统。
• 图表示提供置换不变性并可扩展地处理不同大小的图以进行推理任务。
• Logic Tensor Nets 与关系嵌入说明符号知识如何引导神经学习。
• 注意力机制和基于指针的机制用于解决图上的结构化组合问题。
• 本文勾勒了在神经架构中实现完全整合符号推理（类型 6）的研究方向。