[论文解读] Scalable Multi-Hop Relational Reasoning for Knowledge-Aware Question Answering

Yanlin Feng, Xinyue Chen+4 more|arXiv (Cornell University)|May 1, 2020

Topic Modeling参考文献 38被引用 26

一句话总结

该论文提出多跳图关系网络（MHGRN），一种可扩展且可解释的方法，通过将图神经网络与结构化关系注意力相结合，在知识增强型问答任务中实现知识图谱上的多跳关系推理。MHGRN 在 CommonsenseQA 和 OpenbookQA 上实现了最先进性能，通过显式建模多跳推理路径，同时保持与路径长度呈线性可扩展性。

ABSTRACT

Existing work on augmenting question answering (QA) models with external knowledge (e.g., knowledge graphs) either struggle to model multi-hop relations efficiently, or lack transparency into the model's prediction rationale. In this paper, we propose a novel knowledge-aware approach that equips pre-trained language models (PTLMs) with a multi-hop relational reasoning module, named multi-hop graph relation network (MHGRN). It performs multi-hop, multi-relational reasoning over subgraphs extracted from external knowledge graphs. The proposed reasoning module unifies path-based reasoning methods and graph neural networks to achieve better interpretability and scalability. We also empirically show its effectiveness and scalability on CommonsenseQA and OpenbookQA datasets, and interpret its behaviors with case studies.

研究动机与目标

• 解决现有知识增强型问答模型在依赖知识图谱进行多跳推理时可解释性和可扩展性不足的问题。
• 通过统一其优势，克服路径基模型（如路径爆炸呈指数增长）和图神经网络（如缺乏可解释性）的局限性。
• 利用单层消息传递机制结合结构化关系注意力，实现高效、可扩展且透明的多跳关系推理。
• 证明显式推理路径可提升模型在常识推理任务中的可信度与性能。

提出的方法

• 提出一种新颖的图编码架构——多跳图关系网络（MHGRN），通过结构化关系注意力在单层内执行多跳消息传递。
• 引入一种结构化关系注意力机制，可关注多跳邻居并保留关系类型信息，从而实现可解释的推理路径。
• 将消息传递形式化为单层操作，聚合所有 K 跳邻居的信息，避免递归计算，确保与跳跃次数 K 呈线性可扩展性。
• 设计一种训练与推理算法，从注意力权重中解码推理路径，实现模型可解释性。
• 将 MHGRN 与预训练语言模型（PTLMs）集成，联合微调文本与图编码器，实现端到端的知识增强型问答。
• 从外部知识图谱（如 ConceptNet）中提取问题与答案实体周围的子图，以限制推理范围并提升效率。

实验结果

研究问题

• RQ1 图神经网络架构能否在知识增强型问答的多跳关系推理中同时实现可扩展性与可解释性？
• RQ2 与黑箱 GNN 或路径基模型相比，显式多跳推理路径的引入如何影响模型性能与可靠性？
• RQ3 在知识增强型问答中，推理的最优跳跃数（K）是多少？模型性能如何随 K 增加而变化？
• RQ4 在不同数据规模下，MHGRN 相较于知识无关微调及其他图编码方法的改进程度如何？
• RQ5 模型的推理过程能否通过与人类逻辑链对齐的提取关系路径得到有效解释？

主要发现

• MHGRN 在 CommonsenseQA（IHTest 上 78.9%）和 OpenbookQA（IHTest 上 71.2%）上达到最先进准确率，显著优于知识无关微调及其他图编码基线方法。
• 在所有测试的数据比例下，模型均持续优于知识无关微调，表明文本编码器与图编码器之间具有强互补性。
• 在 CommonsenseQA 上，K=4 跳时性能最优，K>4 时性能下降，原因在于更长关系路径中噪声增加。
• MHGRN 展现出与跳跃数 K 的线性可扩展性，尽管理论复杂度更高，但训练时间仅比 RGCN 快约两倍。
• 案例研究证实，MHGRN 生成的推理路径连贯且可被人类理解，能够通过语义上有意义的关系将问题实体与答案实体连接。
• 消融研究显示，结构化关系注意力机制与节点类型区分均至关重要，两者对性能提升的贡献几乎相等。